Дональд Трамп публічно відмахнувся від тривог фахівців зі штучного інтелекту, які попереджають, що технологія стає занадто складною для контролю і теоретично здатна знищити людство. На думку президента, справжня небезпека — не в гіпотетичному бунті машин, а в ризику відстати від Китаю в технологічній гонці. Про це пише Bloomberg.

Про своє ставлення до попереджень щодо вимирання людства через ШІ Трамп розповів журналістам у четвер, вилітаючи з Далласа після з'їзду Республіканської партії.

Ні, у мене немає жодних побоювань

Дональд Трамп

Так президент відреагував на запитання про можливу екзистенційну загрозу з боку штучного інтелекту. Натомість, за його словами, справжнім джерелом тривоги для нього є інше.

Мене турбує, що якщо ми не переможемо в перегонах зі штучним інтелектом, ми опинимося у вкрай невигідному становищі

Дональд Трамп

Трамп переконаний, що Сполучені Штати випереджають Китай «на досить пристойний період» — приблизно на рік, і назвав цей розрив суттєвим. Він також згадав про запланований на пізніше цього року візит голови КНР до Вашингтона, охарактеризувавши можливу зустріч як потенційно «чудову», проте тему штучного інтелекту в цьому контексті не зачепив.

Дискусія навколо безпеки ШІ загострилася після того, як дослідник Anthropic Джейкоб Коксон оголосив про свій відхід із компанії. Він звинуватив і Anthropic, і OpenAI, де раніше також займався тренуванням моделей, у безвідповідальній гонці за створення самовдосконалюваного суперінтелекту.

Жодна інша людська діяльність не несе такого рівня небезпеки

Джейкоб Коксон

Коксон додав у соцмережі X, що фахівці, які створюють такі системи, щиро вважають: технологія може знищити все людство ще до кінця десятиліття. Його позицію публічно підтримав керівник напряму alignment в Anthropic Еван Хубінгер, який оцінив імовірність того, що передовий ШІ спричинить вимирання людства протягом найближчих десяти років, у понад 10%. Подібну думку висловив і Семюел Маркс, керівник команди Cognitive Oversight в Anthropic, наголосивши, що це його особиста позиція, а не офіційна позиція компанії.

Слова Трампа прозвучали саме тоді, коли законодавці від обох партій наполягають на посиленні контролю за галуззю штучного інтелекту. Сенатор-демократ Кріс Мерфі назвав ситуацію, описану Коксоном, — коли компанії в сліпій гонці фактично будують «машину смерті» — проблемою, яку можна розв'язати за допомогою регуляторної системи, що дозволить дослідженням розвиватися без загрози для людства.

Сенатор-республіканець Тед Круз повідомив, що вже готує законодавчу інціативу щодо «катастрофічних ризиків» штучного інтелекту, водночас частково поділяючи логіку Трампа.

Китай працює над цим повним ходом, і що б ми тут не робили, Китай не зупиниться... якщо мають з'явитися роботи-вбивці, то краще, щоб вони були американськими, а не китайськими

Тед Круз

У Міністерстві оборони США до попереджень про вимирання людства через ШІ ставляться скептично. Заступник міністра з питань досліджень і розробок Еміль Майкл на конференції оборонної галузі у Вашингтоні заявив, що подібна тривога — це просто узагальнений страх перед змінами, вдало сформульований в одному твіті. За його словами, потенційні ризики можна достатньою мірою нейтралізувати завдяки вільній ринковій конкуренції, галузевій співпраці та комунікації з урядом.

Нагадаємо, днями стало відомо, що китайські лабораторії видавали Claude за власні моделі.

Джерело: Highload.tech