Видання Axios із посиланням на власні джерела повідомило, що топменеджмент Anthropic, OpenAI та інших компаній, які розробляють штучний інтелект, у закритому режимі готує плани дій на випадок першої великої аварії з участю ШІ. За словами джерел, значна частина керівників і провідних дослідників переконана: серйозний інцидент — справа найближчого майбутнього, і станеться він протягом 6–12 місяців.

Який сценарій вважають найбільш реалістичним

Базовим варіантом розвитку подій співрозмовники Axios називають масштабну кібератаку, яка залишить людей без доступу до банківських сервісів, інтернету або навіть електроенергії. Учасники закритих обговорень переконані, що перший доказаний випадок серйозної шкоди від небезпечного ШІ остаточно підірве і без того обережне ставлення суспільства до самої технології та її творців.

Основний удар критики, на їхню думку, припаде на очільника Anthropic Даріо Амодеї, гендиректора OpenAI Сема Альтмана та президента США Дональда Трампа — останнього звинувачують у небажанні запроваджувати регулювання галузі.

Саме по собі сценарне моделювання — не новина: Пентагон влаштовує подібні воєнні ігри вже десятиліттями. Унікальність поточної ситуації в тому, що зараз саме керівники та дослідники ШІ-індустрії самі переконані в неминучості серйозного збою.

Позиція OpenAI та мовчанка Anthropic

У OpenAI підтвердили, що компанія на регулярній основі проводить навчання з готовності до кризових ситуацій, під час яких команди опрацьовують широкий перелік можливих сценаріїв. Представник компанії наголосив, що такі події не вважаються неминучими, а самі вправи потрібні лише для того, щоб краще підготуватися до різних варіантів розвитку подій. В Anthropic від офіційних коментарів утрималися.

Пошук винних почнеться миттєво

Хто саме опиниться в центрі звинувачень, залежатиме від природи самого інциденту. Це може бути неконтрольований рій автономних ШІ-агентів, що вийде за межі внутрішнього тестового середовища. Або ж зловмисник, який знайде нетиповий спосіб застосувати вже наявні моделі. В обох випадках, зазначають співрозмовники Axios, пошук відповідальних розпочнеться практично одразу.

Південнокорейський кейс як ілюстрація масштабу загрози

Масштаб потенційної шкоди вже демонструє нещодавня атака на фінансовий сектор Південної Кореї, у межах якої повідомлялося про злам щонайменше двох банків. За даними CrowdStrike, хакер із Китаю, імовірно, застосував ШІ-інструменти на основі китайських моделей, зокрема DeepSeek, щоб викрасти дані десятків тисяч банківських клієнтів. Пізніше він звернувся до Claude Code, щоб з'ясувати, де вигідніше продати здобуту інформацію.

Чого очікують від політиків після першої катастрофи

Керівники ШІ-компаній допускають, що Демократична партія, посиливши позиції після проміжних виборів, спробує оперативно загальмувати розвиток штучного інтелекту. Проте на цьому шляху, за їхніми оцінками, постане кілька серйозних перепон.

  • Конгрес відстає від темпів розвитку технології й може просто не впоратися з адекватною оцінкою ситуації
  • Світова економіка вже надто тісно пов'язана зі стрімким будівництвом дата-центрів, тож різке гальмування вдарить по й без того крихкому ринку
  • Відкриті моделі вже масово завантажені користувачами, і централізовано «вимкнути» їх неможливо

Більшість фахівців із кібербезпеки переконана, що захиститися від неконтрольованого штучного інтелекту можна лише за допомогою інших ШІ-систем.

Які законопроєкти вже лежать на столі

Серед найрадикальніших ідей демократів — повна заборона суперінтелекту та пауза в розробці найпередовіших моделей. Водночас існують і пропозиції з двопартійною підтримкою, деякі з яких схвалює навіть частина самої індустрії. Приклад — законопроєкт, що передбачає обов'язковий «рубильник» для найпотужніших систем. Експерти, втім, сумніваються, що технічно реально вимкнути абсолютно всі ШІ-системи одночасно.

Аналітики великих ШІ-компаній не обмежуються моделюванням найгірших сценаріїв — вони також активно навчають членів Конгресу. Керівники розуміють, що зараз просувати жорсткі закони у Вашингтоні немає сенсу. Натомість їхня справжня мета — заздалегідь підготувати тексти законопроєктів і правила гри, до яких американська влада неминуче звернеться одразу після першого серйозного інциденту.

Джерело: Highload.tech