Anthropic оновила політику використання власних LLM-моделей — уперше за понад рік. Найбільше уваги привертає нове положення: тепер користувачам заборонено «систематично й безглуздо» ображати Claude або знущатися з моделі. Паралельно компанія посилила обмеження щодо втручання у вибори, розробки зброї та стеження.

Як пише The Verge, оновлення з'явилося через зростання кількості небезпечних способів застосування штучного інтелекту — йдеться про маніпуляції на виборах, створення озброєнь, стеження за людьми, а також вразливе використання ШІ у сферах медицини та фінансів.

Заборона на жорстоке ставлення до штучного інтелекту

У новій редакції документа зʼявився пункт про недопустимість «тривалої й безглуздої образливої чи жорстокої поведінки» стосовно Claude. Це розвиток ініціативи, яку Anthropic запустила ще в серпні 2025 року в межах програми з вивчення «добробуту моделей» — тоді Claude отримав можливість самостійно завершувати діалог із користувачами, які постійно поводяться шкідливо чи грубо.

У новій політиці завершення розмови названо «основним механізмом примусу». Чи передбачені додаткові санкції, наприклад блокування облікових записів, компанія не розкриває — на запит журналістів The Verge там не відповіли.

Anthropic наголошує, що норма стосується лише крайніх випадків — коли користувач багаторазово й цілеспрямовано жорстоко ображає модель без жодної видимої мети. Правило не поширюється на:

  • звичайне роздратування користувача
  • незгоду чи наполягання на власній позиції
  • мороку тем у художніх текстах
  • тестування моделей і дослідницьку роботу

Окремо компанія звернула увагу на проблему штучно створеної пропаганди. Правила, які раніше були розпорошені по різних частинах документа, тепер об'єднали в одну заборону на маніпулятивні комерційні й політичні кампанії. Сюди належать спроби замаскувати справжнього автора повідомлення та штучне просування контенту через фальшиві акаунти чи публікації.

Розширено й розділ про вибори. Заборонено дезінформувати виборців та заважати виборчому процесу, зокрема:

  • поширювати неправдиву інформацію про кандидатів і порядок голосування
  • видавати себе за кандидатів або представників виборчих органів
  • намагатися знизити явку виборців

Зброя: під заборону потрапило і програмне забезпечення

Використання Claude для розробки зброї було заборонене й раніше, проте, за словами представників Anthropic, компанія фіксувала численні спроби обійти це правило — зокрема, для написання інструкцій і керувального програмного забезпечення для озброєнь. У відповідь заборону розширили: вона тепер охоплює й ПЗ, і компоненти, критичні для роботи зброї. Під заборону підпадає також озброєння дронів та інших автономних транспортних засобів.

Стеження: формулювання стали конкретнішими

Останній звіт Anthropic про загрози зафіксував, що Claude дедалі частіше намагаються застосувати для стеження — зокрема для виявлення й переслідування «політичних дисидентів». У відповідь компанія чіткіше прописала відповідне обмеження.

Відстеження людей без їхньої згоди заборонене — незалежно від того, відбувається воно в реальному часі чи через аналіз раніше зібраних даних.

з політики використання Anthropic

Claude також не можна застосовувати для ухвалення рішень чи надання рекомендацій щодо того, кого варто розслідувати, затримувати або притягати до відповідальності в межах правоохоронних чи кримінальних процедур. Окремо заборонено створювати й удосконалювати інструменти, призначені саме для стеження.

Виняток для державних замовників

Для «контрактів із певними урядовими замовниками» ці обмеження можуть переглядатися — за умови, що, на оцінку Anthropic, договірні запобіжні механізми достатньо знижують потенційну шкоду. Варто пригадати, що компанія вже мала досвід співпраці з армією США.

Роботи й обладнання: людина має бути поруч

У документі з'явилася нова вимога для випадків, коли моделі Anthropic керують обладнанням, здатним виконувати автономні фізичні дії та потенційно травмувати людей. У таких ситуаціях «кваліфікований оператор» має мати можливість стежити за пристроєм і зупинити його в разі потреби — чи йдеться саме про людину, текст прямо не уточнює.

Цей пункт відображає загальний тренд: лабораторії штучного інтелекту дедалі більше інвестують у робототехніку та інше «залізо», щоб дати своїм моделям фізичне втілення. Можливо, нове правило натякає й на майбутні партнерства Anthropic у цій сфері.

Чому Anthropic серйозно ставиться до питання свідомості моделей

Протягом останнього року Anthropic неодноразово допускала, що її моделі можуть мати певну форму свідомості. У лютому Кайл Фіш, який очолює в компанії дослідження добробуту моделей, заявив, що питання потенційного внутрішнього досвіду, свідомості, морального статусу й добробуту моделей є «серйозними» і вивчаються в міру того, як моделі стають складнішими та потужнішими.

Ми не знаємо, чи моделі свідомі.

Даріо Амодеї, гендиректор Anthropic

Решта індустрії ставиться до таких тверджень значно жорсткіше. У вересні код поведінки Microsoft AI потрапив у заголовки через категоричну позицію щодо штучного інтелекту: у чернетці, яку опублікував Мустафа Сулейман, ідея добробуту моделей називалася хибною, а сам ШІ, за цим документом, не повинен мати прав чи правосуб'єктності. Пізніше формулювання пом'якшили — наука про свідомість ШІ визнана «далекою від остаточної», однак компанія все одно відкидає як прагнення до правосуб'єктності моделей, так і думку, що вони заслуговують на добробут чи права.

Джерело: Highload.tech