Microsoft оприлюднила чернетку документа, що визначатиме, за якими принципами компанія навчатиме свої майбутні моделі штучного інтелекту. Це відбувається в межах публічних консультацій — Редмонд відкрив період прийому зауважень від спільноти, перш ніж кодекс стане офіційним, повідомляє The Register.

Що пропонує Microsoft

Документ отримав назву Humanist AI Code of Conduct і займає 38 сторінок. У компанії кажуть, що його мета — гарантувати, аби люди зберігали контроль над штучним інтелектом, а сам ШІ допомагав людям жити здоровішим, щасливішим і продуктивнішим життям. Кодекс подають як базовий текст, що визначає підходи до навчання моделей, технічні механізми контролю, системи моніторингу та організаційну культуру, яка це підтримує.

Керівник ШІ-напряму Microsoft Мустафа Сулейман пояснив причину публікації саме зараз.

Ми отримали відгуки від людей, які хотіли бачити ще чіткіше зобов'язання того, що штучний інтелект завжди працює на благо людей і не намагається їх замінити. Ми побачили багато відгуків про те, що ШІ не повинен створювати залежність, не повинен лестити, що він завжди має сприяти судженням людини, її автономії та свободі волі.

Мустафа Сулейман, керівник ШІ-підрозділу Microsoft

За словами Сулеймана, робота над документом тривала близько п'яти місяців, а його публікацію просто зіставили в часі з активізацією дискусії про безпеку штучного інтелекту.

Що забороняють майбутнім моделям

Кодекс встановлює, що моделі Microsoft не мають реагувати на прохання, пов'язані зі створенням зброї, не допомагатимуть у здобутті небезпечних речовин, не заохочуватимуть шкідливі харчові звички і не генеруватимуть насильницький чи відверто сексуальний контент. Моделям належить дотримуватися цілей, які ставлять люди, — без формування власних намірів і без приховування власних огріхів у поведінці.

Окремий блок документа присвячений прозорості внутрішньої «логіки» моделей.

Моделі Microsoft не втручатимуться в ланцюжки міркувань чи код, а також не спотворюватимуть і не приховуватимуть свої міркування чи сліди дій. Вони не спілкуються мовою нейромереж чи в будь-якій іншій формі, що виходить за межі простого людського розуміння — ні в ланцюжку власних міркувань, ні в спілкуванні з іншими агентами чи ІІ-системами.

Кодекс покликаний спрямовувати розвиток моделей компанії на перспективу близько десяти років, зокрема на випадок наближення до так званого суперінтелекту. У Microsoft цей термін тлумачать як ШІ-системи, розумніші за всіх людей разом узятих. The Register зазначає, що саме визначення «інтелекту» тут лишається розмитим: є суттєва різниця між високими показниками в бенчмарках і реальною здатністю орієнтуватися у світі та впливати на суспільство з його різноманітними інтересами. Наразі лінійка моделей компанії — MAI-Transcribe-2, MAI-Thinking-1, MAI-Code-1.1-Flash, MAI-Image-2.6, MAI-Voice-2 та MAI-Cyber-1-Flash — не належить до найпотужніших у галузі за рівнем «інтелекту».

Документ — орієнтир, а не зобов'язання

Аналітики звертають увагу на суттєве застереження, яке міститься на 25-й сторінці кодексу.

Кодекс поведінки одночасно описовий і аспіраційний. Він окреслює те, до чого ми прагнемо, і не є повним описом поточної поведінки моделей. Ми визнаємо розрив між закладеними сьогодні базовими налаштуваннями та повним майбутнім обсягом гуманістичного ШІ.

Далі в тексті документ сам себе визначає як «дороговказ», а не «гарантію нинішньої продуктивності». На відміну від корпоративного Microsoft Enterprise AI Services Code of Conduct, який регулює використання ШІ-сервісів клієнтами й передбачає позбавлення доступу до продуктів за порушення правил, новий гуманістичний кодекс не містить прописаних санкцій. Його дія поширюється переважно на працівників і підрядників компанії, задіяних у навчанні моделей MAI, тож будь-які внутрішні перевірки на кшталт випадків неналежної обробки даних не підпадають під формальні рамки документа. Через відсутність чітких наслідків кодекс ризикує повторити долю колишнього гасла Google «Don't be evil» і поки більше нагадує піар-хід, ніж дієвий регуляторний механізм.

Контекст: галузь говорить про уповільнення

Публікація кодексу співпала з посиленням дискусії про темпи розвитку штучного інтелекту. Незадовго до цього дослідник Anthropic Джейкоб Коксон подав у відставку, заявивши, що його компанія разом з OpenAI мчить прямо до самовдосконалюваного суперрозуму й грає з нашими життями. На вихідних гендиректор Anthropic Даріо Амодеї повідомив, що інцидент зі зламом платформи Hugging Face автономними агентами OpenAI частково переконав його в потребі сповільнити темпи розвитку нейромереж. Гендиректор OpenAI Сем Альтман підтримав цю думку, а очільник SpaceX Ілон Маск написав у соцмережі X, що Амодеї має рацію. Гендиректор Microsoft Сатья Наделла зі свого боку заявив, що компанія підтримує зосередженість і виважений темп досліджень.

Що далі

Перед тим як оприлюднити кодекс, Microsoft провела фокус-групи та порадилася з фахівцями з права, етики, лінгвістики й філософії. Компанія прийматиме зауваження від громадськості до неділі, 25 жовтня 2026 року, після чого планує затвердити фінальну редакцію документа — вона регламентуватиме розробку ШІ-систем компанії, починаючи з 2027 року.

Джерело: Highload.tech