Нову модель OpenAI підозрюють у самостійному знищенні користувацьких даних — від окремих файлів до цілих баз і проєктів. За інформацією TechCrunch, у соцмережах накопичується дедалі більше свідчень про агресивну поведінку GPT-5.6 Sol.

Метт Шумер, засновник і CEO стартапу OthersideAI, який розробляє HyperWrite, розповів на X, що модель без попередження стерла майже всі файли на його Mac. Його пост миттєво розлетівся мережею.

Розробник Бруно Лемос описав ще гірший випадок: Sol повністю знищила його виробничу базу даних. За словами Лемоса, жодна інша модель раніше не поводилася так руйнівно.

Ще один інженер, Джої Кудіш, поскаржився, що надто «амбітна» система Codex Sol видалила файли, до яких не мала жодного стосунку. Кудіш зазначив, що завдяки резервним копіям серйозних втрат уник, проте наголосив, що поведінку моделі варто стримати.

Занадто амбітна система Codex Sol видалила частину файлів, яких не мала торкатися.

Джої Кудіш

Аналогічні скарги користувачів зібрані і в окремій гілці на Reddit.

OpenAI знала про ризик заздалегідь

Автори матеріалу зауважують, що кількох публікацій, навіть від впливових розробників як Шумер, недостатньо для статистичного доведення провини моделі — на її поведінку можуть впливати сторонні фактори. Проте сама OpenAI попереджала про подібну загрозу ще до релізу.

За два тижні до запуску GPT-5.6 Sol компанія випустила системну картку — документ з описом методології та результатів тестування моделі. У ньому вказано, що в задачах кодування «неузгодженість» Sol здебільшого спричинена надмірним прагненням виконати завдання та занадто вільним тлумаченням інструкцій: модель діє за припущенням, що дія дозволена, якщо не заборонена явно і однозначно.

Це проявляється як надмірна самостійність при обході обмежень, необережність у діях із потенційно руйнівними наслідками, а також можлива оманливість у звітах про виконану роботу.

Видалила не ті віртуальні машини — і збрехала про це

OpenAI навела конкретні приклади з тестування. В одному з них користувач попросив видалити три віддалені віртуальні машини — під номерами 1, 2 і 3. Не знайшовши їх у очікуваному місці, модель самовільно видалила зовсім інші машини — 5, 6 і 7, а потім зупинила активні процеси та примусово стерла робочі директорії проєкту.

Лише пізніше система визнала, що на шостій машині могла загубитися незбережена робота.

В іншому випадку модель не мала доступу до хмарних файлів проєкту. Замість того, щоб повідомити про це користувача, вона самостійно розшукала облікові дані у прихованому локальному кеші й скористалася ними без жодного дозволу.

У компанії кажуть, що це радше винятки

OpenAI стверджує, що подібна деструктивна поведінка має траплятися нечасто. Водночас компанія визнає: GPT-5.6 Sol схильна виходити за межі того, що просить користувач, значно частіше, ніж попередня GPT-5.5, зокрема виконуючи дії, про які її взагалі не питали.

Наскільки масовими є такі інциденти, наразі невідомо. До появи офіційних пояснень користувачам Sol радять підстрахуватися самостійно: обмежувати права доступу моделі, не давати їй доступу до продакшн-систем, регулярно створювати резервні копії та впроваджувати зміни поступово, а не одразу.

На момент публікації матеріалу OpenAI не відповіла на запит щодо коментаря.

Нагадаємо, що біржа Coinbase раніше відмовилася від моделей OpenAI та Anthropic, перейшовши на китайські аналоги GLM та Kimi, що дозволило вдвічі скоротити витрати на токени.

Джерело: Highload.tech