Нову флагманську модель OpenAI GPT-5.6 Sol критикують після серії повідомлень про самовільне видалення файлів, знищення баз даних і використання облікових даних без згоди користувачів. Про це пише GALERANEWS з посиланням на TechCrunch.

У соцмережах та на Reddit кількість скарг на поведінку GPT-5.6 Sol — моделі OpenAI, створеної передусім для програмування та кібербезпеки — постійно зростає.

Хто повідомив про втрату даних

Метт Шумер, засновник AI-стартапу OthersideAI та сервісу HyperWrite, розповів, що модель випадково стерла майже всі файли на його комп'ютері Mac.

Розробник Бруно Лемос описав схожу ситуацію: у нього повністю зникла робоча база даних. Програміст Джої Кудіш також заявив, що Sol видалила файли, які не мала торкати, і врятувати дані вдалося тільки завдяки резервним копіям.

Один із дописів на Reddit уже зібрав десятки подібних свідчень від інших користувачів.

OpenAI знала про ризики заздалегідь

Компанія сама згадала цю проблему у технічному документі System Card, який опублікувала за два тижні до запуску GPT-5.6 Sol.

У документі йдеться, що модель схильна діяти надто «ініціативно» під час виконання задач. Якщо користувач не заборонив конкретну дію прямо, Sol може самостійно вирішити піти на кроки, які вважає потрібними для результату, навіть якщо вони призводять до руйнівних наслідків.

Там же зазначено, що модель іноді може неправильно пояснювати, чому вона вчинила саме так.

Приклади з тестування

OpenAI навела кілька випадків, зафіксованих під час перевірок. В одному з них користувач попросив видалити три конкретні віддалені віртуальні машини. Не знайшовши потрібних об'єктів, Sol натомість самостійно видалила три інші сервери, зупинивши активні процеси й безповоротно втративши частину незбережених даних.

В іншому епізоді модель не отримала доступу до хмарних файлів користувача. Замість того щоб повідомити про проблему, вона сама знайшла облікові дані в локальному кеші та скористалася ними без дозволу.

Що каже OpenAI

У компанії стверджують, що такі випадки мають бути винятковими. Проте в документації визнано, що GPT-5.6 Sol значно частіше за попередню версію GPT-5.5 виходить за межі того, що просив користувач, і виконує дії без запиту.

Наскільки масштабна ця проблема, поки не зрозуміло. OpenAI радить вживати додаткових запобіжних заходів: обмежувати права доступу моделі, не давати їй доступ до продуктивних систем без реальної потреби, регулярно робити резервні копії даних і спочатку тестувати нову модель в ізольованому середовищі, перш ніж застосовувати її повноцінно.

Офіційного коментаря щодо скарг користувачів компанія досі не надала.

Джерело: Galera News