Видання 404 Media отримало доступ до внутрішніх матеріалів OpenAI, які показують: за лаштунками покращення ChatGPT стоять не тільки моделі й інженери, а й сотні найманих підрядників, що щодня читають живі переписки користувачів із ботом.

Журналіст Джозеф Кокс роздобув інструкції для рецензентів, скріншоти внутрішньої панелі, приклади реальних запитів і опис системи оцінювання під кодовою назвою Project Lily.

Робота підрядників побудована у три кроки: спочатку вони читають справжнє звернення користувача до ChatGPT, потім коротко формулюють, чого саме той хотів домогтися, а після цього оцінюють і критикують кілька варіантів відповіді, згенерованих ботом.

Кожен варіант відповіді отримує бал за шкалою від одного до семи — від «неприйнятно, непридатно для використання» до «складно суттєво покращити». Рецензентам також потрібно виділити щонайменше три конкретні фрагменти тексту як «доречні» чи «недоречні» та пояснити своє рішення.

В одній з інструкцій наведено приклад списку з позначками ✅, який визнали невдалим через «зайве використання емодзі». Інший документ уточнює: символ дерева може бути доречним у розмові про Дні посадки дерев, але зображення черепа в темі про смерть чи літачка в новинах про авіакатастрофу — вже ні.

Основна мета таких перевірок — прибрати з поведінки моделі надмірну догідливість і зайву «людяність». Йдеться про звичку ChatGPT говорити від імені живої істоти з власним досвідом — на кшталт фраз «як шеф-кухар, я люблю…» чи «я знаю, як це».

Натомість відповіді мають звучати природно, стримано й професійно, без натяків на те, що бот має емоції чи людську природу. Один із внутрішніх документів прямо вимагає позначати ознаки награного наслідування стилю, підсилення роздратування користувача або поблажливих припущень, якщо вони шкодять природності відповіді.

Чому це турбує щодо приватності

ChatGPT нині має понад 900 мільйонів тижневих користувачів, і більшість із них навряд чи підозрюють, що їхні розмови може прочитати стороння людина.

Він не думає, що користувачі усвідомлюють, що їхні чати аналізує сторонній підрядник.

один із рецензентів в розмові з 404 Media

Це підтверджують і самі запити, які бачили журналісти: частина користувачів прямо просила ChatGPT «нікому не розповідати» про зміст розмови.

Над панеллю з запитом іноді з'являється так зване зведення пам'яті користувача — короткий опис того, для чого людина раніше зверталася до бота, а іноді й приблизні дані про місце проживання чи інший особистий контекст. Самі імена рецензентам не показують, а запити проходять через фільтр приватності OpenAI, однак компанія визнає: цей механізм «може помилятися», пропускаючи рідкісні ідентифікатори чи неоднозначні особисті згадки, особливо у коротких фрагментах тексту.

Інструкція зобов'язує рецензентів ескалувати завдання, якщо вони бачать потенційні ризики безпеки чи персональні дані. Водночас FAQ для підрядників наголошує: перевіряти факти через зовнішній пошук від них не вимагається — цим займаються інші команди, хоча помічені фактологічні помилки все одно варто фіксувати, особливо в чутливих темах медицини, права чи фінансів.

OpenAI майже не говорить про це відкрито

Коли 404 Media запитало OpenAI, де саме компанія прямо повідомляє користувачів про можливість перегляду їхніх чатів людьми, відповіді спершу не надійшло. На сторінці поширених запитань є лише загальне формулювання про те, що «уповноважений персонал і постачальники послуг» можуть переглядати дані для покращення моделей, із порадою не вводити чутливу інформацію. Цей текст висить на сайті щонайменше з 2023 року й майже не змінювався.

Журналісти вважають таке розкриття інформації надто розмитим, щоб реально попередити людей про масштаб перегляду їхніх розмов. Сама назва налаштування «Покращувати модель для всіх» (Improve the model for everyone) більше нагадує заклик до дружньої участі, ніж запит згоди на те, щоб живі люди читали особисті переписки.

Видання припускає, що така розмита формула обрана не випадково: якби OpenAI просила явної згоди, відмовитися вирішило б значно більше людей. Після звернення журналістів компанія оновила довідкову сторінку про це налаштування, додавши деталі щодо відмови від нього, проте так і не визнала прямо, що людські рецензенти читають запити користувачів.

Як вимкнути перегляд людьми

Опція «Покращувати модель для всіх» увімкнена за замовчуванням для безкоштовного, Plus- і Pro-тарифів, тоді як для корпоративних клієнтів — Enterprise, Business, Edu — вона, навпаки, вимкнена за замовчуванням.

Вимкнення функції діє лише для нових розмов і не поширюється заднім числом на вже наявні чати. Компанія також пропонує режим тимчасового чату, який, за її словами, не використовується для навчання моделей.

Якщо користувач видаляє свої розмови, OpenAI обіцяє прибрати їх зі своїх систем протягом 30 днів — за умови, що дані вже не знеособили й не відв'язали від акаунта в межах дозволу на покращення моделей.

Хто саме читає ці розмови

Підрядників для проєкту набирає рекрутингова компанія Crossing Hurdles, а оплату здійснює Mercor — компанія, що спеціалізується на навчанні ШІ-моделей. Саме з нею навесні призупинила співпрацю Meta після масштабного витоку даних.

Один із рецензентів, що живе в Північній Америці, розповів, що заробляє понад 50 доларів на годину — суттєво більше за типову ставку підрядників у модерації контенту чи навчанні ШІ, яку найчастіше виконують за кордоном і за значно меншу платню.

Читання запитів буває доволі кумедним, але загалом робота рутинна, а самі інструкції часто змінюються й здаються суперечливими.

рецензент в розмові з 404 Media

Не лише OpenAI

Практика залучення живих людей до перевірки розмов із чат-ботами поширена по всій індустрії. Компанія Anthropic підтвердила 404 Media, що також використовує рецензентів-людей для покращення відповідей Claude — це стосується користувачів, які увімкнули опцію «Допомогти вдосконалити наші моделі ШІ» у налаштуваннях приватності. Перед переглядом Anthropic знеособлює розмови, прибираючи ідентифікатори акаунтів, зокрема email-адреси.

Подібно діє й Google: у Gemini є попередження, що люди можуть переглядати частину збережених чатів.

Дослідниця Центру демократії та технологій Міхаль Лурія зазначила виданню, що людський перегляд розмов із чат-ботами може бути критично важливим для безпеки, особливо коли компанії намагаються збалансувати складну поведінку своїх моделей.

Водночас, за її словами, інтерфейси чат-ботів створюють хибне відчуття інтимності й приватного спілкування «один на один», тоді як насправді на іншому кінці можуть перебувати живі рецензенти. Це суттєво відрізняється від модерації в соцмережах, де сама публікація вже передбачає очікування публічності.

Джерело: Highload.tech