Модель Claude тепер самостійно керує чвертю науково-дослідних робіт, пов'язаних зі створенням наступних поколінь моделей всередині Anthropic. Про це повідомляє Reuters.
Станом на серпень штучний інтелект брав участь у понад 90% внутрішніх дослідницьких завдань компанії, працюючи разом із людьми-інженерами.
Як зростала роль Claude у внутрішніх процесах Anthropic
Дані незалежної організації Epoch AI показують: ще у березні лише 1% напрямів досліджень мав Claude у провідній ролі. Проте вже до кінця літа цей показник підскочив до 26%.
У самій компанії наголошують, що навіть попри таке зростання, модель ще не працює повністю автономно на жодній зі стадій. Мова йде про автоматизацію окремих інженерних процесів, коли ШІ очолює виконання підзадач, а фахівці-люди контролюють остаточний результат.
У серпні на внутрішній платформі компанії одночасно функціонувало приблизно 30 тисяч ШІ-агентів, зайнятих інженерними та дослідницькими обчисленнями.
Кожну операцію системи перед виконанням перевіряють автоматичні механізми безпеки. З понад мільярда дій, здійснених за місяць, система зупинила приблизно одну на кожні 47 тисяч через порушення встановлених протоколів.
Компанія також поділилася інформацією про обсяг обчислювальних потужностей, які виділяє на дослідження безпеки. У липні на ці потреби пішло близько 6% усіх ресурсів Anthropic. Натомість у задачах, виконуваних ШІ самостійно, ця частка зросла до 12%.
Нагадаємо, що російські хакери та пов'язані з росією особи намагалися застосовувати Claude для кібератак проти України, розробки автономних бойових дронів та закупівлі товарів для оборонної промисловості росії.
Anthropic розповіла про окремі випадки, коли користувачі з росії намагалися використовувати Claude у військових та розвідувальних цілях. У компанії заявили, що заблокували пов'язані з цим акаунти, а отримані дані застосували для посилення захисту своїх моделей.
Джерело: AIN.UA
