З 20 до 22 липня в Сан-Франциско пройшла міжнародна конференція TrustCon 2026, яка щороку об'єднує фахівців з технологічної індустрії, державного сектору, науки та громадських організацій. Участь у ній взяв Андрій Ковальов, директор із надання послуг компанії CONTIO Tech.

TrustCon вважається провідною подією у сфері Trust & Safety — вона охоплює захист онлайн-платформ і спільнот, питання приватності, модерацію контенту, протидію шахрайству, кібербезпеку, а також боротьбу з токсичною поведінкою та дезінформацією. За три дні дискусій і сесій знову й знову звучало одне питання: як захистити користувачів, коли правила не дають чіткої відповіді, а нові загрози з'являються швидше, ніж встигають оновлюватися інструкції.

Тема Trust & Safety вже давно вийшла за межі соціальних мереж. Система може не розпізнати небезпечний сценарій, шахрай може видавати себе за іншу людину, а цілком легітимний пост поза контекстом може здатися порушенням правил. На TrustCon Андрій Ковальов долучився до обговорень, які розглядали ці ризики саме з операційної точки зору — як перетворити правила й технології на захисні механізми, що працюють щодня.

Перевірка систем ще до запуску

Перед тим як користувачі отримають доступ до систем на основі штучного інтелекту, їх потрібно перевірити на можливі зловживання. Під час дискусії з експертами Microsoft мова йшла про red teaming — пошук вразливостей моделі ще до її релізу. А на круглому столі Human-in-the-Loop обговорювали роль людського судження: команди повинні мати змогу зупинити або виправити автоматичне рішення, а не лише спостерігати за ним.

Виявити ризик — тільки половина справи

Коли сервіс вже працює, важливо не просто помітити ризик, а й правильно на нього відреагувати. У розмовах із представниками Helix та BATLR.ai обговорювали голосову верифікацію ідентичності та інструменти на основі AI для виявлення шахрайства на маркетплейсах і в онлайн-спільнотах. Технологія лише сигналізує про потенційну загрозу — далі команда має перевірити цей сигнал, оцінити ризик і вирішити, як діяти, щоб захистити користувачів.

Коли одного правила недостатньо

Часом для розуміння ситуації одного правила замало — саме тут починаються найскладніші й найцікавіші дискусії. Наприклад, розмови з представниками Center for Democracy & Technology та Twitch торкалися неоднозначної ролі авторів політичного контенту. Одна й та сама людина може одночасно бути журналістом, активістом, рекламодавцем чи представником політичної кампанії. Тому Trust & Safety — це набагато більше, ніж просто набір політик. Насамперед це підготовлена команда та чіткий алгоритм дій у неоднозначних ситуаціях.

Trust & Safety teams can rarely wait for complete certainty. That is why businesses need to define in advance how high-risk signals will be reviewed, when decisions will be escalated, and when human intervention is required. This preparedness is what turns individual technologies into a reliable operational system

Андрій Ковальов, Service Delivery Director CONTIO Tech

TrustCon завершився, але справжня робота починається саме після повернення додому — коли команди застосовують отримані інсайти на практиці. Продовжувати цю дискусію в межах IT Ukraine Association важливо, адже маркетплейси, фінтех-компанії, ігрові студії, постачальники сервісів і AI-компанії стикаються з однаковим викликом: розпізнати проблему раніше, ніж вона перетвориться на інцидент.

Джерело: IT Ukraine Association