Компанія Apple розширила правила перевірки застосунків App Review Guidelines, додавши чіткіші вимоги щодо інтимних зображень, створених без згоди людини, а також заборонивши практику, коли розробники приховують справжнє призначення додатка на етапі модерації.

У Apple наголошують, що довіра користувачів до App Store тримається на зрозумілих і послідовно застосованих стандартах, тому правила регулярно адаптують під нові ризики.

Порнографічний контент в App Store заборонений вже давно — це стосується й застосунків, що генерують оголені чи відверто сексуальні зображення, зокрема так званих nudification-додатків, які створюють сексуалізовані зображення реальних людей без їхньої згоди. Сервіси з контентом від користувачів мають фільтрувати неприйнятні матеріали, надавати можливість поскаржитися на образливий вміст і блокувати акаунти порушників. Також заборонено приховані чи незадокументовані функції — включно з ситуаціями, коли розробник під час перевірки подає застосунок як безпечний, а шкідливі можливості на кшталт nudification з'являються вже після схвалення. Таку тактику називають bait-and-switch.

У компанії зазначають, що хочуть бачити успіх інноваційних розробників та якісних застосунків в App Store, тому разом із появою нових загроз і форматів користувацького досвіду правила переглядають, щоб зберегти довіру і користувачів, і авторів додатків. Повний текст оновлених вимог Apple опублікувала в App Review Guidelines.

Що змінилося

Пункт 1.2 тепер прямо вказує, що вимоги до модерації контенту поширюються на інтимні зображення, створені без згоди людини, — зокрема й згенеровані за допомогою штучного інтелекту. Такий контент застосунки мають завчасно виявляти і видаляти. Якщо розробник не впровадить належні запобіжники або не усуне порушення після попередження, це вважатиметься порушенням Кодексу поведінки розробника (Developer Code of Conduct) і може призвести до видалення з App Store.

Пункт 2.5.19 уточнює давню заборону на ситуації, коли застосунок під час перевірки показує одну функціональність, а після схвалення отримує іншу — наприклад, нові можливості, яких не було у версії, поданій на розгляд App Review. Розробників, помічених у такій поведінці, чекає видалення застосунку з App Store та виключення з Apple Developer Program.

Розділ 5 давно забороняв застосунки, що сприяють торгівлі людьми чи експлуатації дітей, включно з матеріалами сексуального насильства над дітьми. Apple і раніше видаляла такі додатки після виявлення, а тепер прямо прописала в Розділі 5, що подібний контент означає не лише видалення з App Store, а й блокування альтернативного розповсюдження такого застосунку.

Apple підкреслює, що має налагоджені процеси перевірки застосунків і реагування на порушення правил, аби не допускати недобросовісних розробників до App Store. Торік компанія заблокувала понад 150 тисяч застосунків із проблемами безпеки ще до того, як вони потрапили до користувачів, і закрила понад 193 тисячі облікових записів розробників за шахрайство та зловживання.

У компанії зазначають, що подібні порушення часто пов'язані зі зловмисниками — подекуди скоординованими шахрайськими групами, — які маскують шкідливий контент, активуючи його лише після схвалення застосунку. Оскільки їхні методи постійно змінюються, Apple так само розвиває власні інструменти для швидшого виявлення і запобігання такій поведінці.

We do not hesitate to remove apps, and terminate the developers behind them, when they violate these guidelines.

Apple

Джерело: Apple Developer News