Девід Чіу, міський прокурор Сан-Франциско, не просить чемно.
Він вимагає, щоб Apple і Google видалили зі своїх магазинів 13 конкретних програм. Про які додатки йдеться? Вони змінюють обличчя. Але, що найважливіше, вони генерують зображення наготи без згоди людей з допомогою штучного інтелекту. У технологічній сфері це називають «нутіфікацією» (nudification), а Чіу — сексуальним насильством. Він хоче, щоб технологічні гіганти припинили одержувати прибуток із цього процесу, перестали сприяти та розірвали будь-які зв’язки з розробниками.
Це не прохання. Це наказ про припинення порушення.
Правова основа
Закон Каліфорнії у цьому питанні гранично зрозумілий.
Створення або підтримка сервісів, що виробляють порнографічні дипфейки, заборонено. У листах, з якими ознайомився журнал WIRED, стверджується, що, дозволяючи здійснювати платежі всередині додатків, Apple та Google відщипують частину збитків. Потенційно йдеться про мільйони доларів у вигляді комісійних. Це не пасивний хостинг. Це співучасть.
«Неприйнятний той факт, що одні з усталених технологічних компаній сприяють цьому», – заявив Чіу.
Він говорить не просто про прогалини в політиках компаній. Він каже про відповідальність. Якщо ви отримуєте прибуток від злочину, ви є співучасником. Позиція міста полягає в тому, що поточні механізми модерації не працюють, і ситуація має негайно змінитися.
Прозорий бардак
Співробітників Cupertino або Mountain View це не повинно дивувати.
Вже багато років дослідники сигналізують про небезпеку таких інструментів. Проблема не нова. Вона стала. Програми, що обіцяють функцію заміни осіб, часто приховують своє призначення до моменту завантаження. Одна програма, завантажена понад мільйон разів, прямо на своїй стартовій сторінці пропонує стилі на кшталт «корольова в бікіні» і «спокійна з великими грудьми». Інше хвалиться «нецензурним» контентом.
Вони маскуються під нешкідливі програми. Академіки називають їх інструментами подвійного призначення.
Безневинні на поверхні. Небезпечні всередині.
У травні дослідження, проведене Університетом Корнелла та Університетом Джорджа Мейсона, виявило, що 420 додатків для заміни осіб в обох основних магазинах могли генерувати зображення наготи. У 70% випадків при тестуванні у цих додатків не було жодних запобіжних заходів. Жодної. Вони не позиціонували себе як інструменти «нутифікації», тому їм вдавалося проскакувати крізь тріщини в алгоритмах контент-модерації, які шукають відверті ключові слова в описах.
Чи це випадковістю? Чи просто зручним способом збільшити прибуток?
Масштаби жахають
Ми вже бачили ці цифри. Проект «Tech Transparency Project» виявив близько 100 подібних програм ще на початку цього року. Разом вони були завантажені майже півмільярда разів. Їхній потенційний прибуток становить близько 120 мільйонів доларів.
Півмільярда завантажень.
Шкода реальна. Жертви зазнають приниження, стикаються з цькуванням та серйозними наслідками для психічного здоров’я. Дехто навіть замислювався про самогубство. Зображення проникають до шкіл — попередні розслідування задокументували 90 таких інцидентів, які часто торкаються неповнолітніх. Це промисловий масштаб насильства.
«Ця індустрія має жахливий вплив», — сказав Чіу. «Були жертви, доведені до думок про самогубство. Це абсолютно жахливо».
Ці цікавляться платформи?
Ден Джексон із Google заявляє, що вони видалили сотні додатків, які порушують правила. Він стверджує, що компанія обмежує пошукові запити, такі як «nudify» (зробити голим), та швидко реагує, коли порушення повідомляються. Вони заявляють про проактивність. Вони заявляють про безпеку.
Apple прокоментувати відмовилася.
Кейт Пол із “Tech Transparency Project” налаштована менш оптимістично. За її словами, проблема поверталася знову і знову. У найгіршому вигляді.
“Ми не думали, що після першого звіту побачимо це знову”, – сказала вона. «Apple та Google у своєму маркетингу обіцяють довіру та безпеку. Але насправді це просто не працює».
Чіу не чекає наступного щоквартального огляду. Він заявляє, що його офіс розгляне всі можливі юридичні варіанти, якщо програми не зникнуть.
Він сподівається, що технологічні гіганти вчинять правильно. Він справді цього хоче. Але враховуючи гроші на кону та минулий досвід, ця надія видається крихкою. Програми, як і раніше, доступні. Прибуток, як і раніше, зростає. А закони нарешті наздоганяють технології, залишаючи платформам простий вибір: відмовитися від прибутку чи зіткнутися із судом.
Хто хоче поставити на те, який шлях вони виберуть?
