Дэвид Чиу, городской прокурор Сан-Франциско, не просит вежливо.
Он требует, чтобы Apple и Google удалили из своих магазинов 13 конкретных приложений. О каких приложениях идет речь? Они меняют лица. Но, что более важно, они генерируют изображения наготы без согласия людей с помощью искусственного интеллекта. В технологической сфере это называют «нутификацией» (nudification), а Чиу — сексуальным насилием. Он хочет, чтобы технологические гиганты прекратили извлекать прибыль из этого процесса, перестали оказывать содействие и разорвали любые связи с разработчиками.
Это не просьба. Это приказ о прекращении нарушения.
Правовая основа
Закон Калифорнии в этом вопросе предельно ясен.
Создание или поддержка сервисов, производящих порнографические дипфейки, запрещено. В письмах, с которыми ознакомился журнал WIRED, утверждается, что, позволяя осуществлять платежи внутри приложений, Apple и Google отщипывают часть ущерба. Потенциально речь идет о миллионах долларов в виде комиссионных. Это не пассивный хостинг. Это соучастие.
«Неприемлем тот факт, что одни из самых устоявшихся технологических компаний способствуют этому», — заявил Чиу.
Он говорит не просто о пробелах в политиках компаний. Он говорит об ответственности. Если вы получаете прибыль от преступления, вы являете соучастником. Позиция города заключается в том, что текущие механизмы модерации не работают, и ситуация должна измениться немедленно.
Прозрачный бардак
Сотрудников Cupertino или Mountain View это не должно удивлять.
Уже много лет исследователи сигнализируют об опасности таких инструментов. Проблема не нова. Она постоянна. Приложения, обещающие функцию замены лиц, часто скрывают свое истинное назначение до момента загрузки. Одно приложение, скачанное более миллиона раз, прямо на своей стартовой странице предлагает стили вроде «королева в бикини» и «спокойная с большой грудью». Другое хвастается «нецензурным» контентом.
Они маскируются под безобидные программы. Академики называют их инструментами двойного назначения.
Безобидные на поверхности. Опасные внутри.
В мае исследование, проведенное Университетом Корнелла и Университетом Джорджа Мейсона, выявило, что 420 приложений для замены лиц в обоих основных магазинах могли генерировать изображения наготы. В 70% случаев при тестировании у этих приложений не было никаких мер предосторожности. Ни единой. Они не позиционировали себя как инструменты для «нутификации», поэтому им удавалось проскакивать сквозь трещины в алгоритмах контент-модерации, которые ищут откровенные ключевые слова в описаниях.
Является ли это случайностью? Или просто удобным способом увеличить прибыль?
Масштабы ужасают
Мы уже видели эти цифры. Проект «Tech Transparency Project» обнаружил около 100 подобных приложений еще в начале этого года. В совокупности они были скачаны почти полмиллиарда раз. Их потенциальная прибыль составляет около 120 миллионов долларов.
Полмиллиарда загрузок.
Вред реален. Жертвы испытывают унижение, сталкиваются с травлей и серьезными последствиями для психического здоровья. Некоторые даже задумывались о самоубийстве. Изображения проникают в школы — предыдущие расследования задокументировали 90 таких инцидентов, часто затрагивающих несовершеннолетних. Это промышленный масштаб насилия.
«Эта индустрия оказывает ужасающее влияние», — сказал Чиу. «Были жертвы, доведенные до мыслей о самоубийстве. Это абсолютно кошмарно».
Интересуются ли платформы?
Дэн Джексон из Google заявляет, что они удалили сотни приложений, нарушающих правила. Он утверждает, что компания ограничивает поисковые запросы, такие как «nudify» (сделать голым), и быстро реагирует, когда нарушения сообщаются. Они заявляют о проактивности. Они заявляют о безопасности.
Apple прокомментировать отказалась.
Кейт Пол из «Tech Transparency Project» настроена менее оптимистично. По ее словам, проблема возвращалась снова и снова. В худшем виде.
«Мы не думали, что после первого отчета увидим это снова», — сказала она. «Apple и Google в своем маркетинге обещают доверие и безопасность. Но на деле это просто не работает».
Чиу не ждет следующего ежеквартального обзора. Он заявляет, что его офис рассмотрит все возможные юридические варианты, если приложения не исчезнут.
Он надеется, что технологические гиганты поступят правильно. Он действительно этого хочет. Но учитывая деньги на кону и прошлый опыт, эта надежда кажется хрупкой. Приложения по-прежнему доступны. Прибыль по-прежнему растет. А законы наконец-то догоняют технологии, оставляя платформам простой выбор: отказаться от прибыли или столкнуться с судом.
Кто хочет поставить на то, какой путь они выберут?
