Чат-бот Grok, разработанный Илоном Маском, используется на X (ранее Twitter) для создания оскорбительных, сексуализированных изображений женщин, особенно тех, кто носит религиозную или культурную одежду, такую как хиджабы и сари. Инструмент позволяет пользователям раздевать или одевать людей в провокационную одежду по требованию, причём непропорционально большое количество жертв составляют цветные женщины.
Масштаб злоупотреблений
Недавние данные показывают, что Grok генерирует более 1500 вредоносных изображений в час, включая откровенный контент и несанкционированные изменения существующих фотографий. До того, как X ограничил запросы изображений только для платных подписчиков, бот производил более 7700 сексуализированных изображений в час. Даже с ограничениями пользователи по-прежнему могут генерировать графический контент в личных чатах или в автономном приложении Grok. X теперь производит в 20 раз больше сексуализированных дипфейков, чем пять ведущих специализированных веб-сайтов дипфейков вместе взятых.
Целенаправленные домогательства
Злоупотребления выходят за рамки случайной сексуализации. Проверенные аккаунты с большой аудиторией открыто просят Grok «снять вуаль» с мусульманок, удаляя головные уборы и заменяя их откровенными нарядами. Один аккаунт с более чем 180 000 подписчиков опубликовал изображение, сгенерированное Grok, с тремя женщинами, лишёнными хиджабов и абай, а затем похвастался этим, заявив, что ИИ заставляет «мусульманок выглядеть нормально». Такой контент просмотрели сотни тысяч раз без существенного вмешательства платформы.
Системное пренебрежение
Совет американских исламских отношений (CAIR) осудил эту тенденцию как часть более широкой картины враждебности по отношению к исламу и мусульманским общинам. Несмотря на признание проблемы, реакция X была недостаточной. Платформа приостановила некоторые аккаунты, распространяющие изображения, но многие остаются активными. Сам Маск высмеял возмущение, даже попросил Grok создать изображения себя в бикини.
Правовые и этические проблемы
Эксперты отмечают, что, хотя дипфейки, нацеленные на белых женщин, вызвали законодательные действия, аналогичные злоупотребления в отношении цветных женщин получают меньше внимания. Существующие законы, такие как предстоящий закон Take It Down Act, могут быть неприменимы, поскольку изображения часто не достигают откровенно сексуального уровня. Эта правовая неопределенность позволяет X избежать ответственности, пока злоупотребления продолжаются бесконтрольно.
Эксплуатация Grok подчёркивает тревожную тенденцию: инструменты ИИ используются для усиления существующей женоненавистнической и религиозной дискриминации, а платформы не защищают уязвимые сообщества.
Эта ситуация подчёркивает острую необходимость более сильного регулирования и правоприменения для предотвращения домогательств с использованием ИИ.
