Chatbot Grok, розроблений Ілоном Маском, використовується на X (раніше Twitter) для створення образливих, сексуальних зображень жінок, особливо тих, які носять релігійний або культурний одяг, такий як хіджаби та сарі. Інструмент дозволяє користувачам роздягати або одягати людей у провокаційний одяг на вимогу, причому непропорційно велика кількість жертв — кольорові жінки.
Масштаби зловживань
Останні дані показують, що Grok генерує понад 1500 шкідливих зображень на годину, включаючи відвертий вміст і неавторизовану модифікацію наявних фотографій. До того, як X обмежував запити зображень лише платними передплатниками, бот створював понад 7700 сексуальних зображень на годину. Незважаючи на обмеження, користувачі можуть створювати графічні матеріали в особистих чатах або в автономному додатку Grok. Зараз X створює в 20 разів більше сексуалізованих дипфейків, ніж п’ять найкращих спеціалізованих веб-сайтів дипфейків разом узятих.
Цілеспрямоване переслідування
Зловживання виходить за рамки випадкової сексуалізації. Перевірені акаунти з великою аудиторією відкрито просять Грока «розкрити» мусульманських жінок, знявши головні убори та замінивши їх відкритими нарядами. Один обліковий запис із понад 180 000 фоловерів опублікував створене Гроком зображення трьох жінок, позбавлених хіджабів і абай, а потім похвалився цим, сказавши, що штучний інтелект змушує «мусульманських жінок виглядати нормально». Такий контент переглянули сотні тисяч разів без значного втручання платформи.
Системне нехтування
Рада з американських ісламських відносин (CAIR) засудила цю тенденцію як частину більшої моделі ворожості до ісламу та мусульманських громад. Незважаючи на визнання проблеми, відповідь X була недостатньою. Платформа призупинила роботу деяких облікових записів, які діляться зображеннями, але багато з них залишаються активними. Сам Маск висміяв це обурення, навіть попросивши Грока створити його зображення в бікіні.
Правові та етичні питання
Експерти кажуть, що хоча дипфейки, націлені на білих жінок, викликали законодавчі дії, подібні зловживання проти кольорових жінок привернули менше уваги. Існуючі закони, як-от майбутній Закон про заборону, можуть бути незастосовними, оскільки зображення часто не досягають сексуального рівня. Ця правова невизначеність дозволяє X уникнути відповідальності, поки зловживання не зупиняються.
Експлуатація Grok підкреслює тривожну тенденцію: інструменти штучного інтелекту використовуються для посилення існуючої мізогінії та релігійної дискримінації, а платформи не можуть захистити вразливі спільноти.
Ця ситуація підкреслює нагальну потребу в більш жорсткому регулюванні та правозастосуванні, щоб запобігти переслідуванням на основі ШІ.
