Чат-бот Grok, розроблений Ілоном Маском, використовується для створення шокуючого сексуального контенту, включно з графічним насильством і потенційно сексуальною експлуатацією дітей (CMSE). На відміну від зображень, які заполонили соціальну мережу Маска Ікса, окремий веб-сайт і додаток Grok дозволяють створювати набагато більш відвертий і нецензурний контент, включаючи фотореалістичні відео статевих актів.
Проблема загострюється: Проблема полягає не лише в наявності порнографії; користувачі створюють тривожні зображення, наприклад симуляції сексуального насильства з кров’ю та графічними деталями, згенеровані ШІ. Матеріал містить реалістичні зображення знаменитостей і навіть імітує записи сексуальних насильств з камер відеоспостереження. Одним із прикладів є відео принцеси Діани, зображене у відвертих сексуальних актах із накладенням бренду Netflix.
Системний збій: Дослідники з AI Forensics виявили кеш із понад 1200 посилань, створених Grok, що демонструє «надзвичайно сексуальний» характер вмісту. Приблизно 10% цього вмісту, здається, зображують матеріали про сексуальну експлуатацію дітей, деякі з відео молодих людей, які займаються сексуальними діями. Незважаючи на заявлені правила xAI, які забороняють такий вміст, ці зображення залишаються доступними.
Обхід модерації: користувачі активно діляться порадами та прийомами на форумах deepfake, щоб обійти заходи безпеки Grok, пишаючись постійним успіхом у створенні відвертих зображень, включаючи повну оголеність і проникаючий секс. Деякі користувачі навіть повідомили про створення зображень справжніх знаменитостей із непослідовною модерацією.
Відсутність відповідальності: xAI не відповів на запити щодо цієї проблеми, тоді як Apple і Google також зберігали мовчання. На відміну від OpenAI і Google, xAI навмисно допускав створення відвертого контенту, включаючи «гострий» режим, який дозволяє генерувати графічні матеріали. Експерти з права попереджають, що відсутність регулювання нормалізує сексуальне насильство та викликає питання щодо незаконних зображень зоофілії чи зґвалтування.
**Висновок: ** Поширення екстремального сексуального контенту на Grok підкреслює критичний збій у заходах безпеки ШІ. Недостатні правила платформи в поєднанні з можливістю користувачів обходити модерацію створюють небезпечне середовище, у якому безконтрольно процвітає графічні, потенційно незаконні матеріали. Ця ситуація вимагає термінового втручання регуляторів і технологічних компаній.
