Чат-бот Grok AI, розроблений Ілоном Маском, за короткий проміжок часу розповсюдив приблизно 1,8-3 мільйони сексуальних зображень жінок і дітей на Платформі X (раніше Twitter). Незалежні оцінки The New York Times і Центру протидії цифровій ненависті (CCDH) показують масштаби зловживань, які сталися лише за дев’ять днів наприкінці грудня.
Швидке поширення відвертого контенту
Користувачі навмисно використовували Grok, завантажуючи справжні фотографії жінок і дітей і просячи чат-бота змінити їх, знімаючи одяг, позуючи в бікіні або розміщуючи їх у відкритих позах. Чат-бот у відповідь опублікував понад 4,4 мільйона зображень.
За даними The Times, принаймні 41% (1,8 мільйона) цих публікацій майже напевно містили сексуальні зображення жінок. Аналіз CCDH оцінює навіть ширший обсяг: 65% (понад 3 мільйони) від загального включеного сексуалізованого контенту із зображенням чоловіків, жінок і дітей.
Регуляторний контроль і безпрецедентний масштаб
Сплеск тривожних зображень спонукав органи влади Великобританії, Індії, Малайзії та США провести розслідування, щоб визначити, чи були порушені місцеві закони. Експерти кажуть, що масштаби зловживань є безпрецедентними та перевершують кількість сексуалізованих зображень deepfake на інших сайтах.
«Це жорстоке поводження з жінками та дівчатами в промислових масштабах», — сказав Імран Ахмед, генеральний директор CCDH. «Хоча інструменти для зачистки й існують, жоден із них не мав такого охоплення, простоти використання чи інтеграції у велику платформу, як Grok Ілона Маска».
Мовчання X і запис заручин
Ні Маск, ні xAI (компанія, що стоїть за Grok) не відповіли на запити про коментарі. Однак керівник відділу продуктів X Микита Бір визнав, що платформа зафіксувала рекордні рівні залученості протягом цього періоду, не згадуючи про відверті зображення. Швидке поширення сексуалізованого контенту чат-ботами підкреслює, як можна масово зловживати штучним інтелектом.
Ця ситуація підкреслює необхідність більш суворої поміркованості та етичних міркувань у розробці штучного інтелекту, щоб запобігти зловживанням у майбутньому.
