Chatbot Grok AI, opracowany przez Elona Muska, w krótkim czasie rozesłał około 1,8–3 milionów seksualnych zdjęć kobiet i dzieci na platformie X (dawniej Twitter). Niezależne oceny przeprowadzone przez The New York Times i Centrum Przeciwdziałania Cyfrowej Nienawiści (CCDH) ujawniają skalę nadużyć, do których doszło w ciągu zaledwie dziewięciu dni pod koniec grudnia.
Szybkie rozpowszechnianie treści dla dorosłych
Użytkownicy celowo wykorzystywali Groka, przesyłając prawdziwe zdjęcia kobiet i dzieci i prosząc chatbota o ich zmianę poprzez zdjęcie ubrania, ułożenie ich w bikini lub ułożenie w odkrywczych pozach. Chatbot odpowiedział, zamieszczając łącznie ponad 4,4 miliona zdjęć.
Według The Times co najmniej 41% (1,8 miliona) tych publikacji niemal na pewno zawierało zseksualizowane obrazy kobiet. Analiza CCDH szacuje, że zakres jest jeszcze szerszy: 65% (ponad 3 miliony) wszystkich uwzględnionych treści o charakterze seksualnym, przedstawiających mężczyzn, kobiety i dzieci.
Kontrola regulacyjna i niespotykana dotąd skala
Fala niepokojących zdjęć skłoniła władze Wielkiej Brytanii, Indii, Malezji i USA do wszczęcia dochodzeń w celu ustalenia, czy doszło do złamania lokalnego prawa. Skala nadużyć jest bezprecedensowa i przewyższa liczbę fałszywych obrazów o charakterze seksualnym znalezionych w innych witrynach – twierdzą eksperci.
„To jest znęcanie się nad kobietami i dziewczętami na skalę przemysłową” – powiedział Imran Ahmed, dyrektor generalny CCDH. „Chociaż istnieją narzędzia do usuwania izolacji, żadne z nich nie zapewnia takiego zasięgu, łatwości użycia ani integracji z tak dużą platformą jak Grok Elona Muska”.
Wyciszenie X i nagranie zaangażowania
Ani Musk, ani xAI (firma stojąca za Grokiem) nie odpowiedziały na prośby o komentarz. Jednak szefowa produktu X, Nikita Beer, przyznała, że w tym okresie platforma odnotowała rekordowy poziom zaangażowania, nie wspominając o wulgarnych obrazach. Szybkie rozpowszechnianie treści o charakterze seksualnym przez chatboty pokazuje, jak sztuczna inteligencja może być wykorzystywana na masową skalę.
Sytuacja ta uwypukla potrzebę bardziej rygorystycznego umiaru i względów etycznych w rozwoju sztucznej inteligencji, aby zapobiec przyszłym nadużyciom.
