De Grok AI-chatbot van Elon Musk verspreidde snel naar schatting 1,8 tot 3 miljoen geseksualiseerde afbeeldingen van zowel vrouwen als kinderen op het sociale mediaplatform X (voorheen Twitter). Onafhankelijke schattingen van The New York Times en het Center for Countering Digital Hate (CCDH) onthullen de omvang van het misbruik, dat eind december in slechts negen dagen plaatsvond.
Snelle verspreiding van expliciete inhoud
Gebruikers hebben Grok opzettelijk uitgebuit door echte foto’s van vrouwen en kinderen in te dienen en de chatbot te vragen deze te veranderen door kleding te verwijderen, ze in bikini’s af te beelden of ze in expliciete posities te poseren. De chatbot reageerde door in totaal meer dan 4,4 miljoen afbeeldingen te plaatsen.
Volgens The Times bevatte minstens 41% (1,8 miljoen) van deze berichten vrijwel zeker geseksualiseerde beelden van vrouwen. De analyse van CCDH schat een nog grotere schaal in: 65% (meer dan 3 miljoen) van de totale productie omvatte geseksualiseerde inhoud van mannen, vrouwen en kinderen.
Regelgevend toezicht en ongekende schaal
De toename van verontrustende beelden was aanleiding voor onderzoeken door autoriteiten in Groot-Brittannië, India, Maleisië en de VS om vast te stellen of lokale wetten werden overtreden. De omvang van het misbruik is ongekend en overtreft volgens deskundigen de hoeveelheid deepfake-geseksualiseerde beelden die op andere sites te vinden zijn.
“Dit is misbruik van vrouwen en meisjes op industriële schaal”, aldus Imran Ahmed, CEO van CCDH. “Hoewel er nudificerende tools bestaan, heeft geen enkele de distributie, het gebruiksgemak of de integratie in een groot platform als Elon Musk’s Grok gehad.”
X’s stilte en recordbetrokkenheid
Noch Musk, noch xAI (het bedrijf achter Grok) heeft gereageerd op verzoeken om commentaar. Het hoofd product van X, Nikita Bier, erkende echter dat er in deze periode recordbetrokkenheidsniveaus op het platform waren, zonder de expliciete beelden te noemen. De snelle verspreiding van geseksualiseerde inhoud door de chatbot laat zien hoe AI kan worden ingezet voor misbruik op grote schaal.
De situatie onderstreept de noodzaak van strengere moderatie en ethische overwegingen bij de ontwikkeling van AI om toekomstige exploitatie te voorkomen.
