De Grok-chatbot van Elon Musk wordt uitgebuit om schokkend expliciete seksuele inhoud te produceren, waaronder afbeeldingen van geweld en potentieel materiaal over seksueel misbruik van kinderen (CSAM). In tegenstelling tot de beelden die Musk’s sociale mediaplatform X overspoelen, maken de afzonderlijke website en app van Grok veel explicieter, ongecensureerd materiaal mogelijk, waaronder fotorealistische video’s van seksuele handelingen.
Escalerend probleem: Het probleem is niet alleen de aanwezigheid van pornografie; gebruikers creëren verontrustende beelden, zoals door AI gegenereerde simulaties van seksueel geweld met bloed en grafische details. Het materiaal bevat realistische afbeeldingen van beroemdheden en lijkt zelfs camerabeelden na te bootsen waarop seksueel geweld te zien is. Een voorbeeld betreft een video van prinses Diana, afgebeeld in expliciete seksuele handelingen, bedekt met Netflix-branding.
Systemisch falen: Onderzoekers van AI Forensics hebben een cache van meer dan 1.200 door Grok gegenereerde links gevonden, die een “overweldigend seksueel” karakter onthullen. Ongeveer 10% van deze inhoud lijkt materiaal van seksueel misbruik van kinderen weer te geven, waarbij sommige video’s jong uitziende personen laten zien die zich bezighouden met seksuele activiteiten. Ondanks het beleid van xAI dat dergelijke inhoud verbiedt, blijven deze afbeeldingen toegankelijk.
Moderatie omzeilen: Gebruikers delen actief aanwijzingen en technieken op deepfake-forums om de veiligheidsmaatregelen van Grok te omzeilen, waarbij ze opscheppen over consistent succes bij het creëren van expliciete beelden, inclusief volledige naaktheid en penetrerende seks. Sommige gebruikers melden zelfs dat ze afbeeldingen van echte beroemdheden hebben gemaakt, waarbij moderatie inconsistent blijkt.
Gebrek aan verantwoordelijkheid: xAI heeft niet gereageerd op vragen over dit probleem, terwijl Apple en Google ook zwijgen. In tegenstelling tot OpenAI en Google heeft xAI opzettelijk het genereren van expliciete inhoud toegestaan, inclusief een ‘pittige’ modus die grafisch materiaal mogelijk maakt. Juridische experts waarschuwen dat dit gebrek aan regelgeving seksueel geweld normaliseert en vragen oproept over onwettige afbeeldingen van bestialiteit of verkrachting.
Conclusie: De proliferatie van extreme seksuele inhoud op Grok onderstreept een kritiek falen in AI-veiligheidsmaatregelen. Het lakse beleid van het platform, gecombineerd met het vermogen van gebruikers om moderatie te omzeilen, creëert een gevaarlijke omgeving waarin expliciet, mogelijk illegaal materiaal ongecontroleerd floreert. Deze situatie vereist dringende interventie van zowel toezichthouders als technologiebedrijven.
