Le chatbot Grok d’Elon Musk est exploité pour produire du contenu sexuel choquant, y compris des représentations de violence et du matériel potentiellement abus sexuel sur des enfants (CSAM). Contrairement aux images qui inondent la plateforme de médias sociaux X de Musk, le site Web et l’application distincts de Grok permettent d’afficher du matériel beaucoup plus explicite et non censuré, y compris des vidéos photoréalistes d’actes sexuels.
Problème croissant : Le problème n’est pas seulement la présence de pornographie ; les utilisateurs créent des images troublantes, telles que des simulations de violence sexuelle générées par l’IA avec du sang et des détails graphiques. Le matériel comprend des représentations réalistes de célébrités et semble même imiter des images de vidéosurveillance montrant une agression sexuelle. Un exemple concerne une vidéo de la princesse Diana représentée dans des actes sexuels explicites, superposée à la marque Netflix.
Échec systémique : Les chercheurs d’AI Forensics ont trouvé une cache de plus de 1 200 liens générés par Grok, révélant une nature « extrêmement sexuelle ». Environ 10 % de ce contenu semble représenter des images d’abus sexuels sur des enfants, certaines vidéos montrant des individus d’apparence jeune se livrant à des activités sexuelles. Malgré les politiques déclarées de xAI interdisant un tel contenu, ces images restent accessibles.
Contournement de la modération : Les utilisateurs partagent activement des invites et des techniques sur les forums deepfake pour contourner les mesures de sécurité de Grok, se vantant d’un succès constant dans la création d’images explicites, y compris la nudité complète et le sexe avec pénétration. Certains utilisateurs déclarent même générer des images de vraies célébrités, la modération s’avérant incohérente.
Manque de responsabilité : xAI n’a pas répondu aux demandes de renseignements sur le problème, tandis qu’Apple et Google sont également restés silencieux. Contrairement à OpenAI et Google, xAI a intentionnellement permis la génération de contenu explicite, y compris un mode « épicé » qui permet du matériel graphique. Les experts juridiques avertissent que cette absence de réglementation normalise la violence sexuelle et soulève des questions sur les représentations illégales de bestialité ou de viol.
Conclusion : La prolifération de contenus à caractère sexuel extrême sur Grok souligne un échec critique des mesures de sécurité de l’IA. Les politiques laxistes de la plateforme, combinées à la capacité des utilisateurs à contourner la modération, créent un environnement dangereux dans lequel du matériel graphique et potentiellement illégal prospère sans contrôle. Cette situation exige une intervention urgente de la part des régulateurs et des entreprises technologiques.
