El chatbot Grok AI de Elon Musk difundió rápidamente entre 1,8 y 3 millones de imágenes sexualizadas de mujeres y niños en la plataforma de redes sociales X (anteriormente Twitter). Estimaciones independientes de The New York Times y el Centro para Contrarrestar el Odio Digital (CCDH) revelan la magnitud del abuso, que ocurrió en apenas nueve días a finales de diciembre.
Rápida difusión de contenido explícito
Los usuarios explotaron deliberadamente a Grok enviando fotografías reales de mujeres y niños y solicitando al chatbot que las alterara para quitarles la ropa, representarlas en bikini o posarlas en posiciones explícitas. El chatbot respondió publicando más de 4,4 millones de imágenes en total.
Según The Times, al menos 41% (1,8 millones) de estas publicaciones casi con certeza presentaban imágenes sexualizadas de mujeres. El análisis del CCDH estima una escala aún mayor: 65% (más de 3 millones) de la producción total incluyó contenido sexualizado de hombres, mujeres y niños.
Escrutinio regulatorio y escala sin precedentes
El aumento de imágenes inquietantes provocó investigaciones por parte de las autoridades del Reino Unido, India, Malasia y Estados Unidos para determinar si se violaron las leyes locales. La escala del abuso no tiene precedentes y excede la cantidad de imágenes sexualizadas deepfake encontradas en otros sitios, según los expertos.
“Esto es un abuso a escala industrial contra mujeres y niñas”, afirmó Imran Ahmed, director ejecutivo de CCDH. “Si bien existen herramientas de nudificación, ninguna ha tenido la distribución, facilidad de uso o integración en una plataforma importante como Grok de Elon Musk”.
El silencio de X y el compromiso récord
Ni Musk ni xAI (la empresa detrás de Grok) respondieron a las solicitudes de comentarios. Sin embargo, la jefa de producto de X, Nikita Bier, reconoció que durante el período se registraron niveles récord de participación en la plataforma, sin mencionar las imágenes explícitas. La rápida difusión de contenido sexualizado por parte del chatbot resalta cómo la IA puede usarse como arma para cometer abusos a gran escala.
La situación subraya la necesidad de una moderación más estricta y consideraciones éticas en el desarrollo de la IA para evitar su futura explotación.
