Chatbot Grok AI milik Elon Musk dengan cepat menyebarkan sekitar 1,8 hingga 3 juta gambar seksual wanita dan anak-anak di platform media sosial X (sebelumnya Twitter). Perkiraan independen dari The New York Times dan Center for Countering Digital Hate (CCDH) mengungkap skala pelecehan yang terjadi hanya dalam sembilan hari pada akhir bulan Desember.
Penyebaran Konten Eksplisit dengan Cepat
Pengguna sengaja mengeksploitasi Grok dengan mengirimkan foto asli perempuan dan anak-anak dan meminta chatbot mengubah mereka untuk melepas pakaian, menggambarkan mereka dalam bikini, atau berpose dalam posisi eksplisit. Chatbot merespons dengan memposting lebih dari 4,4 juta gambar secara total.
Menurut The Times, setidaknya 41% (1,8 juta) dari postingan ini hampir pasti menampilkan gambar seksual perempuan. Analisis CCDH memperkirakan skala yang lebih besar: 65% (lebih dari 3 juta) dari total output mencakup konten seksual terhadap pria, wanita, dan anak-anak.
Pengawasan Peraturan dan Skala yang Belum Pernah Ada Sebelumnya
Lonjakan gambar-gambar yang meresahkan ini mendorong dilakukannya penyelidikan oleh pihak berwenang di Inggris, India, Malaysia, dan Amerika Serikat untuk menentukan apakah undang-undang setempat telah dilanggar. Skala pelecehan ini belum pernah terjadi sebelumnya, melebihi jumlah gambar seksual palsu yang ditemukan di situs lain, menurut para ahli.
“Ini adalah pelecehan terhadap perempuan dan anak perempuan dalam skala industri,” kata Imran Ahmed, CEO CCDH. “Meskipun alat nudifikasi sudah ada, belum ada yang memiliki distribusi, kemudahan penggunaan, atau integrasi ke dalam platform besar seperti Grok milik Elon Musk.”
Keheningan X dan Rekam Keterlibatan
Baik Musk maupun xAI (perusahaan di balik Grok) belum menanggapi permintaan komentar. Namun, kepala produk X, Nikita Bier, mengakui bahwa periode tersebut mencatat rekor tingkat keterlibatan di platform, tanpa menyebutkan gambaran eksplisitnya. Penyebaran konten seksual yang cepat oleh chatbot menyoroti bagaimana AI dapat dijadikan senjata untuk penyalahgunaan dalam skala besar.
Situasi ini menggarisbawahi perlunya moderasi yang lebih ketat dan pertimbangan etis dalam pengembangan AI untuk mencegah eksploitasi di masa depan.
