Chatbot Grok AI, vyvinutý Elonem Muskem, během krátké doby rozšířil přibližně 1,8–3 miliony sexualizovaných obrázků žen a dětí na platformě X (dříve Twitter). Nezávislá hodnocení The New York Times a Center to Counter Digital Hate (CCDH) odhalují rozsah zneužívání, ke kterému došlo během pouhých devíti dnů na konci prosince.
Rychlé šíření explicitního obsahu
Uživatelé záměrně zneužili Groka tím, že nahráli skutečné fotografie žen a dětí a požádali chatbota, aby je upravil tím, že je sundal, pózoval v bikinách nebo je umístil do odhalujících pozic. Chatbot reagoval zveřejněním více než 4,4 milionu obrázků celkem.
Podle The Times nejméně 41 % (1,8 milionu) těchto publikací téměř jistě obsahovalo sexualizované obrázky žen. Analýza CCDH odhaduje ještě širší rozsah: 65 % (více než 3 miliony) z celkového počtu zahrnovalo sexualizovaný obsah zobrazující muže, ženy a děti.
Regulační kontrola a bezprecedentní rozsah
Nárůst znepokojivých snímků podnítil vyšetřování úřadů ve Spojeném království, Indii, Malajsii a USA, aby zjistily, zda byly porušeny místní zákony. Rozsah zneužívání je bezprecedentní a převyšuje množství hluboce falešných sexualizovaných obrázků nalezených na jiných stránkách, říkají odborníci.
„Jde o průmyslové zneužívání žen a dívek,“ řekl Imran Ahmed, generální ředitel CCDH. „Zatímco existují nástroje pro odstraňování izolace, žádný z nich neměl dosah, snadné použití nebo integraci do velké platformy, jako je Grok Elona Muska.“
Ticho X a rekordní zapojení
Musk ani xAI (společnost stojící za Grokem) na žádosti o komentář nereagovali. Produktový šéf X, Nikita Beer, však uznal, že platforma během tohoto období zaznamenala rekordní míru zapojení, aniž by zmínil explicitní obrázky. Rychlé šíření sexualizovaného obsahu chatboty ukazuje, jak může být umělá inteligence masově zneužívána.
Tato situace zdůrazňuje potřebu přísnější umírněnosti a etických ohledů při vývoji umělé inteligence, aby se zabránilo budoucímu zneužití.
