Wśród nastolatków zyskuje niepokojący nowy trend: tworzenie opartych na sztucznej inteligencji „stron ze oszczerstwami” na platformach takich jak Instagram i TikTok, które służą do ośmieszania, a czasem oczerniania nauczycieli. Konta te korzystają z zaawansowanych narzędzi sztucznej inteligencji do generowania filmów przedstawiających nauczycieli w wyjątkowo sprośnych i często obraźliwych sytuacjach, a ich głównym celem jest wirusowość i efekt szoku.
Wzrost znęcania się generowanego przez sztuczną inteligencję
Te „strony zniesławiające” to nie tylko cyfrowe oszustwa. Stanowią one niebezpieczną eskalację przemocy w Internecie, która wykorzystuje sztuczną inteligencję do tworzenia atrakcyjnych, ale sfabrykowanych treści. Jednym z przykładów jest manipulacja filmami przedstawiającymi urzędników szkolnych, którzy śpiewają prowokacyjne piosenki wraz z cyfrowymi wstawkami Jeffreya Epsteina, przyciągającymi uwagę raczej skandalicznością niż humorem.
Kluczowym narzędziem napędzającym ten trend jest Viggle AI, platforma przetwarzania obrazu na wideo, z której korzysta ponad 40 milionów użytkowników. Technologia ta pozwala każdemu na płynne nakładanie twarzy na istniejące filmy, włączając animacje nieruchomych obrazów do zsynchronizowanych występów. Eksperci z Globalnej sieci ds. ekstremizmu i technologii uznali sztuczną inteligencję Viggle za potencjalne narzędzie propagandy ekstremistycznej, biorąc pod uwagę jej zdolność do szybkiego i wirusowego rozprzestrzeniania złośliwych treści.
Od żartów po ekstremizm
To, co zaczęło się jako pozornie nieszkodliwe „satyryczne oszczerstwo”, szybko przerodziło się w bardziej ekstremalne formy nękania. Niektóre strony używają zakodowanego języka subkultur internetowych, takiego jak slang „looksmaxxing” z forów manosfery, aby wzmocnić obelgi. Inni przekształcają symbole ekstremistyczne w swoje memy, przedstawiające nauczycieli w fikcyjnych, nacechowanych rasowo scenariuszach.
W jednym przypadku konto TikTok o nazwie @crandall.kirkinator rozpowszechniało „oszczerstwa” tak agresywnie, że zainspirowało użytkowników zewnętrznych z dużą publicznością do przyłączenia się do nękania, a nawet zmusiło administrację do publicznej reakcji na tę kwestię. Konto zostało tymczasowo usunięte po doniesieniach o nękaniu nauczycieli w prawdziwym życiu, ale pojawiło się ponownie kilka dni później, zanim zostało trwale usunięte.
Media społecznościowe reagują (wolno)
Meta (Instagram) i TikTok twierdzą, że zabraniają mowy nienawiści i znęcania się, twierdząc, że usunęły obraźliwe treści i wdrożyły systemy automatycznego wykrywania. Jednak sama ilość generowanych treści utrudnia egzekwowanie przepisów, a strony nadal pojawiają się pod nowymi nazwami i formatami.
Opinia twórców
Anonimowy administrator jednej z takich stron, @thewyliefiles, przyznaje, że wykorzystuje kontrowersyjne postacie, takie jak Epstein i Netanjahu, do zwiększania zaangażowania. Pomimo uznania potencjalnej szkody twórca postrzega stronę jako „satyryczne zniesławienie” i wyraża jedynie obawę, że nauczyciele, a nie sama treść, mogą zostać „ujawnieni” lub prześladowani.
Kontekst kulturowy i przepaść pokoleniowa
Naukowcy z Uniwersytetu w Amsterdamie twierdzą, że przyczyną tej tendencji jest szersza zmiana kulturowa: mniejsza wrażliwość na prywatność i rosnąca przepaść między działaniami w Internecie a konsekwencjami w świecie rzeczywistym. Młodsze pokolenia, żyjące w środowisku zawsze online, postrzegają swoją tożsamość cyfrową jako płynną i jednorazową, przez co są mniej świadome potencjalnych szkód, jakie wyrządzają.
Okręgi szkolne zwracają uwagę na problem, a jeden z okręgów w Teksasie wydał ostrzeżenie dotyczące konsekwencji dyscyplinarnych i prawnych dla uczniów uznanych za odpowiedzialnych. Jednakże anonimowość tych stron i szybkość ich rozpowszechniania utrudniają ściganie.
Coraz częstsze występowanie „oszczerczych stron” opartych na sztucznej inteligencji podkreśla zmieniający się krajobraz znęcania się w Internecie, w którym anonimowość, wirusowość i coraz bardziej wyrafinowana technologia łączą się, tworząc nową, potężną i niebezpieczną formę znęcania się.
