David Chiu, městský právník v San Franciscu, se neptá pěkně.
Požaduje, aby Apple a Google odstranily 13 konkrétních aplikací ze svých obchodů. O jakých aplikacích mluvíme? Mění tváře. Ale co je důležitější, generují obrázky nahoty bez souhlasu lidí pomocí umělé inteligence. V technologickém průmyslu se tomu říká „nudifikace“ a Chiu tomu říká sexuální napadení. Chce, aby tech giganti přestali profitovat z tohoto procesu, přestali poskytovat pomoc a přerušili všechny vazby s vývojáři.
Toto není žádost. Toto je příkaz k zastavení porušování.
Právní základ
Kalifornské právo je v této otázce velmi jasné.
Vytváření nebo podpora služeb, které produkují pornografické deepfake, je zakázáno. Dopisy, které přezkoumal WIRED, tvrdí, že povolením plateb v aplikacích Apple a Google snižují část škod. Potenciálně jde o miliony dolarů na provizích. Nejedná se o pasivní hosting. To je spoluúčast.
“Je nepřijatelné, že některé z nejetablovanějších technologických společností to umožňují,” řekl Chiu.
Nemluví jen o mezerách ve firemní politice. Mluví o zodpovědnosti. Pokud profitujete ze zločinu, jste spolupachatel. Postoj města je takový, že současné moderační mechanismy nefungují a situace se musí okamžitě změnit.
Transparentní nepořádek
Pro lidi z Cupertina nebo Mountain View by to nemělo být překvapivé.
Vědci již léta signalizují nebezpečí takových nástrojů. Problém není nový. Je stálá. Aplikace, které slibují výměnu obličeje, často skrývají svůj skutečný účel až do doby stažení. Jedna aplikace, stažená více než milionkrát, nabízí styly jako „královna bikin“ a „klidně s velkými prsy“ přímo na své domovské stránce. Další se chlubí „obscénním“ obsahem.
Převlékají se za neškodné programy. Akademici jim říkají nástroje dvojího použití.
Na povrchu neškodné. Uvnitř nebezpečné.
V květnu studie Cornell University a George Mason University zjistila, že 420 aplikací pro výměnu obličejů v obou velkých obchodech může generovat obrázky nahoty. V 70 % případů testování tyto aplikace neměly žádná bezpečnostní opatření. Ani jeden. Nepostavili se jako „nutifikační“ nástroje, takže se jim podařilo proklouznout trhlinami v algoritmech moderování obsahu, které v popisech hledají explicitní klíčová slova.
Je to nehoda? Nebo jen pohodlný způsob, jak zvýšit zisk?
Měřítko je děsivé
Tato čísla jsme již viděli. Projekt Tech Transparency Project objevil začátkem tohoto roku asi 100 takových aplikací. Dohromady byly staženy téměř půl miliardykrát. Jejich potenciální zisk je asi 120 milionů dolarů.
Půl miliardy stažení.
Škoda je skutečná. Oběti zažívají ponižování, šikanu a vážné následky na duševní zdraví. Někteří dokonce uvažovali o sebevraždě. Snímky pronikají do škol – předchozí vyšetřování zdokumentovala 90 takových incidentů, které se často týkaly nezletilých. Jde o násilí v průmyslovém měřítku.
“Toto odvětví má děsivý dopad,” řekl Chiu. “Byly tam oběti, které dohnaly myšlenky na sebevraždu. Je to naprosto hrozné.”
Zajímají platformy?
Dan Jackson ze společnosti Google říká, že odstranili stovky aplikací, které porušují pravidla. Říká, že společnost omezuje hledané výrazy jako “nudify” a rychle reaguje, když jsou nahlášena porušení. Tvrdí, že jsou proaktivní. Prohlašují bezpečnost.
Apple to odmítl komentovat.
Kate Paul z Tech Transparency Project je méně optimistická. Problém se podle ní znovu a znovu vracel. V nejhorším.
“Po první zprávě jsme si nemysleli, že to uvidíme znovu,” řekla. “Apple a Google slibují důvěru a bezpečnost ve svém marketingu. Ale ve skutečnosti to prostě nefunguje.”
Chiu nečeká na další čtvrtletní recenzi. Říká, že jeho kancelář prozkoumá všechny možné právní možnosti, pokud žádosti přetrvávají.
Doufá, že tech giganti udělají správnou věc. Opravdu to chce. Ale vzhledem k penězům, které jsou v sázce, a minulým zkušenostem se tato naděje zdá křehká. Aplikace jsou stále k dispozici. Zisky stále rostou. A zákony konečně dohánějí technologie, takže platformám zůstává jednoduchá volba: vzdát se zisků nebo čelit právním krokům.
Kdo si chce vsadit, jakou cestu zvolí?
