David Chiu, prawnik miejski San Francisco, nie prosi ładnie.
Żąda, aby Apple i Google usunęły 13 konkretnych aplikacji ze swoich sklepów. O jakich zastosowaniach mówimy? Zmieniają twarze. Ale co ważniejsze, generują obrazy nagości bez zgody ludzi przy użyciu sztucznej inteligencji. W branży technologicznej nazywa się to „nudyfikacją”, a Chiu nazywa to napaścią na tle seksualnym. Chce, aby giganci technologiczni przestali czerpać zyski z tego procesu, zaprzestali udzielania pomocy i zerwali wszelkie więzi z programistami.
To nie jest prośba. Jest to nakaz zaprzestania naruszania.
Podstawa prawna
Prawo stanu Kalifornia jest w tej kwestii bardzo jasne.
Tworzenie lub wspieranie usług produkujących pornograficzne deepfakes jest zabronione. Z listów zweryfikowanych przez WIRED wynika, że zezwalając na płatności w aplikacji, Apple i Google ograniczają część szkód. W grę wchodzą potencjalnie wielomilionowe prowizje. To nie jest hosting pasywny. To jest współudział.
„To niedopuszczalne, że niektóre z najbardziej uznanych firm technologicznych to umożliwiają” – stwierdził Chiu.
Nie mówi tylko o lukach w polityce firmy. Mówi o odpowiedzialności. Jeśli czerpiesz korzyści z przestępstwa, jesteś wspólnikiem. Miasto stoi na stanowisku, że obecne mechanizmy moderacyjne nie działają i sytuacja musi ulec natychmiastowej zmianie.
Przezroczysty bałagan
Dla ludzi z Cupertino i Mountain View nie powinno to być zaskakujące.
Naukowcy od lat sygnalizują niebezpieczeństwa związane z tego typu narzędziami. Problem nie jest nowy. Ona jest stała. Aplikacje obiecujące zamianę twarzy często ukrywają swój prawdziwy cel do czasu pobrania. Jedna z aplikacji, pobrana ponad milion razy, oferuje style takie jak „królowa bikini” i „spokojny z dużymi piersiami” bezpośrednio na swojej stronie głównej. Inny przechwala się „obscenicznymi” treściami.
Podszywają się pod nieszkodliwe programy. Naukowcy nazywają je instrumentami podwójnego zastosowania.
Nieszkodliwy na powierzchni. Niebezpieczne w środku.
W maju badanie przeprowadzone przez Cornell University i George Mason University wykazało, że 420 aplikacji do zamiany twarzy w obu głównych sklepach może generować obrazy nagości. W 70% przypadków testowych aplikacje te nie posiadały żadnych zabezpieczeń. Ani jednego. Nie pozycjonowały się jako narzędzia do „nutyfikacji”, więc udało im się prześliznąć przez luki w algorytmach moderowania treści, które szukają wyraźnych słów kluczowych w opisach.
Czy to wypadek? A może po prostu wygodny sposób na zwiększenie zysków?
Skala jest przerażająca
Widzieliśmy już te liczby. Na początku tego roku w ramach projektu Tech Transparency Project odkryto około 100 takich aplikacji. Łącznie pobrano je prawie pół miliarda razy. Ich potencjalny zysk to około 120 milionów dolarów.
Pół miliarda pobrań.
Szkoda jest realna. Ofiary doświadczają poniżania, znęcania się i poważnych konsekwencji dla zdrowia psychicznego. Niektórzy myśleli nawet o samobójstwie. Obrazy przenikają do szkół – poprzednie dochodzenia udokumentowały 90 takich incydentów, często z udziałem nieletnich. To przemoc na skalę przemysłową.
„Ta branża ma przerażający wpływ” – powiedział Chiu. „Były ofiary doprowadzane do myśli samobójczych. To jest absolutnie okropne”.
Czy platformy są zainteresowane?
Dan Jackson z Google twierdzi, że usunięto setki aplikacji naruszających zasady. Mówi, że firma ogranicza wyszukiwane hasła, takie jak „nudyfikacja”, i szybko reaguje w przypadku zgłoszenia naruszeń. Twierdzą, że są proaktywni. Twierdzą, że bezpieczeństwo.
Apple odmówił komentarza.
Kate Paul z Tech Transparency Project jest mniej optymistyczna. Według niej problem powracał raz po raz. W najgorszym wydaniu.
„Nie sądziliśmy, że po pierwszym raporcie zobaczymy to ponownie” – powiedziała. „Apple i Google obiecują zaufanie i bezpieczeństwo w swoim marketingu. Ale w rzeczywistości to po prostu nie działa”.
Chiu nie czeka na kolejny kwartalny przegląd. Mówi, że jego biuro zbada wszystkie możliwe opcje prawne, jeśli wnioski będą nadal rozpatrywane.
Ma nadzieję, że giganci technologiczni postąpią słusznie. On naprawdę tego chce. Jednak biorąc pod uwagę stawkę pieniężną i dotychczasowe doświadczenia, nadzieja ta wydaje się krucha. Aplikacje są nadal dostępne. Zyski wciąż rosną. A przepisy w końcu doganiają technologię, pozostawiając platformom prosty wybór: zrezygnować z zysków lub stanąć przed sądem.
Kto chce się obstawiać, jaką drogę wybierze?
