David Chiu, il procuratore della città di San Francisco, non la sta chiedendo bene.
Chiede ad Apple e Google di eliminare 13 app specifiche dai loro negozi. Le app? Si scambiano le facce. Ancora più importante, generano immagini di nudo non consensuali utilizzando l’intelligenza artificiale. Il mondo tecnologico la chiama “nudificazione”. Chiu lo chiama abuso sessuale. Vuole che i giganti smettano di trarre profitto. Vuole che smettano di aiutare. E vuole che rompano completamente i legami con gli sviluppatori.
Questa non è una richiesta. È un ordine di cessazione e desistenza.
La base giuridica
La legge della California è chiara su questo punto.
È vietato creare o supportare servizi che creino pornografia deepfake. Le lettere viste da WIRED sostengono che consentendo i pagamenti in-app, Apple e Google si stanno riducendo i danni. Milioni di dollari, potenzialmente, in commissioni. Questo non è hosting passivo. Questa è partecipazione.
“Il fatto che alcune delle aziende tecnologiche più affermate stiano agevolando tutto ciò è del tutto inaccettabile”, ha affermato Chiu.
Non sta parlando solo di lacune politiche. Sta parlando di responsabilità. Se trai profitto da un crimine sei complice. La posizione della città è che la moderazione non funziona e deve migliorare immediatamente.
Un pasticcio trasparente
Non dovrebbe essere uno shock per nessuno a Cupertino o Mountain View.
Per anni, i ricercatori hanno segnalato questi strumenti. Il problema non è nuovo. È persistente. Le app che promettono lo scambio di volti spesso nascondono il loro vero scopo finché non le scarichi. Un’app, con oltre un milione di download, elenca stili come “regina del bikini” e “tettona calma” direttamente sulla sua pagina di destinazione. Un altro si vanta di contenuti “non censurati”.
Si travestono da benigni. Strumenti a duplice uso, li chiamano gli accademici.
Benigni in superficie. Sotto è pericoloso.
Uno studio condotto da Cornell e Georgetown a maggio ha rilevato che 420 app di scambio di volti su entrambi i principali negozi potrebbero generare nudi. Nel 70% dei test, le app non avevano alcuna protezione. Nessuno. Non si sono commercializzati come strumenti di nudizzazione, quindi sono scivolati tra le fessure degli algoritmi di moderazione dei contenuti alla ricerca di parole chiave esplicite nelle descrizioni.
È accidentale? O semplicemente conveniente per i profitti?
La scala è terrificante
Abbiamo già visto i numeri. Il Tech Transparency Project ha trovato circa 100 app di questo tipo all’inizio di quest’anno. Sono stati scaricati complessivamente quasi mezzo miliardo di volte. Probabilmente hanno generato 120 milioni di dollari.
Mezzo miliardo di download.
Il danno è reale. Le vittime subiscono umiliazioni, bullismo e gravi conseguenze sulla salute mentale. Alcuni hanno contemplato il suicidio. Le immagini appaiono nelle scuole: 90 incidenti documentati da precedenti reportage, che hanno preso di mira i minori. Si tratta di una scala di violazione industrializzata.
“Questa industria ha un impatto terribile”, ha detto Chiu. “Ci sono state vittime che hanno tentato il suicidio. È assolutamente orribile.”
Alle piattaforme interessa?
Dan Jackson di Google afferma di aver eliminato centinaia di app in violazione. Dice che limitano i termini di ricerca come “nudificare” e agiscono rapidamente quando vengono segnalate violazioni. Sostengono la proattività. Reclamano sicurezza.
Apple non ha commentato.
Katie Paul del Tech Transparency Project è meno ottimista. Dice che il problema continuava a ripresentarsi. Ogni volta peggio.
“Non pensavamo dopo il primo film che lo avremmo visto di nuovo”, ha detto. “Apple e Google promettono fiducia e sicurezza nel loro marketing. Ma questo non si verifica nella realtà.”
Chiu non sta aspettando la prossima revisione trimestrale. Dice che il suo ufficio prenderà in considerazione tutte le opzioni legali se le app non scompariranno.
Spera che i giganti della tecnologia facciano la cosa giusta. Lo fa davvero. Ma considerati i soldi in gioco e i risultati ottenuti finora, quella speranza sembra debole. Le app sono ancora lì. Le entrate continuano a fluire. E le leggi stanno finalmente raggiungendo la tecnologia, lasciando alle piattaforme una scelta semplice: tagliare i profitti o affrontare i tribunali.
Chi vuole scommettere quale percorso sceglierà?
