David Chiu, le procureur de la ville de San Francisco, ne demande pas gentiment.
Il exige qu’Apple et Google suppriment 13 applications spécifiques de leurs magasins. Les applications ? Ils échangent des visages. Plus important encore, ils génèrent des images de nus non consensuelles à l’aide de l’IA. Le monde de la technologie appelle cela la « nudification ». Chiu appelle cela un abus sexuel. Il veut que les géants arrêtent de profiter. Il veut qu’ils arrêtent de l’aider. Et il souhaite qu’ils rompent complètement les liens avec les développeurs.
Ce n’est pas une demande. C’est un ordre de cesser et de s’abstenir.
La base juridique
La loi californienne est claire sur ce point.
Il est interdit de créer ou de prendre en charge des services produisant de la pornographie deepfake. Les lettres consultées par WIRED affirment qu’en autorisant les paiements via l’application, Apple et Google subissent une part du préjudice. Des millions de dollars, potentiellement, en frais. Ce n’est pas un hébergement passif. C’est ça la participation.
« Le fait que certaines des entreprises technologiques les plus établies facilitent cela est totalement inacceptable », a déclaré Chiu.
Il ne parle pas seulement de lacunes politiques. Il parle de responsabilité. Si vous profitez d’un crime, vous en êtes complice. La position de la ville est que la modération ne fonctionne pas et qu’elle doit être améliorée immédiatement.
Un gâchis transparent
Cela ne devrait choquer personne à Cupertino ou à Mountain View.
Depuis des années, les chercheurs signalent ces outils. Le problème n’est pas nouveau. C’est persistant. Les applications qui promettent l’échange de visage cachent souvent leur véritable objectif jusqu’à ce que vous les téléchargiez. Une application, avec plus d’un million de téléchargements, répertorie des styles comme « reine du bikini » et « gros seins calmes » directement sur sa page de destination. Un autre se vante d’un contenu « non censuré ».
Ils se déguisent en bénins. Des outils à double usage, comme disent les universitaires.
Bénin en surface. Dangereux en dessous.
Une étude réalisée en mai par Cornell et Georgetown a révélé que 420 applications d’échange de visage présentes dans les deux grands magasins pouvaient générer des nus. Dans 70 % des tests, les applications n’avaient aucune protection. Aucun. Ils ne se sont pas présentés comme des outils de nudification, ils sont donc passés entre les mailles du filet des algorithmes de modération de contenu à la recherche de mots-clés explicites dans les descriptions.
Est-ce accidentel ? Ou simplement pratique pour le résultat net ?
L’échelle est terrifiante
Nous avons déjà vu les chiffres. Le Tech Transparency Project a découvert environ 100 applications de ce type plus tôt cette année. Ils ont été téléchargés collectivement près d’un demi-milliard de fois. Ils ont probablement généré 120 millions de dollars.
Un demi-milliard de téléchargements.
Les dégâts sont réels. Les victimes souffrent d’humiliation, d’intimidation et de graves conséquences sur leur santé mentale. Certains ont envisagé le suicide. Les images apparaissent dans les écoles – 90 incidents documentés par des rapports précédents – ciblant les mineurs. Il s’agit d’une violation à une échelle industrialisée.
« Cette industrie a un impact horrible », a déclaré Chiu. “Il y a eu des victimes suicidaires. C’est absolument horrible.”
Est-ce que les plateformes s’en soucient ?
Dan Jackson de Google affirme avoir supprimé des centaines d’applications en infraction. Il dit qu’ils limitent les termes de recherche tels que « nudify » et agissent rapidement lorsque des violations sont signalées. Ils revendiquent de la proactivité. Ils réclament la sécurité.
Apple n’a pas commenté.
Katie Paul du Tech Transparency Project est moins optimiste. Elle dit que le problème revenait sans cesse. Pire à chaque fois.
“Nous ne pensions pas, après le premier épisode, que nous reverrions cela”, a-t-elle déclaré. “Apple et Google promettent confiance et sécurité dans leur marketing. Mais cela ne se concrétise tout simplement pas dans la réalité.”
Chiu n’attend pas le prochain bilan trimestriel. Il affirme que son bureau examinera toutes les options juridiques si les applications ne disparaissent pas.
Il espère que les géants de la technologie feront le bon choix. Il le fait vraiment. Mais étant donné l’argent en jeu et le bilan jusqu’à présent, cet espoir semble mince. Les applications sont toujours là. Les revenus coulent toujours. Et les lois rattrapent enfin la technologie, laissant aux plateformes un choix simple : réduire les bénéfices ou s’adresser aux tribunaux.
Qui veut parier sur le chemin qu’il choisit ?
