Le procureur de San Francisco a adressé cette semaine des mises en demeure à Apple et à Google. Il exige le retrait de treize applications qui, sous couvert d'échange de visages, fabriquent de fausses images dénudées de personnes réelles grâce à l'intelligence artificielle.

Treize applications dans le viseur

David Chiu, le procureur (City Attorney) de San Francisco, a envoyé des lettres de mise en demeure aux deux géants. Elles ciblent treize applications présentées comme des outils de face-swap, l'échange de visages, mais qui permettent en réalité de générer des images dénudées de personnes sans leur consentement. Huit étaient disponibles sur l'App Store d'Apple, cinq sur le Google Play Store.

Le raisonnement du procureur est direct. En prélevant une commission sur les paiements réalisés dans ces applications, les deux boutiques participent à la diffusion de ces images truquées. Il leur demande de couper tout lien avec les développeurs concernés et de cesser d'encaisser leur part.

« Humilier et menacer des femmes et des jeunes filles »

David Chiu ne mâche pas ses mots. « Ces images servent à harceler, humilier et menacer des femmes et des jeunes filles », écrit-il, en pointant « un impact effroyable sur la réputation, la santé mentale et l'autonomie » des victimes. La démarche prolonge une action engagée en 2024, quand son bureau avait attaqué en justice seize sites qui transforment des photos de femmes et de jeunes filles réelles en contenus pornographiques par IA.

Apple et Google réagissent

Les deux entreprises ont bougé vite.

  • Google a suspendu les cinq applications citées et affirme avoir déjà supprimé « des centaines » d'applications proposant ce type de fonctions, rappelant que sa politique interdit les contenus sexuels.
  • Apple a retiré trois des applications visées et engagé la fermeture des comptes des développeurs, tout en indiquant être en contact avec quatre autres éditeurs pour des infractions à ses règles.

Ce qui se joue ici dépasse treize applications. En s'attaquant aux boutiques plutôt qu'aux seuls développeurs, souvent installés à l'étranger et difficiles à poursuivre, San Francisco vise le point de passage obligé : la distribution et le paiement. Si la méthode fait des émules, Apple et Google devront surveiller de bien plus près ce que leurs magasins hébergent au nom de l'IA générative.