Un logiciel de "deep fakes" spécialisé dans les photos dénudées de femmes découvert sur Telegram

Une photo d'une femme habillée trouvée sur le web, les réseaux sociaux ou dans des documents personnels suffit. L'utilisateur l'envoie ensuite via Telegram sur une page dédiée où le logiciel, un "bot" automatique, procède à la transformation et renvoie une image de la victime sans ses habits, complètement nue. C'est donc un "deep fake", une technique de trucage d'images basée sur l'intelligence artificielle.

La qualité des photos modifiées peut varier mais certaines sont d'un réalisme saisissant. Le service est gratuit, très simple à utiliser et ne requiert aucune connaissance spécifique en informatique. Avec une cotisation d'un peu plus d'un dollar, les utilisateurs peuvent supprimer les filigranes restant pour rendre l'image truquée encore plus crédible.

Plus de 100'000 photos de femmes déjà concernées

Basée à Amsterdam, la start-up Sensity estime qu'au moins 104'000 photos de femmes ont ainsi été détournées jusqu'à la fin du mois de juillet 2020 (moment où s'arrête l'étude). Si dans 24% des cas, les images concernent des actrices, des chanteuses, des modèles ou encore des "influenceuses" sur Instragram, deux tiers des clichés des victimes sont des femmes que les utilisateurs connaissent dans leur vie réelle, estime l'entreprise. Détail significatif, le programme n'est entraîné qu'à effectuer sa tâche sur des photos de femmes et ne fonctionne pas avec les hommes.

Les utilisateurs de cette technologie viennent quant à eux à plus de 70% de Russie et des pays de l'ex-Union soviétique. Dans de plus petites proportions, les Etats-Unis et l'Europe sont également touchés. Cette différence s'explique sans doute en partie par la régulation plus laxiste du réseau social russe VKontakte, en comparaison de ses homologues américains Facebook, Instagram ou Twitter. Les pages de promotion pour les chaînes privées de Telegram qui proposent ce service fleurissent en effet sur ce géant du web.

>> Revoir le reportage de Géopolitis sur l'évolution des fausses informations :

Humiliation, extorsion et... pédophilie

L'étude souligne aussi les nombreux risques liés à ce logiciel. Une fois le "deep fake" effectué, l'utilisateur est libre de faire ce qu'il souhaite de la photo truquée. La publication ou la menace de publication en ligne de ces images peuvent être utilisées à des fins d'humiliation mais également d'extorsion.

Dans son enquête, Sensity explique par ailleurs avoir découvert plusieurs cas où les victimes sont des filles mineures. Dans une certaine mesure, le logiciel permettrait donc d'alimenter des réseaux pédopornographiques.

Dans un rapport antérieur à cette étude, l'entreprise estime que les contenus liés à la technologie "deep fakes" sont à 96% d'ordre pornographique. Dans le cas de Telegram, les auteurs sont avant tout alarmés par la facilité d'accès et d'utilisation du logiciel, qui dénote d'une vraie démocratisation du modèle.

"Jusqu'à récemment, l'utilisation de ces logiciels nécessitait un ordinateur, une unité de traitement graphique (nldr: une puce qui effectue des traitement mathématiques rapides, notamment pour le traitement d'images) et certaines compétences informatiques (...) le logiciel présent dans Telegram est alimenté par des serveurs externes. Cela abaisse considérablement la difficulté d'utilisation par rapport aux prédécesseurs de cette technologie", peut-on entre autres lire dans le document.

Peu d'outils pour combattre le phénomène

Interrogé par le Washington Post, l'administrateur du "chatbot" des pages Telegram qui proposent ce logiciel juge qu'il ne s'agit-là que "d'une forme inoffensive de voyeurisme sexuel" tout en précisant que ses opérateurs ne prennent "aucune responsabilité pour les femmes ciblées par les utilisateurs".

Si l'argument apparaît bien sûr irrecevable, les experts se retrouvent démunis pour combattre le phénomène. Le code source du système ayant déjà été largement partagé, il n'existe aucun moyen d'empêcher des logiciels similaires de continuer à créer, héberger et partager des fausses images de nus sur des parties du web moins réglementées.

L'étude de Sensity montre d'ailleurs que le logiciel repéré sur Telegram est déjà à l'oeuvre sur d'autres sites, notamment dans des versions payantes.

Alors, à défaut de réussir à contenir ces fausses images, pourrait-on au moins les identifier commes telles? Au quatre coins du monde, chercheurs, scientifiques, professeurs et spécialistes en intelligence artificielle essaient déjà de trouver une parade. En Suisse, l'EPFL travaille depuis trois ans sur un logiciel qui a pour ambition de réussir à les démasquer.

Tristan Hertig