Les deepfakes pornographiques comme nouvelle arme de harcèlement scolaire

Sur les réseaux sociaux, les deepfakes pornographiques se sont multipliés ces derniers mois. Depuis quelques années déjà, ces truquages générés grâce à l'intelligence artificielle permettent de dénuder une personne sur base d'une simple photo, ou encore d'insérer le visage d'une personnalité dans une scène de film pornographique.

Alors que la création de ce type d'images nécessitait auparavant de bonnes connaissances en informatique, les outils actuels sont facilement accessibles en ligne et offrent un réalisme toujours plus saisissant.

Conséquence: si les deepfakes concernaient plutôt des personnalités publiques, comme des actrices ou des politiciennes, ils s'invitent désormais dans les écoles et participent d'une forme nouvelle de harcèlement scolaire.

Des victimes de moins de 13 ans

Le quotidien espagnol El País rapporte l'exemple d'une vague de ces images qui a touché au moins quatre des cinq lycées d'Almendralejo, une ville d'environ 30'000 habitants dans la région d'Estrémadure (sud-ouest). Lors de la rentrée scolaire de septembre, des photos de camarades de classe nues ont rapidement circulé sur les téléphones des élèves. "J'ai vu une photo de toi nue", lance alors un garçon à une adolescente de 14 ans.

Les images ont été volées sur les comptes Instagram des victimes et modifiées à l'aide d'une application qui fait sa promotion avec un slogan sans équivoque: "Déshabillez n'importe qui avec notre service gratuit!"

Une autre victime de 12 ans raconte avoir été contactée sur ce même réseau social par "un garçon" - un profil vraisemblable faux, selon la police - qui lui a demandé de l'argent. Lorsqu'elle a refusé, il lui a immédiatement envoyé une photo d'elle dénudée. La police espagnole a déjà identifié une dizaine de suspects, souligne le journal.

Pratique sexiste et droit à l'image

Selon un rapport publié en 2020, 96% des deepfakes étaient des vidéos pornographiques, et les personnes visées étaient des femmes dans la quasi-totalité des cas, la technologie participant ainsi à une forme de culture du viol et, plus largement, à la sexualisation des jeunes et du corps des jeunes femmes.

>> Lire à ce sujet : Un logiciel de "deep fakes" spécialisé dans les photos dénudées de femmes découvert sur Telegram

Au-delà des enquêtes et de la prise en charge des victimes, l'enjeu derrière cette pratique est énorme en matière de droit à l'image. La question de la responsabilité juridique des créateurs de ces applications se pose notamment.

>> Lire sur le même sujet : Le marché des clones numériques est en pleine expansion

Sujet radio: Miruna Coca-Cozma
Adaptation web: Pierrik Jordan