Vague d'indignation suite à la publication de deepfakes pornographiques de Taylor Swift
De fausses images pornographiques mettant en scène Taylor Swift, créées grâce à l'IA générative, ont été largement partagées ces derniers jours sur les réseaux sociaux. La classe politique américaine et les fans de Taylor Swift ont exprimé leur indignation face à ces "deepfakes".
L'une de ces images a été vue plus de 47 millions de fois sur le réseau social X. Selon les médias américains, l'image est restée sur la plateforme pendant plus de 17 heures avant d'être supprimée.
Les fausses images ("deepfakes") pornographiques de femmes célèbres, mais visant également beaucoup de personnes anonymes, ne sont pas nouvelles. Mais le développement de programmes d'intelligence artificielle (IA) générative risque de produire un flux incontrôlable de contenus dégradants, selon de nombreux activistes et régulateurs.
>> Lire aussi : Les deepfakes pornographiques comme nouvelle arme de harcèlement scolaire
Le fait que de telles images touchent cette fois-ci Taylor Swift, au deuxième rang des artistes les plus écoutés au monde sur la plateforme Spotify, pourrait cependant aider à sensibiliser les autorités au problème, étant donné l'indignation de ses millions de fans.
>> Lire aussi : Taylor Swift a été l'artiste mondiale la plus écoutée en 2023 sur Spotify
Responsabilité des réseaux sociaux
La Maison Blanche a également exprimé sa préoccupation sur le sujet. "Nous sommes alarmés par les informations faisant état de la circulation de ces fausses images", a déclaré devant la presse Karine Jean-Pierre, la porte-parole de l'exécutif américain.
Elle a rappelé le rôle important des réseaux sociaux dans la modération des contenus. "Malheureusement, trop souvent, nous savons que le manque d'application des règles a un impact disproportionné sur les femmes et les filles, qui sont les principales cibles du harcèlement en ligne", a-t-elle ajouté.
X est connu pour avoir des règles sur la nudité moins strictes qu'Instagram ou Facebook. Apple et Google ont un droit de regard sur les contenus circulant sur les applications via les règles qu'ils imposent sur leurs systèmes d'exploitation mobile, mais ils ont toléré cette situation sur X, jusqu'à présent.
>> Lire aussi : Une enquête européenne vise X sur la modération des contenus et la transparence
Dans un communiqué, X a assuré avoir "une politique de tolérance zéro" sur la publication non consentie d'images de nudité. La plateforme a déclaré "retirer concrètement toutes les images identifiées" de la chanteuse et "prendre les mesures appropriées contre les comptes les ayant postées".
Une étude réalisée en 2019 estimait que 96% des vidéos deepfakes étaient de nature pornographique. Selon le magazine Wired, 113'000 vidéos de ce type ont été mises en ligne sur les principaux sites pornographiques pendant les neuf premiers mois de 2023.
afp/edel
Publié