L'intelligence artificielle facilite la création de contenus pédopornographiques

L’intelligence artificielle repousse les limites du réalisme. Il ne suffit plus que de quelques mots sur un ordinateur pour créer une photo ou une vidéo. Les criminels ont bien compris ce potentiel, multipliant les contenus pédopornographiques créés avec l’IA ces derniers mois.

Et c'est un problème, selon Europol: "Même dans les cas de contenus entièrement générés par l’IA et sans victime réelle, ces productions contribuent à objectiver et sexualiser les enfants", a récemment averti l'agence de police criminelle.

D'autant que ces outils informatiques se sont démocratisés, dénonce Touradj Ebrahimi, spécialiste de l'intelligence artificielle à l'EPFL, qui avait monté un projet de lutte contre ce type de contenus il y a cinq ans déjà, alors que ces technologies étaient encore balbutiantes. "Ce qui a vraiment changé, c’est la démocratisation des outils informatiques qui permettent de faire la génération et manipulation des données audiovisuelles", a-t-il relevé cette semaine dans le 19h30.

>> Pour aller plus loin sur le sujet de l'IA, lire : L'intelligence artificielle, un outil d'aide, mais qui ne remplace pas l'humain

Les enfants et adolescents sont les premières victimes

En effet, au-delà des vidéos créées à 100% par l’IA, de nombreuses vidéos à caractère sexuel légales sont aussi détournées, poursuit Touradj Ebrahimi. Les malfrats prennent des "vidéos ou des photos de personnes, appelées 'cibles', qui existent et les fusionnent entre elles ou remplacent les personnes qui se trouvent dans la vidéo par d'autres".

Ils peuvent le faire avec des personnes connues, comme avec des enfants ou des adolescents. Ceux-ci représentent 85% des personnes victimes d’infractions sexuelles en ligne.

Une diffusion rapide

Une fois créés, ces contenus sont ensuite très largement diffusés grâce aux robots de l'IA. Cet outil informatique alimente donc le marché criminel, critique Regula Bernhard Hug, la directrice de la Fondation Protection de l’enfance. "C’est plus simple de distribuer le matériel pédopornographique, grâce aux bots par exemple, puisqu'ils permettent de distribuer ces contenus illicites très vite à plusieurs clientèles."

Face à ce danger, une campagne nationale a été lancée par la Protection de l’enfance en début de semaine afin de sensibiliser aux risques, en premier quand on partage des photos ou des vidéos en ligne.

>> Sur le thème des faux contenus, lire également : Comment l'intelligence artificielle invente des scandales à nos élus

Sujet TV: Matthieu Hoffstetter

Adaptation web: Julie Marty