Ethique, outils de détection, les défis que posent les images générées par l'intelligence artificielle

Macron poursuivi dans les rues de Paris ou le pape déambulant dans une doudoune blanche dernier cri… Depuis plusieurs jours de fausses images créées à l’aide de logiciels utilisant l’intelligence artificielle circulent sur internet. Souvent lié à l’actualité, le réalisme de ces clichés a semé le doute parmi les internautes.

Ces images sont souvent le fruit de logiciels comme Midjourney, DALL-E ou Stable Diffusion. Des outils capables de générer une infinité de clichés à partir d’une immense base de données, alimentée par internet et les demandes d’utilisateurs.

Le créateur de l’image du pape a ainsi simplement demandé à une intelligence artificielle (IA) de produire la photo à partir de la description suivante: "Le pape en doudoune rembourrée Balenciaga marchant dans les rues de Rome".

Ces technologies ont le pouvoir de révolutionner la manière dont nous consommons et créons des contenus visuels, qui posent plusieurs questions éthiques. Comme avec les images de Macron ou du pape, elles peuvent être utilisées pour générer des contenus trompeurs, voire malveillants. Avec le risque d’entraîner l’augmentation de "fake news", à l’heure où la désinformation est toujours plus utilisée comme une arme stratégique.

Encadrer les usages

Michel Jeanneret, rédacteur en chef du média en ligne Blick, revient sur les usages de cette intelligence artificielle. La rédaction s’est récemment servie d’une image générée par Midjourney pour illustrer un article particulièrement difficile à mettre en image.

"On l’a utilisée un peu par provocation, mais aussi pour susciter le débat autour de la question", détaille-t-il. "C’est une pratique qui doit être strictement encadrée pour ne pas rompre la crédibilité et le lien de confiance que l’on a avec le public. Il faut que l’image soit identifiée comme une illustration prétexte, qu’elle soit légendée pour que le lecteur sache à quoi il a à faire. On peut utiliser une image générée par un robot que si l’on œuvre en toute transparence avec son lectorat".

Pour le rédacteur en chef, l’exploitation de ce genre de logiciels n’est pas le fond du problème. "Le véritable défi pour un média est de réussir à faire le tri parmi ces images. Est-ce qu’on est en face d’un document ou d’une fake news ? Pour l’instant, il existe peu d’outils de vérification fiables. Il faut être vigilant, s’approprier correctement ces logiciels et encadrer leurs usages pour le public", poursuit-il.

La course est pourtant lancée pour développer des outils capables de détecter automatiquement les faux. Pour l’instant, rien n’est encore vraiment fiable.

Entraîner un IA à détecter les faux

L’une des méthodes envisagées consiste à entraîner une IA pour qu’elle détecte automatiquement les faux. Selon Yann Dubois, doctorant à l'Université de Stanford et spécialiste de l’apprentissage automatique, la méthode actuelle de détection des images générées par l’IA peut encore fonctionner relativement bien.

>> Lire aussi : Reconnaissance faciale: une sécurité à deux visages

Cependant, elle présente certains problèmes. Tout d’abord, à mesure que de nouvelles intelligences artificielles apparaissent, il devient nécessaire de mettre à jour l’IA pour éviter qu’elle ne soit dépassée. Deuxièmement, vu les progrès à long terme, il pourrait devenir difficile, même pour une IA entraînée, de distinguer ce qui a été généré par une IA ou par un humain.

Pire, les ingénieurs peuvent également entraîner leur IA à tromper les détecteurs de faux, engageant ainsi une course sans fin.

Une autre approche consiste à intégrer des filigranes et des marqueurs directement dans les productions de l’IA pour les rendre plus facilement identifiables. Mais pour l’instant, aucune obligation n’est imposée en la matière.

La débrouille

En attendant, il existe quelques astuces pour mettre son cerveau à contribution et détecter les images générées par ordinateur. La première consiste à observer attentivement les mains et les dents, qui présentent souvent des anomalies. Par exemple, Donald Trump a récemment publié une photo de lui en train de prier, générée par ordinateur. En y regardant de plus près, selon Forbes, on remarque que les pouces sont déformés et qu’il manque un annulaire.

D’autres techniques peuvent également être utiles. Si l’image représente une foule, observez bien les visages pour y déceler d’éventuelles erreurs. Les textes ne veulent souvent rien dire. Comparez également la couleur des yeux d’une personnalité avec des photos officielles et prêtez attention aux ombres au sol. Ces petites astuces peuvent s’avérer utiles… jusqu'à la prochaine mise à jour. Il faudra alors tout reprendre à zéro.

Face à ces progrès technologiques fulgurants, on peut se sentir désarmé. C’est pourquoi plusieurs sommités mondiales de l’intelligence artificielle ont publié cette semaine une lettre ouverte demandant la suspension immédiate, pour une durée d’au moins 6 mois, de la formation de systèmes d’IA plus puissants que GPT-4. Selon eux, nous ne sommes pas encore en mesure de gérer les risques ni d’assurer que les effets seront réellement positifs. La technologie n’est en effet pas neutre et peut avoir un impact sur notre comportement.

>> Ecouter la chronique CTRL+Z sur cette question :

Depositphotos - MattLphotography

Droits d’auteurs

Autre problème: comment déterminer à qui appartient une image créée par une IA? "Ce sont des contenus générés par une infinité d’autres images... Il est donc difficile d’en vérifier la provenance. Cela pose des questions sur la propriété intellectuelle. Par exemple, à qui revient les droits d’auteurs? Actuellement, il n’existe aucune législation en la matière en Suisse", soulève Michael Kamm, CEO de l’agence de communication Trio.

Ces outils interrogent aussi le rôle de l’humain dans la création artistique. Il suffit par exemple de générer un texte tel que "Dessine-moi un extraterrestre à la manière de Van Gogh" pour que l’IA crée une illustration proche du coup de pinceau du peintre néerlandais.

Michael Kamm tient tout de même à rassurer. "Nous pouvons toujours utiliser l’intelligence artificielle pour nous donner des idées, mais cela n’est pas une fin en soi. Dans notre entreprise, on privilégiera toujours le savoir artisanal. Finalement, ce sont des outils qui réduisent la créativité humaine", conclut-il.

Sujet TV: Gilles de Diesbach

Sujet radio: Pascal Wassmer

Adaptation web: Sarah Jelassi / Pascal Wassmer