Les contenus trompeurs générés par l'IA s'invitent dans la campagne des élections américaines

Les images générées à l'aide de l'intelligence artificielle (IA) font régulièrement le tour des réseaux sociaux et des médias: du pape en doudoune de luxe, à Emmanuel Macron en éboueur, en passant par l’arrestation musclée de Donald Trump.

Toutes ces images sont fausses, mais elles pourraient avoir de vraies conséquences aux États-Unis lors de la prochaine élection présidentielle de 2024.

Des experts craignent que cette technologie, mise entre de mauvaises mains, ne provoque un déluge de fausses informations.

Démocrates comme républicains seront tentés de recourir à l'IA - bon marché, accessible et peu encadrée juridiquement - pour mieux séduire les électeurs.

Les experts redoutent que cet outil soit aussi utilisé pour semer le chaos dans un pays divisé. Certains citoyens croient encore que l'élection de 2020 a été volée à l'ancien président Donald Trump. Sans compter la défiance de nombreux Américains vis-à-vis des grands médias.

Fausse invasion de Taïwan

Le mois dernier, en réponse à l'annonce de candidature de Joe Biden, le Parti républicain a publié une vidéo, également réalisée via une IA, prédisant un futur cauchemardesque s'il était réélu.

Les images réalistes, bien que fausses, montrent l'invasion de Taïwan par la Chine et un effondrement des marchés financiers. Une discrète mention précise que le clip est réalisé "entièrement à partir d'images générées par l'IA".

IA trompeuse

Pour Joe Rospars, fondateur de l'agence digitale Blue State, les personnes mal intentionnées disposent, avec cette technologie, "de nouveaux outils pour alimenter la haine" et pour "embobiner la presse et le public".

Les combattre "demandera de la vigilance aux médias, aux entreprises technologiques et aux électeurs eux-mêmes", déclare-t-il.

Nous devrions nous préparer à une campagne de désinformation bien plus intense qu'en 2016

"Pour le moment, l'IA ment beaucoup", explique Dan Woods, ancien responsable dans la campagne de Joe Biden en 2020.

"Si nos adversaires étrangers n'ont qu'à convaincre un robot déjà délirant de diffuser de la désinformation, nous devrions nous préparer à une campagne de désinformation bien plus intense qu'en 2016", prévient-il.

>> Voir aussi l'interview de Thomas Wolf, directeur de la start-up Hugging Face :

>> Voir aussi : L'intelligence artificielle, ça change quoi pour vous?

Manipulations plus faciles

"Ce qui est à craindre, c'est qu'à mesure qu'il sera plus facile de manipuler les médias, il sera plus facile de nier la réalité", estime Hany Farid, professeur à l'université de Californie à Berkeley.

"Si, par exemple, un candidat dit quelque chose d'inapproprié ou d'illégal, il peut simplement dire que l'enregistrement est faux. C'est particulièrement dangereux".

>> Lire aussi : Podcast - Comment débusquer les fausses images créées par l'IA?

Malgré les craintes, la technologie est déjà à l'oeuvre. "Les personnes mal intentionnées utiliseront tous les outils à leur disposition pour arriver à leur but, et l'IA ne fait pas exception", affirme Betsy Hoover, ancienne responsable dans la campagne de Barack Obama en 2012.

De plus, une pétition signée par 350 leaders du marché, dont Sam Altmann, créateur de l'outil ChatGPT, met en garde contre l'intelligence artificielle qui "serait aussi dangereuse que les pandémies ou la guerre nucléaire".

>> Les explications dans Forum :

afp/doe