L’intelligence artificielle peut-elle gagner la guerre contre la désinformation?

Selon le mathématicien Lê Nguyen Hoang, youtubeur et PDG de Calicarpa, une start-up en cybersécurité, le retentissement de la désinformation est gigantesque "par exemple dans le cas des vaccins et de la communication autour du Covid, la différence entre une pandémie contrôlée et une pandémie qui ne l’est pas se mesure en millions de morts. Il y a par ailleurs des cas de combinaison de désinformation et de message de haine qui ont conduit à des massacres, par exemple dans le Tigré en Éthiopie ou en Birmanie".

Récemment, la lanceuse d’alerte Sophie Zhang qui était "data scientist" chez Facebook a révélé que des dizaines de pays, dont l’Inde, le Mexique, l’Afghanistan et la Corée du Sud, ont utilisé des techniques de désinformation pour tromper le public et permettre à des politiciens d’accéder au pouvoir.

Une désinformation très bien structurée

Un rapport de l’Institut de Recherche Stratégique et l’École Militaire (IRSEM) en France donne quelques chiffres: elle estime que le gouvernement chinois fabrique environ 448 millions de commentaires par an sur les réseaux sociaux. La Chine, pour ce faire, emploie, selon ce rapport, environ 2 millions de "rédacteurs" à temps plein, et 20 millions à temps partiel.

La Chine n’a pas le monopole de ce type d’activité. On se souvient par exemple de l’ingérence russe dans les élections américaines de 2016. Cette ingérence avait mis en lumière ce que le New Yorker a appelé les "troll farms": des fermes à troll.

Des nouveaux outils pour fabriquer et lutter contre la désinformation

À l’Université de Washington, un chercheur nommé Rowan Zellers a développé la plateforme "Grover". Son fonctionnement est simple: inventer le titre d’un article de presse, nommer le site d’un média national duquel l’article doit sembler provenir et lancer le programme basé sur l'intelligence artificielle.

Environ 30 secondes plus tard, vous avez un article qui semble parfait. Rowan Zellers explique son projet ainsi: "au lieu de fuir tout ce qui fait peur, nous avons créé un ‘modèle de menace’ pour définir les problèmes. Une plateforme comme ‘Grover’ peut générer des faux textes, mais elle peut aussi les repérer avec une très grande précision. En d’autres termes, ‘Grover’ est également un détecteur de fausses informations".

La guerre de l’IA contre la désinformation n’a pas commencé

Actuellement, le modèle économique des réseaux sociaux est basé sur le temps que nous y passons. Or les contenus polarisants et la désinformation sont - de ce point de vue - de bons contenus. Lê Nguyen Hoang évoque à ce sujet certains chiffres très représentatifs. "Facebook  - devenu Meta - a annoncé recruter 10'000 ingénieurs pour développer son Metavers. Dans le même temps, l’équipe ‘d’intégrité’ de Facebook n’emploie qu’une centaine de personnes. Quant à Google/Youtube, ils ont licencié leur équipe d’éthique en 2021".

Si l’on considère que les démocraties sont menacées par la désinformation, on ne peut, pour le moment, pas compter sur les opérateurs de réseaux sociaux pour solutionner ce problème.

Adrien Zerbini