Publié

Sommet sur les risques de l'IA: "On est dans un engouement à mi-chemin entre la béatitude et la sidération"

Le Premier ministre Rishi Sunak essaye de placer le Royaume-Uni au coeur des innovations en intelligence artificielle avec la "IA Conference" à Bletchley Park (1-2 novembre 2023). [Keystone/EPA - Tolga Akmen]
Un sommet sur l'intelligence artificielle s’ouvre en Angleterre: interview de Rayna Stamboliyska / Tout un monde / 11 min. / le 1 novembre 2023
Le premier sommet mondial sur les risques de l'intelligence artificielle (IA) s'est ouvert mercredi au Royaume-Uni. Interrogée par la RTS, Ranya Stamboliyska, experte en cybersécurité et en diplomatie numérique, affirme que l'urgence réside "dans l'automatisation généralisée des décisions".

Organisé dans le nord de Londres, ce sommet réunit des dirigeants politiques, des géants de la "tech" et des experts pour discuter des dangers liés à la croissance rapide de cette technologie.

Les IA génératives, capables de produire du texte, des sons ou des images sur simple requête en une poignée de secondes, ont fait des progrès exponentiels ces dernières années et les prochaines générations de ces modèles feront leur apparition d'ici l'été.

Ce développement fulgurant suscite espoirs, convoitises, mais aussi craintes. Celles-ci seront au coeur de la réunion de deux jours au manoir de Bletchley Park, l'emblématique centre de décryptage des codes de la Seconde Guerre mondiale. Initié par le Premier ministre britannique Rishi Sunak, le sommet a pour objectif d'évaluer les risques posés par l'IA, notamment dans la mauvaise utilisation et la perte de contrôle.

On n'est pas encore - et de l'avis de beaucoup de spécialistes, on ne le sera peut-être jamais - au point où une IA puisse devenir autonome, prendre des décisions et prendre le pouvoir sur le monde

Ranya Stamboliyska, experte en cybersécurité et en diplomatie numérique

"L'urgence est plutôt dans l'utilisation et la généralisation de la décision automatisée, tels que les biais qui peuvent s'introduire dans les algorithmes", a estimé Ranya Stamboliyska, experte en cybersécurité et en diplomatie numérique, mercredi dans l'émission Tout un monde de la RTS.

Et d'ajouter: "On n'est pas encore - et de l'avis de beaucoup de spécialistes, on ne le sera peut-être jamais - au point où une IA puisse devenir autonome, prendre des décisions et prendre le pouvoir sur le monde."

"Ça prête à sourire"

A défaut de régulation ou de politique commune, le Royaume-Uni veut se poser en moteur d'une coopération internationale sur ce sujet qui bouleverse la planète. "Le Royaume-Uni est l'un des pays qui n'a fait aucun effort pour mettre en place un cadre législatif pour réguler intelligence artificielle... Ça prête donc à sourire d'entendre qu'il veuille amener une coordination mondiale sur le sujet", glisse-t-elle.

Dans une lettre ouverte publiée mardi, plusieurs des "pères fondateurs" de cette technologie comme Yoshua Bengio ou Geoffrey Hinton ont plaidé pour "l'élaboration et la ratification d'un traité international sur l'IA" afin de réduire les risques "potentiellement catastrophiques que les systèmes avancés font peser sur l'humanité".

Le gouvernement britannique espère aboutir, a minima, à une "première déclaration internationale sur la nature" des risques de l'IA. Il propose également de créer un groupe d'experts sur l'IA sur le modèle du GIEC pour le climat.

L'Union européenne et les Etats-Unis ont choisi la voie de la réglementation, Joe Biden annonçant lundi des règles et principes ambitionnant de "montrer la voie" à l'échelle internationale.

Manque d'anticipation

L'historien Yuval Noah Harari, invité de Tout un monde en mai dernier, déclarait: "On doit d'abord comprendre l'intelligence artificielle." Un avis partagé par Ranya Stamboliyska. "On est dans un engouement à mi-chemin entre la béatitude et la sidération. On nous explique que l'IA va changer la face du monde. Mais est-ce qu'on a vraiment essayé de faire des projections sur le comment?"

L'experte en cybersécurité regrette ce manque d'anticipation. "Les rares fois où les dirigeants s'intéressent un peu aux défis à venir, leur discours, comme celui de Rishi Sunak sur l'IA, est: 'on va tous mourir, mais je vais vous protéger'", déplore-t-elle.

Nous devons cesser de penser que les entreprises privées à but lucratif sont les seuls propriétaires possibles et légitimes des systèmes d'IA, qui transforment nos vies et nos méthodes de travail

Sasha Costanza-Chock, professeure associée au Berkman Klein Center de l'Université de Harvard

Dans une lettre ouverte adressée à Rishi Sunak, une centaine d'organisations, experts et militants internationaux ont déploré que ce sommet se tienne à "huis clos", dominé par les géants de la tech et avec un accès limité pour la société civile.

"Nous devons cesser de penser que les entreprises privées à but lucratif sont les seuls propriétaires possibles et légitimes des systèmes d'IA, qui transforment nos vies et nos méthodes de travail", a défendu pour sa part Sasha Costanza-Chock, professeure associée au Berkman Klein Center de l'Université de Harvard, lors d'une conférence de presse.

Propos recueillis par Eric Guevara-Frey
Adaptation web: vajo avec afp

Publié