Le chef de l'ONU met en garde contre les risques de l'IA

Le secrétaire général de l'ONU a mis en garde mardi contre les risques de l'intelligence artificielle (IA) pour la paix et la sécurité mondiale. Il a appelé à mettre en place des garde-fous de façon urgente contre une technologie "sans précédent".

"Il est clair que l'IA va avoir un impact sur tous les aspects de notre vie", notamment l'IA générative, a déclaré Antonio Guterres lors de la première réunion du Conseil de sécurité sur cette question. "L'IA générative a un potentiel immense pour faire le bien et le mal à large échelle", a-t-il ajouté.

Pour lui, si ces technologies peuvent aider à éradiquer la pauvreté, chasser la faim, soigner le cancer et stimuler l'action climatique, les applications militaires et non militaires de l'IA pourraient aussi "avoir de graves conséquences sur la paix et la sécurité mondiale".

"Nous sommes ici aujourd'hui parce que l'IA va affecter le travail de ce Conseil, elle pourrait renforcer ou perturber la stabilité stratégique mondiale", a renchéri le chef de la diplomatie britannique James Cleverly, qui présidait cette réunion.

"Elle pose un défi à nos postulats en matière de défense et de dissuasion, elle pose des questions morales sur la responsabilité de la prise de décisions causant des morts sur le champ de bataille", a-t-il ajouté, alors que son gouvernement organisera un sommet sur cette question à l'automne.

Armes létales autonomes

Dans ce cadre, Antonio Guterres a notamment appelé à mettre en place d'ici fin 2026 un instrument contraignant pour interdire les "systèmes d'armes létaux autonomes" qui fonctionnent sans supervision humaine.

En matière de sécurité, l'IA est de plus en plus utilisée, y compris par l'ONU, "pour identifier des schémas de violence, surveiller des cessez-le-feu" ou "renforcer le maintien de la paix, la médiation et les efforts humanitaires".

Mais "l'utilisation malveillante des systèmes d'IA à des fins terroristes, criminelles ou étatiques pourrait provoquer des niveaux terribles de morts et de destruction, un traumatisme généralisé et des dommages psychologiques d'une ampleur inimaginable", a insisté le secrétaire général.

Il s'est également inquiété des risques de "défaillance" de systèmes utilisant ces technologies, en particulier dans les domaines des armes nucléaires, des biotechnologies, des neurotechnologies et de la robotique.

L'IA ne doit pas contrôler les armes nucléaires

Antonio Guterres a ainsi appelé à ne "jamais enlever" le contrôle humain des armes nucléaires. "Des mécanismes pour la gouvernance de l'IA sont nécessaires de manière urgente", a insisté le secrétaire général, qui va confier à un groupe d'experts la tâche de proposer des "options" en la matière d'ici la fin de l'année.

En attendant, il a répété son soutien à la création d'une "entité des Nations unies" pour aider à maximiser les bénéfices de l'IA et réduire les risques, sur le modèle de l'Agence internationale de l'énergie atomique (AIEA) ou du groupe d'experts de l'ONU sur le climat (Giec).