Le secret mental menacé par les implants cérébraux et l'IA, avertit l'UNESCO

L'agence de l'ONU pour la science et la culture travaille à un "cadre éthique" global concernant la protection des droits de l'Homme face aux neurotechnologies, a-t-elle annoncé lors d'une conférence sur le sujet à son siège à Paris.

La neurotechnologie vise à connecter des dispositifs électroniques au système nerveux, de façon à traiter des affections neurologiques et à restaurer des fonctions liées au mouvement, à la communication, la vision ou l'audition.

Cette discipline bénéficie depuis peu d'avancées en intelligence artificielle (IA), dont les algorithmes peuvent traiter des données de façon inédite, a expliqué Mariagrazia Squicciarini, économiste à l'UNESCO spécialisée en IA.

"Potentiellement dommageable"

Pour Gabriela Ramos, sous-directrice générale pour les sciences sociales et humaines de l'agence, cette convergence est "de grande envergure et potentiellement dommageable".

"Nous nous trouvons sur une voie où des algorithmes nous permettront de décoder les processus mentaux des gens et de manipuler directement les mécanismes cérébraux sous-tendant leurs intentions, leurs émotions et décisions", a-t-elle déclaré lors de la conférence.

En mai dernier, des scientifiques américains ont rapporté la mise au point d'un "décodeur de langage" traduisant par écrit la pensée d'une personne, après un entraînement du cerveau pendant de longues heures dans un appareil d'IRM (imagerie par résonance magnétique).

En mai toujours, Neuralink, l'entreprise du milliardaire Elon Musk, a reçu l'autorisation aux Etats-Unis de tester sur des humains ses implants cérébraux, qui ont la taille d'une pièce de monnaie.

>> Relire : La start-up Neuralink d'Elon Musk va tester ses implants cérébraux sur des humains

Elon Musk, qui affirme que son but ultime est de s'assurer que les humains ne soient pas dominés par l'IA, a lancé mercredi sa propre entreprise d'intelligence artificielle, xAI.

Pas mauvaise en soi

Mariagrazia Squicciarini a insisté sur le fait que la neurotechnologie n'était pas mauvaise en elle-même. Comme en témoignent les efforts pour permettre à un malvoyant de voir à nouveau, ou à un paralysé des membres inférieurs de remarcher. Mais ces progrès doivent être accompagnés de garde-fous éthiques.

Les investissements dans les entreprises de neurotechnologie ont été multipliés par 22 entre 2010 et 2020, pour atteindre 33,2 milliards de dollars (29,73 milliards d'euros), selon un rapport de l'UNESCO cosigné par Mariagrazia Squicciarini.

Le nombre de brevets concernant des dispositifs neurotechnologiques a quant à lui doublé entre 2015 et 2020. Ce marché devrait atteindre 24,2 milliards de dollars (21,67 milliards d'euros) en 2027.

ats/vajo