Quand les scientifiques regrettent leurs inventions technologiques

Geoffrey Hinton, lauréat du Prix Turring, est le parrain de l'intelligence artificielle. Sans ses travaux, des outils comme ChatGPT n'auraient jamais vu le jour.

Sa préoccupation immédiate est qu’internet soit inondé de fausses photos, vidéos et textes et que l'on ne soit plus capable de savoir ce qui est vrai.

Une technologie trop performante

Dans une interview accordée à la BBC, il estime que le problème de cette technologie est qu'elle fonctionne beaucoup mieux qu'on ne l'imaginait.

Le fait que les systèmes soient aujourd'hui capables de se passer des humains et qu'ils peuvent générer et exécuter eux-mêmes du code représente un véritable danger.

Selon le scientifique, le risque est qu'à long terme des choses plus intelligentes que nous prennent le contrôle. Il craint également son utilisation par des personnes malintentionnées et dit regretter l'oeuvre de sa vie.

Le club des repentis de la tech

Geoffrey Hinton n'est pas le premier inventeur qui confesse ses remords. D'autres pontes de la Silicon Valley l'ont fait avant lui, connus comme le club des repentis de la tech.

Parmi eux, Tristan Harris, qui accuse les GAFAM de prendre en otage l’attention des utilisateurs en misant sur leur vulnérabilité psychologique. Cet ancien ingénieur chez Google est passé par le "laboratoire des technologies persuasives" de Stanford, qui étudie les ressorts psychologiques de l'addiction aux interfaces numériques.

Il y a aussi Aza Raskin d'Instagram, le créateur du scrolling infini, qui consiste à faire défiler les pages sans limite sur les réseaux sociaux. En apparence inoffensive, cette petite invention aurait coûté à l’humanité, selon ses calculs, l’équivalent de 200'000 vies par jour en temps perdu.

Ethan Zuckerman, lui, s'est publiquement excusé pour sa fenêtre de pub pop-up, qui débarque sans prévenir.

Enfin, Chris Wetherell, le développeur du bouton retweet, fait également partie des repentis. Conçu à la base pour faire entendre les voix des communautés sous-représentées, son outil est utilisé dans des campagnes de cyberharcèlement et dans la désinformation. Chris Wetherell affirme que son invention revient à avoir "confié une arme chargée à des enfants de 4 ans".

Un manque de compréhension de la part des scientifiques

Depuis quelques années, il semble y avoir une prise de conscience générale, avec un constat clair: les intentions étaient bonnes au départ, mais les innovations échappent rapidement à leurs créateurs.

Aude Billard, professeure ordinaire au Laboratoire d'algorithmes et systèmes d'apprentissage de l'EPFL, n'est pas surprise. "Lorsqu'on développe une technologie et qu'on ne la comprend pas bien, à un moment donné, elle va nous échapper", résume-t-elle.

C'est un phénomène qu'Aude Billard observe depuis des années. "Je pense que dans une certaine mesure, les scientifiques ont perdu de vue que le but profond lorsqu'on développe des algorithmes, c'est de comprendre comment ils fonctionnent", regrette-t-elle.

"La science, c'est d'abord expliquer, et l'ingénierie, c'est appliquer. Il est donc nécessaire que toute recherche scientifique s'accompagne d'une compréhension de ce qu'on développe et non juste d'une application", conclut la spécialiste de l'intelligence artificielle.

>> Son interview dans Forum:

Sujet radio: Miruna Coca-Cozma

Adaptation web: Emilie Délétroz