Il ne faut pas "s'adapter" aux IA génératives mais oser les interdire, plaide Eric Sadin
L'écrivain et philosophe français Eric Sadin, penseur majeur de l’univers numérique, s’attaque aux intelligences artificielles génératives dans son dernier ouvrage, "La Vie spectrale". Invité de La Matinale, il estime que ses progrès fulgurants menacent carrément les facultés fondamentales de l’humanité, faisant de nous des "légumes".
Le devenir de l'être humain? Celui d'un légume, s'est alarmé Eric Sadin mercredi dans La Matinale de la RTS. "Nous vivons un moment d'une très haute gravité depuis exactement un an, le 30 novembre 2022, moment de la mise en ligne publique de ChatGPT [...] Voir des machines produire du langage, c'est un événement civilisationnel, culturel et anthropologique de très haute portée", souligne-t-il d'emblée.
>> Lire à ce sujet : ChatGPT: la nouvelle étape de l'intelligence artificielle
Pour l'essayiste, qui tente de susciter une forme de réveil face au chant des sirènes du monde techno-libéral, les réactions des individus et la réponse de la société, notamment dans sa tentative de réglementer les intelligences artificielles génératives, passent à côté de l'essentiel.
De lourdes conséquences "civilisationnelles"
"Quelle a été la réaction de la plupart des gens? Il y a eu, pour un grand nombre, une sorte de fascination [...] Ça a ensuite été de dire 'c'est cool, c'est utile'", constate Eric Sadin, qui déplore une réponse purement utilitariste, devenue "tellement la norme, tellement infusée dans nos cervelles" qu'on ne voit plus que par ce prisme, "sans saisir les conséquences civilisationnelles" des IA génératives.
>> Lire aussi : Sommet sur les risques de l'IA: "On est dans un engouement à mi-chemin entre la béatitude et la sidération"
Nos enfants, dans 3 ou 4 ans, vont nous demander pourquoi ils doivent aller à l'école, puisqu'il existe un système qui va vous produire du texte, des dissertations, des lettres, des messages...
Aux yeux du philosophe, ces conséquences ne sont rien de moins que le renoncement à nos facultés les plus fondamentales. "Qu'en est-il des générations futures, dans ce qui nous constitue le plus en propre, c'est-à-dire de parler à la première personne et de communiquer entre nous via nos propres paroles, dans une pleine liberté?", s'interroge-t-il. La création sans cesse renouvelée que constitue le langage humain serait remplacée par un régime de "langue froide, standardisée, qui se voudrait pure, parfaite et sans défaut" (lire aussi l'encadré).
"C'est un cauchemar dans notre paysage symbolique et dans les relations interpersonnelles!", s'insurge Eric Sadin. "Je le sens venir: nos enfants, dans 3 ou 4 ans, vont nous demander pourquoi ils doivent aller à l'école, puisqu'il existe un système qui, sur un simple 'prompt', va vous produire du texte, des dissertations, des lettres, des messages...", présage-t-il.
Une évolution imposée, pas un projet de société
Pour lui, cette évolution est d'autant plus dommageable qu'elle n'a pas été choisie, mais imposée par une "industrie hégémoniques très puissante, avec des chiffres d'affaires en milliards de dollars, qui produit des innovations pour ses propres visées de profit et conçoit des systèmes qui sont offerts au public sans que nous y soyons préparés".
"Est-ce que nous, dans la pluralité de la société, avons décidé que des systèmes puissent produire du langage, de la représentation, des images, de la musique? Non! Ce n'est pas un projet de société avec tout ce qu'il implique: de la concertation, des rapports de force, des accords, de la contradiction de façon organique, évolutive...", regrette-t-il.
Métiers sacrifiés
Eric Sadin balaie d'un revers de la main les avantages que les intelligences artificielles génératives pourraient apporter à l'humanité. "Il y a cette doxa qui s'est propagée, qui essaime: 'Ne vous inquiétez pas, tous ces systèmes vont nous permettre de mieux assurer nos tâches; il y aura des effets de substitution [...], il y aura des nouveaux emplois. C'était vrai jusqu'à maintenant, mais nous vivons le moment limite de cette logique-là", analyse-t-il, établissant une frontière claire entre les emplois remplacés jadis par la mécanisation et ceux qui sont sous la menace des progrès des IA actuelles.
>> Lire à ce sujet : Silvia Quarteroni: "Les postes seront redéfinis grâce à l'automatisation de l'intelligence artificielle"
On tiendrait pour le cours naturel des choses que les travaux nobles, qui font la grandeur de l'action humaine, passent par pertes et profits?
"Dans les usines automobiles, avec par exemple la robotisation des chaînes de montage, des métiers à haute pénibilité ont été remplacés, des métiers qui broyaient les corps [...], qui voyaient des êtres arriver lessivés à l'âge de la retraite. Mais ce à quoi nous avons affaire maintenant [...], c'est que des métiers à hautes compétences cognitives, des métiers qui mobilisent nos facultés intellectuelles et créatives sont remplacés", distingue Eric Sadin, qui dresse une longue liste d'activités en danger: scénaristes, traducteurs, journalistes, avocats, professeurs...
>> Lire aussi : L'intelligence artificielle provoque de premiers licenciements aux Etats-Unis
"Ce sont des métiers qui ont nécessité de longues années d'étude, des métiers créant du plaisir à la tâche, de l'estime de soi, de la reconnaissance mutuelle, des formes de sociabilité... Et on tiendrait pour le cours naturel des choses que ces travaux nobles qui font la grandeur de l'action humaine passent par pertes et profits? Qu'il y ait un ouragan sur tous ces métiers à hautes compétences cognitives, intellectuelles et créatives? Mais comment peut-on accepter cela?", se dresse l'essayiste et philosophe.
Le régulateur, et nous en société, ne pensons qu'à une chose: accompagner, nous adapter. Mais à force, l'adaptation est une soumission!
Face à un appauvrissement aussi violent, Eric Sadin n'y va pas par quatre chemins. "Je voulais en appeler il y a un an à une interdiction pure et simple des IA génératives, parce que ça remet en cause nos facultés les plus fondamentales, et ce qui nous caractérise en propre", a-t-il affirmé, dénonçant au passage l'existence d'un tabou en la matière, celui d'interdire. "Parce que l'industrie du numérique est tellement considérée comme incarnant l'horizon lumineux du capitalisme contemporain que le régulateur, et nous en société, ne pensons qu'à une chose: accompagner, nous adapter. Mais à force, l'adaptation est une soumission!", clame-t-il.
Une régulation qui vise à côté
Et le salut ne viendra certainement pas selon lui des tentatives de régulation que plusieurs Etats ou regroupement d'Etats, l'Union européenne notamment, tentent d'instaurer. "La régulation n'est pas à la hauteur des enjeux [...] Que dit le régulateur? 'On va rémunérer les ayants droit!' [...] C'est toujours le primat de l'économie", critique l'écrivain. "Pour la régulation, l'équation est mal posée, les termes sont très mal posés. On ne fait que penser en termes d'avantages et inconvénients".
>> Lire aussi : Les Occidentaux adoptent un "code de conduite" commun sur l'intelligence artificielle
A ses yeux, il faudrait placer le curseur ailleurs, "là où ces systèmes bafouent les principes fondamentaux qui sont les nôtres, ou bien les respectent". Ces principes fondamentaux, "on peut les faire tenir sur les doigts d'une main: c'est le respect et la célébration de l'intégrité, de la dignité humaine, de la pluralité, de la liberté, et de l'intelligence et du génie qui loge en chacun d'entre nous. Or, c'est ce génie auquel nous allons renoncer".
>> Lire aussi : Intelligence artificielle: un risque existentiel pour les humains?
Propos recueillis par Pietro Bugnon
Adaptation web: Vincent Cherpillod
Publié
La langue des IA? "Une langue morte, frappée par la nécrose"
La langue des IA "n'est pas un langage qui s'apparente au nôtre", distingue Eric Sadin. "C'est un pseudo-langage, une langue morte, une langue frappée par la nécrose. Ces systèmes ingurgitent tous les corpus existants en vue de les soumettre à des traitements statistiques, des analyses mathématiques, afin d'en tirer des lois sémantiques qui sont adossées à des équations probabilistes".
Pour l'essayiste et philosophe, il est même à l'opposé du langage humain, qui est le lieu de la relation. Par son apprentissage, on apprend à parler à la première personne.
Cette dimension indéterministe du langage est le lieu de notre liberté!"
"Le mot que je vais dire dans quelques secondes, je ne le connais pas encore, parce que notre rapport au langage ne s'inscrit pas dans une dimension probabiliste, mais indéterministe. Et cette dimension indéterministe est le lieu de notre liberté!", s'anime l'essayiste et philosophe. "C'est le lieu de la tension créative entre les legs existants et le fait que, dans le moment présent, nous sommes des êtres d'inventivité. Nous créons un rapport de tension continuellement inédit, irrégulier, mais aussi fait de plein d'élan vital".
Et de poursuivre: "Si je vous envoie une lettre ou un message que j'ai écrit moi-même, il y aura un défaut, une formule un peu drôle, un trait de caractère qui va paraître... Si je demande à un système, ce sera un langage atrophié, mort, standardisé... Et c'est vers cela que nous allons".
>> Lire aussi : L'intelligence artificielle brise les barrières linguistiques