Intelligence artificielle: un risque existentiel pour les humains?

Dans ce documentaire, on aborde la fin de l’espèce humaine, remplacée brutalement ou progressivement par l'IA. On apprend comment de riches humains pourront progressivement être "augmentés", c'est-à-dire "améliorés" grâce à des systèmes électroniques, des puces ou des nano robots. Des chercheurs font part de leur inquiétude face à l’exploitation de leurs découvertes par un petit nombre d’entreprises motivées avant tout par le profit. Les questions soulevées dans ce film, tourné entre 2018 et 2020, font depuis peu débat au sein du grand public, notamment autour de l'agent conversationnel ChatGPT.

"Cinq nouvelles du cerveau" (à voir en ligne): 
Cinq nouvelles du cerveau

Il faut se méfier de nos imaginaires nourris de science-fiction, car si on se projette dans le futur en adoptant le point de vue des machines, avec l'idée du cerveau-machine, alors le risque est d'avoir le même destin qu'elles: d'être remplaçables, obsolescents ou réparables à l'infini.

"J’ai essayé de comprendre ce qui se passe dans la tête de ces cinq scientifiques, pour mieux savoir où leurs travaux et leurs recherches nous emmènent, sachant que leur imaginaire est nourri de littérature de science-fiction et leur curiosité hors norme."

D'après le réalisateur Jean-Stéphane Bron, un grand nombre de scientifiques ne se posent pas la question de savoir si tout ce qui peut être réalisé doit être fait et à quelles fins. Il y a chez eux une forme d'inéluctable fatalité. Ce qui, hier, relevait de la science-fiction est devenu possible. "Il faut se méfier de nos imaginaires nourris de science-fiction, car si on se projette dans le futur en adoptant le point de vue des machines, avec l'idée du cerveau-machine, alors le risque est d'avoir le même destin qu'elles: d'être remplaçables, obsolescents ou réparables à l'infini. Comment remettre au coeur de ces recherches individuelles et souvent privées des décisions collectives, en main des démocraties?"

Notre futur sur un coup de dés?

Dans ce documentaire, on ressent la solitude des scientifiques face à des enjeux immenses où la loyauté envers l’espèce humaine est remise en question. Le professeur français David Rudrof, qui travaille sur la fabrication d’une conscience artificielle, va même jusqu’à exprimer son ras-le-bol de la limite biologique de l’humain: "Nous sommes des êtres biologiques. Nous ne sommes pas faits pour traverser notre galaxie. Il nous faudrait 100'000 ans pour la traverser à la vitesse de la lumière (…) Il y a quelque chose chez moi qui en a marre de ce monde, qui sait que tout se terminera pour chacun d'entre nous et qui a envie de lancer des dés. Jamais un coup de dés n'abolira le hasard. C'est critiquable peut-être, mais c'est la machine que je suis."

On disparaîtra lentement, remplacés par la prochaine vague de systèmes intelligents. Je ne vois aucune raison d'empêcher cela. C’est la nature à l’œuvre.

Dans une autre séquence de "Cinq nouvelles du cerveau", le neuroscientifique genevois Alexandre Pouget échange autour d’un café avec son fils Hadrien, étudiant en IA à l'Université d'Oxford, sur la disparition de l’espèce humaine: "S'agira-t-il d'une extinction de masse, comme on l'a déjà vu dans l'histoire de l'évolution? La transition sera douloureuse pour cette génération. Mais ce processus sera peut-être plus graduel, on disparaîtra lentement, remplacés par la prochaine vague de systèmes intelligents. Je ne vois aucune raison d'empêcher cela. C’est la nature à l'œuvre", se demande le chercheur.

Une technologie capable de nous faire disparaître

Bertrand Kiefer, rédacteur en chef de la Revue Médicale Suisse, suit de près les enjeux liés au développement de l’IA. Pour ce médecin et éthicien, il faut réfléchir à ce que nous amène cette technologie, comment elle influence nos vies, ce qu’implique la concentration des pouvoirs qui la dirigent et quels risques cela représente. "En Suisse, on vote sur tout: l’avortement, les embryons, etc... Il existe un grand nombre de commissions d’éthique. Mais pour le développement de l’IA, on est comme tétanisés par le sujet. On ne soumet pas à la réflexion une technologie qui influence pourtant profondément nos vies et qui, à terme, est capable de nous faire disparaître."

Bertrand Kiefer, médecin et éthicien, réagit au documentaire "Cinq nouvelles du cerveau":

La responsabilité d’une technologie aussi puissante ne devrait pas être laissée entre quelques mains.

Les scientifiques font les découvertes mais lorsqu’on industrialise une technologie, c’est le business qui prend les rênes. Pour Bertrand Kiefer, il est urgent de réfléchir à définir un cadre qui stimule la réflexion sur la place de l’IA dans nos vies. "Nous devons réintroduire de la transparence, de la délibération, de la responsabilité dans l’intelligence artificielle. Il y a tellement d’argent en jeu que ça paraît impossible. Mais c’est un enjeu fondamental." L’éthicien déplore qu'un petit nombre de multinationales commercialisent le savoir et décident de ce qu’il faut en faire. "L’emprise du Big Data sur nos vies est déjà très importante; des limites doivent être fixées et la responsabilité d’une technologie aussi puissante ne devrait pas être laissée entre quelques mains."

Lorsqu’il s’agit de vie ou de mort, on arrive à trouver des accords internationaux. C’est le cas du trafic aérien, par exemple. Nous avons tous compris que personne n’aurait intérêt à ce que les avions se crashent en série.

Pour le réalisateur Jean-Stéphane Bron, les décisions doivent se prendre au niveau du continent, mais ça ne veut pas dire que c’est impossible. "Lorsqu’il s’agit de vie ou de mort, on arrive à trouver des accords internationaux. C’est le cas du trafic aérien, par exemple. Nous avons tous compris que personne n’aurait intérêt à ce que les avions se crashent en série et nous avons pu nous mettre d’accord sur des normes à respecter, sur des règles communes." Selon Bertrand Kiefer, qui refuse de croire que nous n'avons pas le choix, refuser la fatalité est ce qui nous différencie des machines, ce qui nous singularise en tant qu'êtres humains.

Les documentaires RTS, Muriel Reichenbach