Allons-nous devenir des robots faits de chair et de sang avec l'IA?

La Corée du Sud vient de créer la toute première animatrice de télé virtuelle, copie presque conforme de la présentatrice vedette de la chaîne de télévision MBN. Une copie qui comporte un certain avantage: elle est disponible 24 heures sur 24, sept jours sur sept, et ne tombe jamais malade. Une aubaine en pleine période de pandémie.

Présentatrice virtuelle, l'IA Kim est née de l’apprentissage de dizaines d’heures de vidéo de Kim Ju-ha, la vraie présentatrice, celle en chair et en os. Son clone a appris les modulations de sa voix, la façon dont elle parle, ses expressions faciales, les mouvements de ses lèvres et la manière dont elle bouge son corps.

>> A lire aussi : La Corée du Sud crée la première animatrice de télé virtuelle

Pour Solange Ghernaouti, professeure à l'Université de Lausanne et experte internationale en cybersécurité, il ne faut pas sous-estimer le pouvoir du merveilleux exercé par cette évolution technologique. A condition de ne pas servir des pouvoirs totalitaristes qui pourraient aboutir à l'anéantissement de l’humain. Entretien.

- Quel a été votre première réaction en regardant cette vidéo de Kim, la présentatrice réelle du TJ, qui interroge son avatar?

Solange Ghernaouti: J'ai été bluffée technologiquement, j'ai trouvé ça beau. Je me suis dit: "Wow, ils sont forts!". Mais j'ai aussi eu un sentiment d'inquiétude. Jusqu'où va-t-on aller? Qu'est-ce qui est acceptable du point de vue de notre société ?

Ça m'a surtout interpellée sur la question des limites, et de qui est en capacité de les poser. C'est vertigineux, parce que nous sommes à la croisée des chemins, pour le meilleur mais aussi pour le pire sans doute.

- Quel est le problème avec l'intelligence artificielle ?

Il y en a plusieurs: d’ordre politique, social mais aussi philosophique. Les dispositifs d'intelligence artificielle nous questionnent sur notre relation au monde en général, et au monde virtuel que nous avons créé en particulier. L'intelligence artificielle, c'est de l'informatique, de la programmation, qui conçoit des réalités plus réelles que le réel. Et quand on voit ces avatars, ces robots anthropomorphes qui ressemblent à la réalité, on peut se demander quel sera le pouvoir de "réalité" que nous allons offrir à ces dispositifs technologiques?

Et quelle confiance peut-on avoir dans ces avatars? On n'a pas du tout de visibilité sur la façon dont ils sont construits, dont ils produisent des décisions et dont on peut les percevoir.

- Pour créer de l'intelligence artificielle il faut capter des données. Entrent en scène donc, les grandes entreprises de la Silicon Valley...

On voit que pour construire des systèmes dits d'intelligence artificielle, il faut avoir des données. Or aujourd'hui, qui possède des données, qui a su mettre en place depuis une vingtaine d'années des processus de captation et d'exploitation de ces données ? Qui a la puissance technico-économique et politique de pouvoir le faire?

Ce sont effectivement ces entreprises hégémoniques du Net et ça pose un problème de dépossession des données. Mais pas seulement. Il y a aussi des comportements, des goûts, des sentiments, y compris des savoir-faire qui vont être transférés de l'humain vers des dispositifs techniques, dont lui-même n'a plus du tout le contrôle.

>> A écouter, le philosophe Eric Sadin évoque l'antihumanisme radical de l'intelligence artificielle :

ES/France Culture

- Nos émotions, nos goûts, nos vies sont-ils dirigés par les algorithmes et l'économie de l'attention imposés par les GAFAM?

Oui, tout à fait. Un algorithme est une recette de cuisine, un programme qui définit ce que l'on va faire des données et comment on va le faire. Il y a bien un projet politique dans la façon dont on va mettre en oeuvre ces dispositifs d'intelligence artificielle.

On ne peut pas dissocier la dimension politique, économique, technologique et l'emprise des entreprises hégémoniques de l'Internet, sur les activités humaines. Cela s'immisce dans tous les domaines de la vie et, dès qu'on devient pilotés par des algorithmes, on risque de devenir des robots faits de chair et de sang.

On a l'impression d'être, à juste titre me semble -t-il, dépossédés de notre savoir-faire, de nos comportements, de notre liberté, et au final de notre liberté fondamentale d'avoir le droit d'exister en dehors de ces systèmes, de refuser de vivre en permanence sous surveillance informatique.

- Le fameux débat entre les "tout fout le camp, c'était mieux avant" et celles et ceux qui disent "les nouvelles technologies c'est merveilleux" est-il en train de s'estomper pour laisser place à une forme d'acceptation?

J'irais même plus loin: on est dans une espèce de course à l'armement technologique. Ces intelligences artificielles ont d'abord été conçues dans des contextes militaires de défense et d'agression. Le GPS que nous utilisons, par exemple, on va le retrouver embarqué dans des armes, dans l'équipement du soldat, dans des postes de commandement. C'est pour toujours une efficacité et une rationalité.

Il ne faut pas dissocier l'évolution des techniques informatiques de leur domaine d'application. Aujourd'hui les usages sont en duo: civil et militaire.

On le voit, il y a des robots qui ont le droit de tuer sans intervention humaine. Cela doit nous questionner sur cette cette évolution des techniques et l'usage que nous en faisons. On a vu depuis une vingtaine d'années une forme d'acceptabilité sans remise en question des avantages, des inconvénients et des limites de cette technologie.

>> Lire aussi : Les robots doivent-ils être tenus pour responsables de leurs actes? et Robots tueurs, les soldats du futur qui n'obéissent encore à aucune règle

- Après la période bénie des pionniers de l'Internet qui nous "vendaient" le monde merveilleux et libre des nouvelles technologies, suivie d'une période de désenchantement que nous vivons aujourd'hui, quelle sera la prochaine étape?

La prochaine étape, c'est celle qu'on est en déjà en train de vivre: celle de la conscience des implications, du questionnement de ce qu'on va laisser en héritage aux générations futures. On le fait avec le climat.

Je pense que la prochaine étape est de comprendre qu'on a sans doute besoin de limites à des développements sans limite. Que cet espace de liberté, cette fabuleuse utopie que portait l'Internet à son origine a été dévoyée et que nous sommes plutôt dans un contexte de dystopie technologique.

On réalise aussi, peut-être, que ce n'est pas forcément ce dont on avait rêvé et que, peut-être aussi, on peut faire autrement. Pour moi, la prochaine étape serait de responsabiliser chacun des acteurs, y compris les utilisateurs, pour comprendre qu'il n'y a aucune action ou aucun geste anodin. Que tout cela détermine les actions des générations futures.

Propos recueillis par Miruna Coca-Cozma

>> A consulter, le blog de Solange Ghernaouti.