ChatGPT, une révolution ou un robot à "bullshit"?

Proposé gratuitement au public, ChatGPT connaît un succès phénoménal: 100 millions d'utilisateurs en deux mois. A titre de comparaison, Instagram a mis plus de deux ans et demi pour arriver au même niveau.

Mais ChatGPT a tendance à mentir. De nombreuses personnes s'en sont rendu compte en interrogeant le robot conversationnel sur leur personne.

"Si on lui demande, par exemple, de résumer ma carrière, il répond: 'Elle a commencé le journalisme en 2002. En 2006, elle a rejoint l'équipe de la chaîne publique SRF, où elle est depuis lors présentatrice du journal télévisé et correspondante à l'étranger", explique Miruna Coca-Cozma, journaliste à la RTS.

En résumé, ChatGPT produit du "bullshit" (de la "connerie", du baratin), un concept théorisé dans les années 1980 par le philosophe américain Harry Frankfurt. Selon lui, le "bullshit", ce n'est pas mentir mais c'est l'indifférence à la vérité. Pareil pour ChatGPT. Il peut dire n'importe quoi, car la machine ignore ce qu'est la vérité.

Les mots dans le bon ordre

Partant de ce principe, il faut s'attarder sur le fonctionnement de ChatGPT pour comprendre les limites de cette intelligence artificielle (IA). En fait, ChatGPT est une version beaucoup plus puissante et plus sophistiquée du correcteur des smartphones, qui suggère des mots pour compléter une phrase. En écrivant, par exemple, "comment", il va proposer "ça va?".

L'IA ChatGPT s'est entraînée sur 300 milliards de mots provenant d'articles scientifiques, de blogs ou encore de sites internet pour générer des phrases selon la probabilité qu'un mot en suive un autre.

Certaines phrases produites peuvent sembler correctes - il y a les bons mots dans le bon ordre - et les réponses sont plausibles. Mais elles sont fausses. Les chercheurs parlent d'"hallucinations" pour ces informations inventées par l'IA au cours de son travail d'association d'idées et de mots.

>> Lire aussi : Triche ou aide? L'outil ChatGPT préoccupe écoles et universités

Un algorithme prédictif

ChatGPT est un algorithme prédictif. Il n'est pas magique et il ne peut pas tout faire. Il faut juste l'employer là où il est fort. ChatGPT n'est pas une encyclopédie, ni un moteur de recherche. Ses connaissances s'arrêtent en 2021.

Le robot conversationnel est davantage un assistant créatif, qui peut apporter son aide dans les tâches répétitives: trier des listes par ordre alphabétique ou vérifier l'orthographe. Plus la demande est précise, meilleure sera la réponse. Par exemple, en lançant une recherche juridique, il faudrait demander à ChatGPT de répondre comme un avocat.

Toutefois, il n'est pas une source fiable d'information. Il est donc nécessaire de toujours vérifier les informations obtenues. Mais ce n'est pas facile, car ChatGPT ne cite jamais ses sources.

>> Ecouter aussi l'épisode du podcast Le Point J "Comment cohabiter avec ChatGPT?" :

Keystone

vajo