"Tu es comme un plat que personne ne veut goûter": Roast Monica, l'IA qui se moque de vous et brouille les pistes

Tout est dans le nom. "Roast" signifie "moquerie" en anglais. Et au cas où l'internaute ne l'aurait pas compris, l'introduction du site de l'IA est on ne peut plus claire: "Prêt pour un examen numérique de votre ego? Maître du Roast transforme vos posts ennuyeux en or comique. Préparez-vous à des brûlures d'IA si féroces que vous rirez malgré le roast à votre encontre."

Roast Monica dresse aussi un tableau des forces et faiblesses du détenteur du compte en question, de sa personnalité, de la perception qu'ont les autres de lui, elle lui associe un animal totem, une devise, elle calcule la compatibilité avec un autre compte et elle partage ses prédictions sur l'amour et la fortune, tel un horoscope.

Malgré des commentaires parfois sévères, Roast, l'outil de l'IA Monica.im, est devenu viral grâce à la part de vérité qu'il inscrit dans ses textes.

 Il y a très peu de chance pour que Monica respecte vraiment la réglementation européenne et suisse, car elle n'est pas contrôlée

Auto-dérision et moquerie

Sur X, les internautes sont nombreux à partager les analyses de Roast Monica sur eux, mais aussi sur les autres. Il ne suffit en effet que d'entrer l'URL ou le nom d'utilisateur dans l'outil, tout le monde peut donc tester ses profils sociaux et ceux de son entourage ou de personnalités publiques.

Et, qui dit autodérision, dit que l'IA en fait preuve elle-même.

Aidée par d'autres IA

Mais au-delà de ces utilisations humoristiques, Monica existe depuis 2023 notamment pour améliorer des textes écrits tels des mails, des rapports ou des posts sur les réseaux sociaux, résumer des dizaines de pages ou de longues vidéos YouTube en quelques secondes, traduire des textes ou encore créer des images à partir d'idées, le tout dans une extension Google Chrome ou application de bureau et smartphone.

Publications, photos, orthographe, bio, présence en ligne ou autres, l'IA passe tout au crible pour présenter un résumé au plus proche de la vérité, mais aussi bien souvent sévère afin de faire rire.

Son site internet ne précise pas comment elle fonctionne, si ce n'est qu'elle utilise d'autres IA génératives dont l'API ChatGPT, Gemini (Google), Llama (Meta) ou Claude (Anthropic).

Origine floue

Pour compléter le mystère, Monica ne présente pas non plus clairement ses origines. Elle indique avoir été développée par Butterfly Effect Limited, mais sa présence publique sur internet étant limitée, il est difficile d'en savoir plus. Le registre des entreprises indique une entreprise du même nom qui est localisée à Serangoon, un quartier de Singapour, depuis août 2023. Mais sur la page d'installation de l'application sur l'App Store, la mention de "Hong Kong" complète le nom du développeur. Dans quel pays d'Asie Monica a-t-elle donc été créée?

 Ce n'est pas parce que Monica assure ne pas vendre les données qu'elle ne peut pas les exploiter elle-même pour vendre le résultat de son profilage par exemple

L'opacité demeure également pour son nom de domaine et la localisation des données collectées. Le ".im" stipule que Monica est hébergée dans l'extension territoriale de l’île britannique de Man, mais ce territoire prévient ne rendre publique aucune information sur les propriétaires de ses sites. Il est donc encore une fois impossible de vérifier et encore moins de savoir ce que deviennent les données collectées. L'IA précise dans ses conditions générales que ses serveurs et bases de données sont localisés aux Etats-Unis.

Ce flou permet à l'entreprise de ne pas respecter à la lettre la réglementation en vigueur dans les pays de ses utilisateurs. David Raedler, docteur en droit et spécialiste du droit du travail et de la protection des données, explique qu'au départ, l'entreprise est soumise à la réglementation de son pays d'origine et qu'en étant disponible sur les plateformes de téléchargement européennes et suisses (comme l'App Store ou Google Play), elle assume viser des utilisateurs dans ces régions et se soumet donc à la réglementation qui y est en vigueur. Ce qu'elle fait en assurant "respecter le RGPD", poursuit l'avocat. "Mais dans les faits, il y a très peu de chance pour qu'elle le fasse vraiment, car elle n'est pas contrôlée." "On n'est pas sûr et tant qu'il n'y aura pas de procédure de l'Union européenne, on ne saura pas", insiste-t-il.

>> A ce propos, écouter le sujet de la Matinale sur les sites internet et applications qui collectent et revendent nos données malgré le RGPD :

Keystone - Georgios Kefalas

>> Et lire : Collecte des données et profilage des utilisateurs: zone grise de la législation suisse

Quid des données personnelles?

Le fonctionnement de Roast Monica pose des questions de confidentialité des données puisqu'elle peut aussi bien analyser un compte public que privé et permet à quiconque d'accéder au roast d'un autre.

Concernant la data conservée, il est précisé sur la page d'installation de l'application sur l'App Store que les coordonnées, identifiants, diagnostic, contenus utilisateur et données d'utilisation "peuvent être collectés" mais qu'ils "ne sont pas liés" à notre identité. Sur son site internet, Monica indique clairement collecter des informations sur ses utilisateurs pour faire fonctionner ses outils, parmi lesquelles: l'adresse IP de l'ordinateur ou l'identifiant du téléphone utilisé, les cookies et d'autres informations personnelles visant à identifier l'utilisateur.

Elles ne sont ni louées, ni vendues "sous une forme personnellement identifiable à qui que ce soit dans le but de les monétiser par le biais d'annonces ou d'appels d'offres", est-il précisé. Pour autant, elles sont partagées à des tiers. Mais l'IA dit ne recueillir "aucune information sur les sites que vous visitez ou sur le contenu que vous utilisez".

Pas vendues, mais exploitées à des fins commerciales?

Sauf que ce n'est pas parce qu'elle assure ne pas les vendre, qu'elle ne les exploite pas à des fins commerciales, souligne Me David Raedler. "C'est très marketing de dire ça, mais elle peut les exploiter elle-même pour vendre le résultat de son profilage par exemple."

Ces flous interrogent donc sur la nature des données collectées, ce qu'il en advient et où, voire à qui, elles sont transmises. Me David Raedler, lui, a son hypothèse. Il soupçonne que Monica conserve les "données publiques — tel que l'historique des comptes de réseaux sociaux" et "les cookies qui analysent les comportements en ligne — donc pas seulement sur les réseaux sociaux". C'est pourquoi il recommande de "n'utiliser que les IA dont l'utilisation des données personnelles est transparente. Donc, pas Monica qui a beaucoup de zones d'ombres".

>> Sur le même thème, lire aussi : Quand nos publications sur les réseaux sociaux alimentent les IA génératives

Julie Marty