Une intelligence artificielle pour faire le ménage dans les arnaques en ligne

Comment détecter les annonces frauduleuses, quand on est responsable d'une plateforme qui génère 12'000 annonces chaque jour sur internet? C'est le défi que doit relever anibis.ch, site suisse de petites annonces en ligne, dont le flux a décuplé ces quinze dernières années. Depuis 2016, l’entreprise utilise une application basée sur le "machine learning", un champ d’étude de l’intelligence artificielle, pour faire la chasse aux arnaques.

Jelena Moncilli, ingénieure en informatique, est spécialiste anti-fraude chez Anibis. "Mon poste a été créé spécifiquement pour lutter contre la vente illégale d'animaux sur Anibis, parce que c'était un sujet extrêmement apprécié des fraudeurs il y a quelques années", raconte la spécialiste, invitée dans l'émission On en parle mercredi.

Une année de données "apprises"

Aujourd'hui, la situation est plus compliquée. "En 2004, nous comptions 1200 nouvelles annonces par jour, c'était parfaitement gérable de vérifier chaque annonce manuellement. Aujourd'hui, avec 12'600 annonces, ce n'est plus possible. On a besoin de l'aide de la machine pour être efficace et protéger les utilisateurs", explique-t-elle.

Pour nourrir cette intelligence artificielle, à l'oeuvre dans le dépistage des tentatives de fraude, Anibis a enregistré les décisions relatives à chaque annonce, prises par le service client, pendant une année. Les schémas spécifiques des cas de fraude ont été identifiés. Ces décisions ont ensuite été apprises à un serveur, qui est maintenant capable, dans 94% des cas, de prendre la même décision qu'un humain si le schéma se répète. "Ca veut dire qu'il nous reste 6% d'annonces, un peu différentes des schémas connus, à vérifier manuellement", note l'ingénieure.

Besoin de l'apport humain

Une part de fraudeurs arrive néanmoins à passer à travers les mailles du filets, admet Jelena Moncilli. "La lutte anti-fraude, c'est se battre contre la pointe de l'iceberg. Il y a toute la face cachée, on est toujours en train de courir après le train. Dans l'ensemble, nous sommes toujours obligés d'attendre que ça ce soit passé une fois pour qu'on puisse identifier leur nouvelle manie."

La machine n'est toutefois pas capable de s'adapter elle-même aux nouveautés, l'apport humain est nécessaire pour les adaptations. L'intelligence artificielle envoie en effet les cas qu'elle ne connaît pas en validation manuelle, et demande l'aide de l'humain. Une fois que ce dernier a pris une décision, l'ordinateur apprend de cette décision, et quand les nouveaux schémas se répètent, la machine est capable de prendre ces décisions elle-même. "C'est un apprentissage constant", confirme Jelena Moncilli.

Dénonciations compliquées

Une fois identifiés, les fraudeurs ne sont pas forcément dénoncés à la police. "On ne peut pas déposer plainte si on n'est pas directement concerné", explique la spécialiste. "Mais si les arnaqueurs se présentent comme des collaborateurs Anibis, on le fait systématiquement - on l'a fait à cinq reprises ces trois derniers mois."

Dans le cas où un utilisateur est victime d'une fraude, c'est à lui-même d'aller déposer plainte. Anibis s'engage en revanche à fournir les informations en lien avec l'affaire dans les 48 heures.

Grands classiques des arnaques à la petite annonce, tous les objets prisés: voitures de collection, robots de cuisine, drones, smartphone, et toutes les marques de luxe en général. "Tout ce qui est recherché est automatiquement prisé par les fraudeurs", note Jelena Moncilli.

"Il ne faut pas croire au Père Noël"

Car même à l'approche des fêtes de fin d'année, "il ne faut pas croire au Père Noël", sourit la spécialiste. "Quand bien même les sites d'annonces sont là pour faire des bonnes affaires, il ne faut jamais perdre son bon sens, rester sur ses gardes et ne jamais se précipiter sur une action qui a l'air trop belle pour être vraie."

Propos recueillis par Yves-Alain Cornu, avec Isabelle Fiaux/kkub