Un algorithme permet de repérer les commentaires haineux sur internet

"Comme commentaire, il y a un doigt d'honneur… tout simplement." Meriam Mastour, cofondatrice du mouvement féministe et anti-raciste les Foulards violets, est régulièrement la cible de commentaires haineux sur les réseaux sociaux, tout comme les membres de son collectif.

"Le problème d'internet est qu'il entre dans notre intimité, explique Meriam Mastour lundi dans le 19h30. Ce commentaire, on peut le lire à 23h quand on est seule ou à 21h quand on donne à manger à ses enfants, en famille. Cela peut vraiment avoir un impact sur sa personne."

>> Lire aussi : Les menaces contre des élus et des magistrats ont explosé en 2021

Une zone grise

Les commentaires les plus insultants sont majoritairement supprimés par les modérateurs des sites internet, mais certains restent.

"L'un des problèmes récurrents est que les gens se disent que si ce n'est pas du droit pénal, c'est en ordre. Il peut y avoir des propos qui restent répréhensibles, préjudiciables au groupe concerné, mais qui n'atteignent pas encore la gravité suffisante pour être justement considérés comme pénalement répréhensibles", explique Maya Hertig Randall, professeure de droit constitutionnel à l'Université de Genève et vice-présidente de la commission fédérale contre le racisme.

Analysés par une communauté

La plateforme Stop hate speech lutte contre cette zone grise, grâce à un algorithme. Il scanne les méandres d'internet, isole tous les commentaires et les envoie à une communauté volontaire. Elle analyse ensuite tous les messages.

"'T'es un sacré connard, trou du cul'. C'est ce qu'on appelle un commentaire toxique, parce que cela ne vise personne en fonction de son identité, mais c'est néfaste pour les discussions en ligne, indique Morgane Bonvallat, responsable du projet Stop hate speech en Suisse romande. 'Proposons-leur des vacances à tous ces pauvres réfugiés, un aller-simple pour un célèbre camp chez nos amis en Pologne'. Ça, on est d'accord pour dire que c'est un commentaire haineux."

S'immiscer dans les discussions

Il y a ensuite le contre discours. "L'idée est que notre communauté se joigne aux discussions avec différentes stratégies pour montrer que la haine n'est pas l'opinion de la majorité", indique Morgane Bonvallat. On ne répond jamais à la haine par la haine. Répondre avec empathie, cela peut être, par exemple: 'Votre commentaire est particulièrement offensant pour la communauté juive'."

Cette technique permet de réduire efficacement les commentaires haineux.

>> Revoir aussi l'interview de Morgane Bonvallat, collaboratrice pour le projet Stop hate speech, dans Forum :

Camille Rivollet/vajo