Les commentaires haineux sur YouTube toujours plus subtils pour proliférer

Comptant près de 2,5 milliards d'utilisateurs, YouTube abrite des dizaines de millions de commentaires visibles sur la plateforme. Une équipe de chercheuses et de chercheurs associés au MediaLab de Science Po Paris ont analysé 35 millions de contenus publiés sur plus de 900 chaînes françaises.

L'un des coauteurs de l'étude, le doctorant au MediaLab Benjamin Tainturier, a présenté samedi les spécificités de ces commentaires, qui empruntent diverses formes de langages, tels que l'implicite ou des marqueurs culturels.

"Nous avons vraiment été frappés par leur amplitude qualitative et leur diversité interne", a indiqué samedi le chercheur à l'émission Forum de la RTS. La modération sur YouTube, menée principalement par un algorithme de reconnaissance de la haine, a donc "des performances discutables, notamment pour reconnaître l'ironie".

Si des commentaires haineux passent encore ce filtre, c'est aussi parce que les internautes utilisent de plus en plus d'euphémismes, de périphrases ou de sous-entendus, ce qui rend complexe le travail de modération, conclut notamment l'étude française, laquelle souligne que de nombreuses personnes ont appris à contourner la modération avec des phrases "moins détectables".

Trois formes de haine

L'étude, publiée mardi et effectuée dans le cadre du rapport de la Commission nationale consultative des droits de l'Homme (CNCDH), en France, visait à décrire trois formes de haine: le racisme, avec "une attaque ad hominem vis-à-vis d'une communauté", l'antisémitisme, ainsi que les discours hostiles aux musulmans et à l'islam, a détaillé Benjamin Tainturier. Le but était de repérer les points de rhétorique communs.

Les femmes sont également la cible de deux formes d'hostilité, a-t-il indiqué. La première est concentrée, avec des chaînes s'intéressant notamment au sport, aux masculinités et à la définition de l'homme et donnant lieu à un discours dénigrant, avec une valorisation des rôles de genre traditionnels au sein de la société. La seconde, plus diffuse, est la publication de commentaires dénigrants sur les femmes et les minorités de genre partout sur YouTube.

Il est difficile de statuer sur les profils des utilisateurs et utilisatrices, car l'anonymat ou les pseudonymes sont courants sur les réseaux sociaux. Toutefois, il existe une surproduction de contenus par les "professionnels de la haine", qui peuvent attaquer plusieurs communautés à la fois, constate encore le chercheur.

Propos recueillis par Renaud Malik

Adaptation web: mera