Facebook a-t-il échappé à ses créateurs? Les nouveaux éléments fournis par la lanceuse d'alerte Frances Haugen, publiés mardi par plusieurs médias internationaux, semblent étayer cette hypothèse. L'entreprise semble en effet dépassée lorsqu'il s'agit de lutter contre les propos haineux ou les fausses informations.
La faille principale concerne les contenus dans différentes langues. Car sur 2,9 milliards d'utilisateurs et utilisatrices, la majorité publie ou commente des contenus dans une autre langue que l'anglais.
Régulation insuffisante en langues étrangères
"Je suis profondément préoccupée par leur manque d'investissement dans des langues autre que l'anglais et par la façon dont ils induisent le public en erreur en leur disant qu'ils s'en occupent", dénonce Frances Haugen. Selon la lanceuse d'alerte, Facebook prétend prendre en charge 50 langues alors qu'en réalité la plupart d'entre elles ne reçoivent qu'une infime fraction des systèmes de sécurité dont dispose l'anglais.
Or, cette faille peut présenter un danger tout particulier dans certains pays. En Inde, qui compte 340 millions de comptes inscrits, les contenus appelant à la haine raciale ou religieuse fleurissent et alimentent parfois les violences inter-communautaires. Dans l'Etat du Bengale, une note interne de Facebook révèle que sur un échantillon de personnes publiant beaucoup de contenus politiques, 40% étaient en réalité de faux profils.
"Facebook cause des divisions dans beaucoup d'espaces", confirme Brian Boland, également ex-employé du groupe, qui souligne un manque de volonté de combattre ce phénomène. "Si vous faites la balance entre réduire les contenus blessant ou réduire le temps des gens sur la plateforme, vous choisissez de maintenir les gens sur la plateforme", témoigne-t-il.
Défaillance structurelle
Ce manque de volonté est essentiellement lié au modèle économique du groupe, explique Joëlle Toledano, professeure émérite d'économie à l'université Paris-Dauphine et spécialiste de la régulation du numérique. Selon elle, les critiques qui estiment que l'algorithme est "hors de contrôle" font fausse route. Car Facebook contrôle parfaitement sa rentabilité.
"En général, chez les économistes, on dit que pour chaque objectif, il y a un outil. L'algorithme de Facebook n'est pas fait pour contrôler les messages haineux, il est fait pour améliorer la rentabilité. Donc il est sous contrôle, même s'il y a des effets pas toujours voulus", indique-t-elle dans Forum mardi.
Dès le début, les rails étaient posés pour qu'on en arrive là aujourd'hui, sans que personne n'ait jamais tiré le frein.
Ces problématiques sont structurelles au réseau, abonde Anna Jobin, chercheuse au Alexander von Humboldt Institute de Berlin et présidente de la Commission fédérale des médias.
"Facebook a, dès l'origine, été construit très grand, avec un système d'auto-apprentissage. C'est-à-dire qu'il y a constamment des données en temps réel de nos interactions qui influencent le chemin vers lesquels les utilisateurs sont menés. Ainsi dès le début, les rails étaient posés pour qu'on en arrive là aujourd'hui, sans que personne n'ait jamais tiré le frein", explique-t-elle.
Des bénéfices au beau fixe
En résumé, Facebook a tout intérêt à avoir un maximum de contenus polémiques, ceux qui génèrent le plus d'interactions, et permettent à la plateforme d'attirer les annonceurs. Et ces annonceurs, eux, ne sont pas vraiment dérangés par les affaires.
Car si les révélations sur les défaillances du réseau social s'accumulent ces derniers mois, sa santé économique semble pour le moment intacte. Facebook a engrangé un bénéfice de près de 9 milliards de francs au troisième trimestre 2021.
Sujet TV: Antoine Silacci
Adaptation web: Pierrik Jordan
Réseaux sociaux devant le Sénat américain pour expliquer comment ils protègent les enfants
Des représentants de TikTok, Snapchat et YouTube étaient auditionnés mardi par une commission sénatoriale américaine pour évoquer leur influence sur les enfants, qui sont de grands utilisateurs de ces plateformes.
Cette audition intervient quelques semaines après celle, devant la même commission au Commerce, de la lanceuse d'alerte Frances Haugen, qui a révélé, documents à l'appui, que des recherches internes à Facebook avaient montré que son réseau social Instagram avait des effets néfastes sur une partie des adolescents qui l'utilisaient.
"TikTok, Snapchat et YouTube jouent tous un rôle majeur dans l'exposition des enfants à des contenus dangereux", a fait valoir la sénatrice Marsha Blackburn, qui copréside la commission. "Les réseaux sociaux peuvent offrir divertissement et opportunités éducatives mais ces applications ont aussi été mal utilisées", poursuit-elle, citant notamment des incitations des actes de vandalisme, des défis viraux qui font risquer la mort, le harcèlement, les troubles de l'alimentation ou encore le détournement de mineurs.
De nombreux élus veulent légiférer pour inscrire dans les textes davantage de mesures protectrices.