Le filtre "Bold Glamour" de TikTok ou l'intelligence artificielle au service d'une esthétique dangereuse

Comme d'autres filtres proposés sur les réseaux sociaux, le filtre "Bold Glamour" ("Glamour osé" en anglais) de l'application de vidéos TikTok est censé embellir le visage des utilisateurs et utilisatrices avec des pommettes lisses, des sourcils bien dessinés, des lèvres repulpées et un maquillage virtuel.

Mais contrairement à d'autres effets, le "Bold Glamour", qui compte déjà plus de 16 millions de téléchargements depuis sa mise en ligne fin février, est très réaliste et pratiquement indiscernable. Il suit les mouvements du visage et ne se déforme pas lorsqu'une main ou un objet est placé entre la caméra d'un smartphone et celui-ci.

Basé sur l'apprentissage automatique

ByteDance, l’entreprise chinoise qui édite l’application TikTok, n'a pas communiqué sur le fonctionnement du filtre. Selon des spécialistes, ce dernier est basé sur l'intelligence artificielle. "Ce qui change, c'est sa partie immersive. Le filtre arrive très bien à détecter le visage d'une personne et à voir où sont ses yeux, sa bouche, son nez. Ces endroits sont ensuite utilisés par l'algorithme pour savoir où placer le maquillage", explique Antoine Widmer, professeur à la HES-SO Valais et spécialiste en réalité augmentée et virtuelle, interrogé dans La Matinale de la RTS.

Alors que les filtres traditionnels des réseaux sociaux superposent un masque 3D sur les visages filmés par le téléphone, les rendant facilement détectables en cas de mouvements devant la caméra, le filtre "Bold Glamour" exploite une technologie basée sur l'apprentissage automatique (ou "machine learning"), qui "prend votre image, la compare à un ensemble de données d'autres images et la redessine, pixel par pixel, sur le rendu de votre caméra", détaille Luke Hurd, créateur de filtres pour le réseau social Snapchat, sur son compte TikTok.

L'apprentissage automatique est déjà utilisé dans d'autres effets, comme celui qui transforme le visage en une version enfantine.

Des images manipulées

Ce genre de filtres est un aperçu de la manière dont les outils basés sur l'intelligence artificielle pourraient rendre les transformations faciales encore plus difficiles à discerner, relate le média en ligne The Verge. "Bold Glamour" interpelle, car il s'agit d'un filtre vidéo qui s'adapte en temps réel, évoquant le danger des "deepfakes", terme générique désignant les montages trompeurs (photo, vidéo ou audio) qui donnent l'impression qu'une personne a déclaré ou réalisé des choses qu'elle n'a en réalité pas dites ou faites.

>> Lire à ce sujet : Deepfakes: le clonage vocal, la nouvelle menace pour l'identification en ligne

Ces derniers filtres "ne sont pas nécessairement de la technologie de deepfake en soi, mais il n'y a qu'un pas", souligne Petr Somol, directeur de la recherche en intelligence artificielle chez Gen, une entreprise américaine de cybersécurité. "Ce qui les rend dangereux, ce sont les personnes qui comprennent la technologie et pourraient s'en servir à des fins mal intentionnées", estime Siwei Lyu, professeur en sciences informatiques à la State University of New York.

"Il s'agit d'une étape importante et d'un indicateur de l'étrangeté du monde post-réalité qui nous attend", a de son côté affirmé à The Verge Memo Akten, professeur adjoint d'art informatique et de design à l'Université UC San Diego.

En 2017, la revue Cognitive Research avait déjà montré dans une étude sur la manipulation de photographies que les gens ne reconnaissaient une image falsifiée que dans 60 à 70% des cas.

Un danger pour la santé

A ce stade, parmi les internautes, le filtre de beauté nuit surtout à l'ego. Des dizaines de millions de vidéos montrent le choc des utilisateurs en voyant le filtre s'adapter parfaitement à leur visage et le transformer complètement. Beaucoup se désespèrent ou s'indignent ensuite face à leur visage réel, quand le miroir déformant disparaît.

Les vidéos réalisées avec "Bold Glamour" peuvent être publiées sans qu'aucune étiquette n'indique que la personne l'a employé. L'effet semble toutefois plus subtil chez les personnes identifiées par l'algorithme comme étant des hommes.

Certains spécialistes s'inquiètent aussi de l'impact que peut avoir le nouveau filtre sur l'estime de soi et la santé des internautes. "C'est le dernier assaut en date du mythe de la beauté idéale", estime Kim Johnson, professeure en soins infirmiers à la Middle Georgia State University, aux Etats-Unis. Ce genre d'effets spéciaux conduit des personnes à "des régimes excessifs, à la comparaison aux autres et au manque de confiance en soi", ajoute-t-elle.

Spencer Burnham, créateur de réalité augmentée et de filtres sur TikTok et Instagram, craint que l'existence d'outils modifiant l'apparence en temps réel ne constitue un "terrain propice à la dysmorphie corporelle" ou "dysmorphophobie", un trouble mental caractérisé par une préoccupation excessive concernant des défauts perçus sur l'apparence physique imaginaires ou minimes. "Nous arrivons à un stade où il ne s'agit plus seulement d'augmenter la réalité, mais de la remplacer. Cela me fait un peu peur", avoue-t-il à The Verge.

>> Lire aussi : La dysmorphophobie, ce mal des ados causé par les réseaux sociaux (aussi)

Les jeunes principales victimes

L'utilisation de ces effets virtuels n'est en effet pas sans conséquences, en particulier pour les plus jeunes. Pour le psychologue et psychiatre français Michael Stora, cette réalité faussée peut être dangereuse. Le filtre "Bold Glamour" "n'est qu'une version améliorée des filtres que l'on voyait déjà sur Instagram et qui ont eu des impacts bien réels sur les jeunes", note-t-il au micro de la RTS.

Les personnes qui font le plus appel à la médecine esthétique appartiennent à la catégorie des 18-30 ans, indique Michael Stora. "Cette technologie au service de l'esthétique nous montre la dimension diabolique de l'utilisation de l'intelligence artificielle dans cette capacité à penser que le bonheur numérique l'emporterait sur le bonheur réel."

>> Lire aussi : Chirurgie ou médecine esthétique, leur popularité augmente auprès des jeunes

Les attentes irréalistes en matière d'apparence physique fixées par ces filtres semblent par ailleurs toucher de manière inégale les genres. Une étude sur l'impact social des filtres sur des jeunes entre 18 et 30 ans vivant au Royaume-Uni, publiée en 2021 par une équipe de la City University of London, a ainsi révélé que 94% des internautes féminines et non binaires se sentaient obligées d'avoir une certaine apparence, tandis que 90% de ces personnes admettaient avoir utilisé des filtres ou modifié leur image d'une manière ou d'une autre sur les réseaux sociaux.

De son côté, TikTok est resté très discret sur sa nouvelle création. L'application a simplement assuré encourager ses utilisatrices et utilisateurs à "être eux-mêmes" sur le réseau social qui favorise "l'expression personnelle et la créativité". "Nous continuons à travailler avec des experts et notre communauté pour aider TikTok à rester un espace positif, qui soutient tout le monde", a indiqué l'entreprise.

>> Réécouter l'émission On en parle sur les dangers de TikTok :

Depositphotos - Nuchylee

Sujet radio: Miruna Coca-Cozma

Texte web: Isabel Ares avec l'afp