Ces derniers mois, plusieurs chansons générées par une intelligence artificielle et contenant des clichés racistes ont circulé activement sur les réseaux sociaux. Comment est-ce possible? Quels modèles sont les plus propices à générer ce type de contenu? Et comment y remédier?
"Pour apprendre à une IA à faire des chansons, on va l'entraîner sur la base d'un corpus de données. On va aller chercher toutes les données sur Internet qui sont soit en libre accès, soit pas - ce qui soulève par ailleurs l'enjeu des intelligences artificielles qu'on forme sans avoir demandé le consentement explicite des artistes", explique Laura Tocmacov, directrice et co-fondatrice de la fondation "ImpactIA" dont l'objectif est que l'IA ait un effet positif sur le monde du travail.
Une chanson générée par IA avec des clichés racistes se hisse dans le top 50 en Allemagne
Ensuite, l'IA va "manger" toutes ces données et déployer son apprentissage en termes probabilistes. Ainsi, elle va dire ce qu'elle a le plus entendu et ce qui est le plus plausible qui vienne après un certain mot parmi tout ce qu'elle a "mangé": des choses racistes, homophobes, biaisées. "Ce qui est magique avec l'IA, c'est que tout d'un coup, ça nous fait nous rendre compte à quel point Internet est biaisé!", s'exclame Laura Tocmacov.
Il est essentiel qu'on ait un regard très pointu sur la base de données sur laquelle l'IA a appris pour identifier dès le début des biais potentiels afin de débiaiser cela en pondérant avec d'autres données
Selon la spécialiste, plus un modèle est fermé, plus cela pose problème, parce qu'on ne connaît pas le corpus de données sur lequel l'IA a été entraînée. De l'autre côté, les modèles "open source" sont ouverts à des millions de personnes qui peuvent observer et amener des nouvelles données, ainsi que réparer le modèle.
Comment créer une intelligence artificielle plus représentative de qui nous sommes en tant que société? "La première règle, c'est la diversité dans la conception", répond Laura Tocmacov. Or, actuellement, il y a majoritairement des développeurs hommes. La deuxième règle, c'est la diversité dans la population qui utilise les outils d'IA. "Ce sont elles et eux qui peuvent se rendre compte et alerter des biais", souligne-t-elle.
Comment réduire ces biais dans les modèles? Que dit la loi?
>> Ecouter l'épisode du Point J :
![Comment rendre nos IA moins racistes et sexistes ? [Pexels]](https://img.rts.ch/articles/2024/image/ffli1n-28621369.image?w=960&h=384)
Pexels Juliane Roncoroni et l'équipe du Point J
Publié Modifié