En Espagne, des photos de jeunes filles nues générées par l'IA font scandale
Dans le sud-ouest de l'Espagne, vingt jeunes filles mineures ont vu des photos d’elles nues circuler sur les réseaux sociaux. Ces photos au réalisme troublant ont été générées avec l'intelligence artificielle par leurs camarades de classe.
Dans la petite ville d'Almendralejo dans le sud-ouest de l'Espagne, 26 adolescents ont récupéré des photos de leurs camarades de classe pour les dénuder virtuellement. Ils se sont ensuite partagé les images trafiquées.
L’affaire pose la question des dérives de l’intelligence artificielle (IA) et de la responsabilité des entreprises et de l’État dans son encadrement, à la fois éthique, moral et juridique.
Miriam Al Adib, la maman d'une des victimes, témoigne de son inquiétude quant à la diffusion de ces photos: "imaginez, elles ont peut-être atterri sur une plateforme d’images pédopornographiques". Pour inciter les jeunes filles à porter plainte, elle a publié une vidéo où elle clame "vous n’êtes pas coupables, mais victimes!"
Pédopornographie selon la loi
Mais l’affaire d’Almendralejo n’est pas un cas isolé. En Espagne, 40% des jeunes seraient victimes de cyberharcèlement.
Susana Sanchez, du syndicat policier Jupol, explique les risques encourus par les jeunes qui partagent ce type de contenu:
"Les parents ne savent pas ce que leurs enfants font en ligne, ce qui leur donne un sentiment d’impunité. Mais la loi dit qu’il s’agit de pédopornographie si les images partagées sont suffisamment réalistes, ce qui est le cas ici."
Le logiciel décline toute responsabilité
Le logiciel qui permet de réaliser ces montages précise qu'il faut être majeur et que l'utilisateur est seul responsable des images créées.
Une hypocrisie dénoncée par Ricard Martinez, professeur à l’Université de Valence et spécialisé dans la transformation digitale: "l’entreprise sait parfaitement le tort que cette technologie peut causer. Ils n’ont pas restreint l’accès aux mineurs à cette technologie. Les utilisateurs de l’IA qui causent un tort sont responsables. Mais l’entreprise qui propose cette technologie sur le marché sans aucune garantie est tout aussi responsable".
Depuis l’affaire d’Almendralejo, plusieurs jeunes femmes ont porté plainte pour des affaires similaires. L’Union européenne planche actuellement sur la première loi globale sur l’usage de l’intelligence artificielle.
>> A consulter également : L'intelligence artificielle est-elle une chance ou un danger?
Sujet TV: Marie Bolinches
Adaptation web: mac
Publié