Ajouter Le Figaro
à vos sources préférées

La Haute-commissaire à l'enfance Sarah El-Haïry a annoncé mercredi saisir la Commission européenne, après des révélations sur des modèles d'intelligence artificielle (IA), hébergées par la plateforme Hugging Face, capables de générer des images de personnes dénudées. «L'IA ne peut pas tout. Elle ne peut certainement pas servir à dénuder des enfants, des femmes ou n'importe qui sans son consentement», a déclaré Mme El-Haïry dans un communiqué.

«Après Grok, pour lequel j'avais saisi la Commission européenne, contribuant à l'ouverture d'une enquête, voilà que des modèles similaires sont mis en avant sur Hugging Face», a-t-elle poursuivi, au lendemain des révélations de l'ONG AI Forensics selon lesquelles cette plateforme héberge de tels modèles d'IA. AI Forensics affirme que sept des neuf modèles d'IA de retouche d'images les plus mis en avant par la plateforme «permettent aux utilisateurs de déshabiller des personnes à l'aide de simples “prompts”», ces lignes de commandes exprimées en langage courant.

Passer la publicité

«Le consentement n’est pas une option!»

«C'est immonde. Je saisis la Commission européenne, Pharos et l'Arcom. Je ne laisserai rien passer. L'innovation n'est pas un permis de violer la dignité humaine. Le consentement n'est pas une option!», s'est indignée la Haute-commissaire. Début janvier, une analyse menée par AI Forensics sur plus de 20.000 images générées sur le réseau social X par Grok, le robot conversationnel développé par l'entreprise américaine xAI, avait révélé que plus de la moitié représentait des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineures.

Même si l'entreprise affirme avoir mis depuis des filtres, ces images de personnes dénudées, pour la plupart sans leur consentement, ont plongé le réseau d'Elon Musk au cœur d'une polémique internationale et déclenché des enquêtes au Royaume-Uni et dans l'UE. Depuis, le Parlement européen a voté l'interdiction dans l'UE des services d'IA permettant de «dénuder» des personnes sans leur consentement, une mesure défendue également par les États membres, mais qui n'a pas encore été mise en place.