La Commission européenne a annoncé ce lundi 26 janvier l’ouverture d’une nouvelle enquête contre le réseau social d’Elon Musk, X, en raison des fausses images dénudées de mineurs et de femmes générées par Grok, son assistant d’intelligence artificielle. Cette enquête vise à vérifier si le réseau, anciennement connu sous le nom de Twitter, a enfreint les puissantes règles européennes sur le numérique qui lui imposent de protéger les utilisateurs contre les contenus illégaux. En cas d’infraction caractérisée, X encourt une amende pouvant aller théoriquement jusqu’à 6 % de son chiffre d’affaires annuel mondial.
L’Europe ne «tolérera pas les comportements insensés» des plateformes numériques, comme «les fausses images dénudées de femmes et d’enfants», a affirmé dans la foulée la présidente de la Commission européenne, Ursula von der Leyen. «Notre position est claire : nous ne confierons pas le consentement et la protection de l’enfance à des plateformes technologiques pour qu’elles les violent et les monétisent, a assuré la cheffe de l’exécutif européen dans une déclaration transmise à l’AFP. Des mesures ont été prises, mais nous devons en faire plus protéger les citoyens, en ligne comme hors ligne.»
CheckNews
L’exécutif européen a par ailleurs décidé d’étendre le périmètre d’une première enquête lancée en décembre 2023 contre X, toujours dans le cadre de sa législation sur les services numériques, le DSA (Digital Services Act). Le réseau social est accusé de manquements présumés aux règles européennes en matière de modération des contenus et de transparence, ainsi que pour soupçons d’interface trompeuse. Une enquête qui avait déjà poussé l’UE à infliger en décembre une amende de 120 millions d’euros au réseau d’Elon Musk.
190 images sexualisées générées par minute
Face au tollé soulevé par la prolifération des images sexualisées, des procédures ont déjà été lancées dans plusieurs pays, notamment en France et au Royaume-Uni, et l’accès à X a même été suspendu ou bloqué par plusieurs Etats. Après avoir d’abord limité l’accès à cette fonctionnalité, X a annoncé mi-janvier un bridage de son outil d’IA dans les pays où la création de telles images sexuelles est illégale.
Selon une étude publiée par l’ONG Center for Countering Digital Hate, qui dénonce fréquemment les pratiques de X, Grok a généré quelque 3 millions d’images sexualisées de femmes et d’enfants sur une période de onze jours seulement, soit 190 images par minute en moyenne. Une autre analyse, réalisée par l’organisation AI Forensics, montrait que sur plus de 20 000 images générées par Grok, plus de la moitié représentait des personnes légèrement vêtues, dont 81 % étaient des femmes et 2 % paraissaient mineures.
Analyse
Le réseau social était dans le collimateur de l’Union européenne depuis plusieurs semaines en raison de ce scandale. Bruxelles avait pris une première mesure début janvier, en ordonnant à X de conserver tous ses documents et données internes relatifs à Grok, jusqu’à la fin de l’année. Avec cette nouvelle procédure ciblant X, l’Europe prend le risque de s’attirer de nouvelles représailles de la part de Donald Trump, alors que les tensions suscitées par sa volonté de s’emparer du Groenland viennent juste de s’apaiser.
Le président américain ne cesse d’accuser Bruxelles de cibler, via sa législation numérique, les champions américains de la tech. Son administration a pris des mesures en représailles fin décembre, en imposant des sanctions à l’ancien commissaire Thierry Breton, artisan du DSA, ainsi qu’à quatre autres personnalités européennes engagées pour une stricte régulation de la tech et contre la désinformation.
Agir contre «les images pédopornographiques ou le dénudage de femmes en ligne sans leur consentement», «ça n’a rien à voir avec la liberté d’expression ou la censure», a défendu ce lundi Thomas Regnier, un porte-parole de la Commission. «Créer des images fausses et sexualisées de femmes et d’enfants est cruel et inacceptable», a aussi dénoncé Henna Virkkunen, la vice-présidente de la Commission chargée du numérique, dans un communiqué.
Par ailleurs, l’exécutif européen a intégré lundi WhatsApp à la liste des «très grandes plateformes en ligne», un statut synonyme de règles renforcées, pour les chaînes WhatsApp, son service de diffusion de contenus.
