X restreint partiellement le déshabillage des personnes réelles avec Grok, sous la pression de plusieurs pays

Fini le «service premium» de déshabillage à la demande. Ou presque. Le réseau social d’Elon Musk a annoncé mercredi 14 janvier au soir des mesures pour empêcher «l’édition d’images de personnes réelles dans des tenues révélatrices, comme des bikinis» par le compte de son outil d’intelligence artificielle Grok. Un blocage «géographique», et non global, la restriction se limitant aux «juridictions où cela est illégal», a souligné X dans un message publié en fin de journée, aux Etats-Unis.

Sous le feu des critiques depuis le début du mois de janvier pour avoir laissé Grok générer des milliers de photos dénudées de personnes réelles, dont des mineurs, à la demande des utilisateurs, X avait réservé, la semaine dernière, l’accès à la fonctionnalité à ses utilisateurs payants. La mesure laisse désormais place à des restrictions pour «tous les utilisateurs, y compris les abonnés payants», a assuré la plateforme. Ces derniers gardent toutefois le privilège, comme depuis le 9 janvier, de pouvoir demander à l’outil de générer des images, tant qu’elles n’incluent pas de personnes dénudées, a confirmé le réseau social.

L’UE et le Royaume-Uni, qui avaient vivement critiqué la première tentative de régulation, ont accueilli avec prudence ces mesures supplémentaires mises en place par X. Devant son Parlement, le Premier ministre britannique Keir Starmer a salué la volonté du réseau social de se mettre en «totale conformité avec la législation» locale. «C’est une bonne chose, mais nous ne reculerons pas et ils doivent agir», a-t-il averti, rappelant l’ouverture d’une enquête indépendante lundi par une autorité de régulation britannique.

La Commission européenne a quant à elle assuré qu’elle évaluerait «attentivement ces changements» afin de s’assurer «qu’ils protègent efficacement les citoyens de l’Union européenne». Selon un porte-parole de l’institution, «si ces changements n’étaient pas effectifs, la Commission n’hésiterait pas à utiliser tout» son arsenal législatif, qui lui permet d’infliger des astreintes financières, voire de suspendre le réseau social sur son sol.

Face au scandale, plusieurs pays d’Asie ont déjà pris des mesures strictes à l’encontre de l’outil. Ce jeudi, la Malaisie a toutefois affirmé que ses autorités de régulation nationales avaient constaté que les mesures prises par X pour empêcher Grok de générer des images indécentes «n’avaient pas été mises en œuvre dans leur totalité». Ces mêmes instances avaient annoncé mardi qu’elles allaient engager une action judiciaire contre les plateformes X et xAI, l’entreprise d’intelligence artificielle d’Elon Musk.

En fin de semaine dernière, l’Indonésie a bloqué temporairement l’accès à Grok. Elle pourrait être rejointe par les Philippines, qui ont annoncé ce jeudi sa suspension imminente. «D’ici ce soir ou dans la journée, nous nous attendons à ce que Grok soit bloqué dans l’ensemble des Philippines», a déclaré le directeur général par intérim du Centre de coordination et d’enquête sur la cybercriminalité philippin, Renato Paraiso. De son côté, l’Inde affirme avoir fait retirer des milliers de contenus sur X.

L’indignation planétaire a gagné jusqu’aux côtes californiennes, berceau de la tech américaine régulièrement attaqué par Elon Musk pour son progressisme. Le procureur général de l’Etat, Rob Bonta, a annoncé mercredi lancer sa propre enquête «afin de déterminer si, et comment, xAI a violé la loi», exhortant l’entreprise «à prendre des mesures immédiates pour que cela ne se reproduise plus». Ouvertement hostile aux velléités de l’administration Trump d’empêcher la régulation de l’IA, l’élu démocrate défend «une tolérance zéro pour la création et la diffusion par l’IA d’images intimes non consenties ou de matériel pédopornographique».

Les procédures judiciaires ou administratives ouvertes à travers le monde sont régulièrement dénoncées par Elon Musk. Des tentatives de «supprimer la liberté d’expression», affirme le patron du réseau social X. Affichant sa volonté d’offrir une intelligence artificielle «antiwoke», libérée du politiquement correct, il renvoie la responsabilité sur les utilisateurs. «Le principe de fonctionnement de Grok est de respecter les lois de chaque pays et chaque Etat», a écrit mercredi le multimilliardaire sur X. «Il peut arriver que des tentatives de piratage malveillant entraînent un comportement inattendu. Le cas échéant, nous corrigeons le bug immédiatement», a-t-il assuré.

Selon une analyse publiée la semaine dernière par l’ONG AI Forensics, réalisée sur plus de 20 000 images générées par Grok, plus de la moitié représentaient des personnes légèrement vêtues, dont 81 % étaient des femmes et 2 % paraissaient mineures. Dénonçant une «IA qui déshabille des enfants», la Haute-commissaire à l’Enfance, Sarah El Haïry, a annoncé mardi saisir la justice française, l’Arcom ainsi que la commissaire européenne à la souveraineté numérique.

Face à l’ampleur du phénomène, l’association féministe américaine Ultraviolet a de son côté lancé un appel à Google et Apple pour que les entreprises retirent Grok et X de leurs boutiques d’applications. Mercredi, le collectif avait déjà été rejoint par 28 autres ONG dans sa démarche.