Un engagement fort, dont la traduction concrète reste à préciser. Royaume-Uni, Etats-Unis, Allemagne, Australie, mais aussi certaines pointures de la tech comme TikTok, Snapchat ou encore OnlyFans ont signé ce lundi 30 octobre une déclaration d’engagement à lutter contre la propagation de contenus pédopornographiques générés par intelligence artificielle. Une volonté annoncée en amont du sommet mondial sur l’IA et la sécurité, organisé en Grande-Bretagne à partir de mercredi.

«Nous sommes déterminés à travailler ensemble pour nous assurer une utilisation responsable de l’IA et lutter contre la menace des abus sexuels sur les enfants. Nous nous engageons à travailler ensemble pour nous assurer que les risques posés par l’IA en la matière ne deviennent pas insurmontables», mentionne le communiqué.

Les représentants du Royaume-Uni se sont notamment appuyés sur une récente étude de l’Internet Watch Foundation (IWF) – organisation indépendante qui lutte contre la présence de contenus montrant des abus sexuels sur les enfants en ligne – selon laquelle des utilisateurs avaient partagé près de 3 000 images du genre générées par l’IA dans un forum du dark web. «Il est essentiel que nous éradiquions les abus de cette technologie émergente avant qu’elle n’ait une chance de s’enraciner complètement», a déclaré la directrice générale de l’IWF.

Plusieurs scandales sur ce thème ont éclaté dans le monde ces derniers mois, dont un particulièrement retentissante en Espagne. Le deepfake à caractère pédopornographique y a fait son apparition dans les cours de récré de collèges, avec une vingtaine d’adolescentes de 12 à 14 qui ont découvert des photos d’elles dénudés, sans que ces clichés ne soient réels. 26 mineurs avaient été interpellés. En Australie, le régulateur de la sécurité numérique du pays a été saisi à plusieurs reprises pour des images à caractère sexuel générées par intelligence artificielle. Du côté de l’Equateur, le ministère de l’éducation a dû communiquer à ce sujet après la découverte de plus de 700 vidéos à caractère sexuel ou érotique découvertes dans un établissement scolaire de la capitale Quito.

Un phénomène qui risque d’empirer avec l’accroissement rapide des performances des intelligences artificielles, ainsi que leur démocratisation.