Pédopornographie, «sextorsion», approches malveillantes d’enfants… Autant d’éléments avec lesquels doivent composer les internautes, ainsi que les entreprises du numérique en ligne. Pour lutter contre ce phénomène, elles pourront désormais compter sur «Lantern», premier programme de signalement collaboratif de contenu pédopornographique entre géants de la tech, annoncé mardi 7 novembre au soir. Pour, le moment, Google, Meta, Twitch, Discord, Mega, Roblox, Quora et Snap participent au programme, qui devrait s’étendre à de nouveaux participants dans un second temps.

La Tech Coalition, groupe d’entreprises du numérique réunies afin de lutter contre les abus sexuels contre les enfants en ligne, a expliqué lutter ainsi contre le «grooming» – l’approche de jeunes pour obtenir leur confiance et, à terme, des faveurs sexuelles – et la «sextorsion» – la demande de paiement face à la menace de diffusion de vidéos ou images compromettantes de la victime.

La coalition estime devoir «travailler ensemble» face à de tels dangers, à travers le partage de signalements d’activités et de comptes qui ne respecteraient pas les règles relatives à l’exploitation et aux abus sexuels de mineurs.

Le groupe donne des exemples d’éléments susceptibles d’êtres signalés, comme des adresses mails, noms de profil, images et vidéos ou mots-clés qui seraient utilisés de manière malveillante avec un jeune public, ou dans le cadre d’achat et reventes de contenus problématiques. Concrètement, il suffira qu’une compagnie signale un élément sur «Lantern» pour que les autres membres puissent le filtrer sur leur propre plateforme et le détecter, avant de prendre les mesures nécessaires.

Certaines de ces firmes sont d’autant plus concernées qu’elles s’adressent – parfois très spécifiquement – à un public jeune. C’est notamment le cas de la plateforme de jeux en ligne Roblox, dont une grande partie des utilisateurs est âgée de moins de 13 ans. Avec un tel public, les jeux en ligne peuvent devenir un véritable vivier à arnaques en tout genre.

Du côté de Snapchat, accompagné entre autres de TikTok et de plusieurs Etats, on planche sur le problème dans le cadre du partage de contenus pédopornographiques générés par intelligence artificielle. Un phénomène qui prend lui aussi de l’ampleur, en s’invitant dans les cours de récré du monde entier, avec une affaire particulièrement retentissante en Espagne.

Enfin, côté sécurité et vie privée, les compagnies participantes affirment que des expertises ont été menées auprès d’entités spécialisées pour s’assurer que «Lantern» respecte les règles en vigueur. Le projet sera également documenté dans le rapport annuel de transparence de la Tech Coalition.