Le 21 février 2019, João, un Brésilien de 19 ans, s’est suicidé en direct sur TikTok. Il était 15 h 23 et 280 personnes ont vu la scène. La diffusion du corps de l’adolescent a continué pendant une heure et demie, avant que la plateforme n’agisse. Un drame qui n’a rien d’un cas isolé. Face à la récurrence de contenus «nuisibles» diffusés par YouTube, Snapchat et TikTok, la Commission européenne, qui souhaite empêcher que ces contenus atteignent les mineurs, a réclamé aux plateformes des informations sur leurs algorithmes qui participent, entre autres, à la circulation de la haine en ligne et la désinformation.

L’exécutif européen a donc exigé de ces trois groupes qu’ils fournissent «davantage d’informations sur la conception et le fonctionnement de leurs systèmes de recommandation». L’outil propose aux usagers un flux personnalisé de contenus, adapté selon les vidéos et les chaînes ou comptes suivis par l’utilisateur sur ces plateformes. Mais cet algorithme est perméable et aléatoire, puisqu’il propose aussi des contenus qui ne sont pas désirés et appréciés par l’utilisateur.

A travers cette demande, la Commission européenne appelle TikTok, Snapchat et YouTube à «évaluer et atténuer adéquatement les risques» liés aux contenus qui y circulent. Parmi ces risques, on peut nommer les atteintes à la santé mentale des utilisateurs. En particulier sur le réseau social chinois. Dans un rapport publié en novembre 2023 intitulé «Poussé·e·s vers les ténèbres», l’ONG Amnesty International avait établi que l’algorithme de TikTok avait tendance à proposer aux utilisateurs atteints de dépression ou d’anxiété des contenus renforçant leur mal-être.

En outre, la plateforme chinoise est également interpellée par l’UE pour atteinte à la démocratie et sa perméabilité aux risques d’ingérence. TikTok est prié de fournir plus d’informations sur les moyens mis en œuvre pour «éviter la manipulation de son service par des acteurs malveillants» et «atténuer les risques pour les élections, le pluralisme des médias et le discours civique». D’après NewsGuard, 20 % des vidéos circulant via TikTok sur des sujets d’actualité comme l’invasion russe en Ukraine, les fusillades dans des écoles aux Etats-Unis ou encore les vaccins contre le Covid étaient fausses ou trompeuses.

YouTube et Snapchat doivent, quant à eux, expliquer «leur rôle dans l’amplification de certains risques», notamment dans les atteintes aux processus électoraux et au discours civique, et les mesures prises pour atténuer l’influence de leurs algorithmes dans la promotion de discours de haine. En juin 2023, YouTube avait annoncé qu’elle arrêtait la suppression de vidéos promouvant de fausses informations sur la présidentielle américaine de 2020, dont certaines assuraient que la défaite de Donald Trump relevait d’un truquage. La plateforme s’était défendue ainsi : «La capacité à débattre de façon libre d’idées politiques, même celles qui sont controversées ou basées sur des hypothèses fausses, est essentielle au fonctionnement d’une société démocratique, en particulier en pleine saison électorale.»

La requête formulée par la Commission est possible grâce au règlement sur les services numériques (DSA) de l’Union européenne. Entré en vigueur le 17 février 2024, il permet d’encadrer les activités des plateformes pour lutter, entre autres, contre la désinformation et la haine en ligne.

A ce stade il ne s’agit pas d’une mise en cause, mais c’est la première étape dans une procédure qui peut conduire à l’ouverture d’une enquête formelle. Voire à terme, à de lourdes sanctions financières en cas d’infractions avérées à la réglementation. YouTube, Snapchat et TikTok doivent fournir ces informations à la Commission avant le 15 novembre, puis «sur la base de l’évaluation des réponses, la Commission déterminera les prochaines étapes». Mais ce n’est pas la première fois que les systèmes de recommandation de contenus préoccupent l’Union européenne. Diverses procédures ont déjà été ouvertes à l’encontre de TikTok, AliExpress, Facebook et Instagram.