Un réseau social controversé, qui avait connaissance de ses effets néfastes sur les plus jeunes, et qui décide de remettre un peu plus sa modération entre les mains de l’intelligence artificielle (IA). TikTok a annoncé vendredi 11 octobre la suppression de centaines d’emplois dans le monde, notamment en Malaisie, pour préférer des solutions automatisées telles que l’intelligence artificielle (IA) pour modérer ses contenus. Ce même jour, la radio publique du Kentucky (KPR) a révélé des documents internes prouvant que les équipes de TikTok avaient identifié des effets néfastes de la plateforme sur les jeunes utilisateurs, mais ont limité les mesures de prévention par crainte de voir la fréquentation baisser.

«Nous devons avoir conscience» des conséquences que peut avoir l’algorithme sur «le sommeil, la nutrition, le fait de se déplacer dans la pièce ou de regarder quelqu’un dans les yeux», écrit un cadre de l’entreprise dans ces documents. Ils avaient été mentionnés mais caviardés dans l’assignation du procureur du Kentucky, conjointement avec douze autres Etats américains et le procureur de la capitale Washington, accusant TikTok de porter atteinte à la santé mentale de ses jeunes utilisateurs.

«L’utilisation compulsive (de TikTok) est liée à une série d’effets négatifs sur la santé mentale, comme la perte de la capacité d’analyse», et pénalise aussi «la formation de la mémoire, l’aptitude à la contextualisation, à la conversation, à l’empathie», ont conclu des chercheurs au sein même de la société, selon les documents révélés par KPR. Dans un autre document interne, TikTok évaluait qu’à partir de 260 vidéos visionnées sur le réseau, un utilisateur «était probablement devenu dépendant de la plateforme». La fréquentation assidue du réseau social occasionne aussi «une anxiété accrue», selon la même source.

TikTok a ajouté plusieurs fonctionnalités permettant de limiter l’utilisation de la plateforme par des jeunes internautes, notamment un contrôle parental et une interruption au bout d’une heure de visionnage. Mais, toujours selon les documents, la filiale du chinois ByteDance n’a pas cherché à améliorer cet outil même si elle avait conscience de son efficacité limitée. «Notre but n’est pas de réduire le temps passé» sur la plateforme, a écrit un chargé de projet chez TikTok.

«Il est hautement irresponsable à (la radio publique) d’avoir publié des informations protégées par la justice», a commenté TikTok après la révélation de ces documents. Pour la plateforme, il s’agit de «citations trompeuses» et de documents «sortis de leur contexte». Et l’entreprise de rappeler avoir mis en place des mesures visant à protéger les mineurs sur son réseau social. Mais bientôt, une partie de cette protection sera un peu plus dévolue à des robots plutôt qu’à des humains. Moins de 500 postes sont potentiellement concernés en Malaisie, selon un porte-parole de l’entreprise.

«Nous comptons investir deux milliards de dollars (1,8 milliard d’euros) au niveau mondial dans la confiance et la sécurité au cours de la seule année 2024 et nous continuons d’améliorer l’efficacité de nos efforts, avec 80 % de contenus en violation (des règles) désormais supprimés par des technologies automatisées», veut rassurer le même porte-parole dans un court communiqué.