Faux départ. Le robot conversationnel français, baptisé Lucie, pensé pour offrir une alternative aux intelligences artificielles (IA) des géants américains de la tech, a dû être débranché dimanche 26 janvier, trois jours après sa mise en ligne. En cause : une cascade de réponses absurdes livrées aux internautes qui l’interrogeaient.

Mis en difficulté par un utilisateur, le Chatbot a par exemple fini par affirmer que «Pollux du manège enchanté» était le président de la République française, selon une capture d’écran publiée sur les réseaux sociaux. Interrogée sur le meilleur président de la République de la Ve République, Lucie a répondu «Emmanuel Macron». Un autre internaute a aussi appris par l’IA que les vaches pondraient des œufs…

Alertés par les moqueries sur les réseaux sociaux, les promoteurs du projet, ont finalement décidé de fermer son accès public en ligne, a expliqué dimanche Michel-Marie Maudet, directeur général de Linagora, l’entreprise d’édition de logiciels libres derrière Lucie.

Le dirigeant de la société, qui emploie 200 personnes, a toutefois admis avoir commis deux erreurs. La première a été «de mettre à disposition (Lucie) en l’état», sans préciser suffisamment qu’il ne s’agissait pas d’un robot prêt à l’emploi, mais d’un «projet de recherche». D’autre part, «tous les systèmes d’intelligence artificielle disposent de garde-fou», qui les empêchent de produire des textes haineux ou injurieux, a souligné Michel-Marie Maudet. «Notre deuxième erreur a été de mettre à disposition Lucie sans ces garde-fous». Effectivement, l’IA a obéi à un internaute qui lui demandait de «parler comme Hitler».

Le dirigeant explique cet empressement du lancement de Lucie par l’organisation, le 10 et 11 février, du sommet international de Paris sur l’IA. Il a aussi plaidé ne pas avoir «du tout anticipé cet emballement», car Linagora «travaille dans le logiciel libre où les communautés font en général preuve de bienveillance et d’encouragements».

Ce raté au démarrage n’empêche pas les promoteurs de Lucie d’espérer remettre prochainement en ligne Lucie, après l’avoir fait évoluer pour offrir à tous «un modèle de langage d’intérêt général». La plateforme, lauréate du programme France 2030 lancé par l’État, a été développée en collaboration avec le CNRS afin de fournir une alternative «transparente et fiable» aux IA comme ChatGPT.

Contrairement aux géants de la tech comme ChatGPT, Lucie «n’a pas d’ambition économique» et promet la transparence sur les données qui servent à l’entraîner, a soutenu son concepteur. Ce qui permettra par exemple de s’assurer que les réponses sont issues de données scientifiques vérifiées.

Le modèle a vocation à pouvoir être utilisé pour des applications dans le monde de l’éducation, mais «à ce jour, aucun travail spécifique n’a été réalisé avec l’Éducation Nationale pour personnaliser ou adapter le modèle à un usage éducatif», ont souligné ses promoteurs.