Intelligence artificielle et algorithmes cristallisent un malaise français. Ces objets se sont installés dans nos vies mais nos concitoyens sentent confusément qu’ils en comprennent mal les ressorts. Un bruit médiatique insistant en outre ne fait qu’attiser leurs inquiétudes: cette révolution opaque serait le lieu d’une défaite annoncée, du déclassement français et européen. La facilité avec laquelle ce thème défaitiste trouve à se propager en dit sans doute beaucoup d’un certain air du temps. Elle a en revanche peu à voir avec le fond du sujet.

Dans ce contexte, chargée par la loi pour une République numérique de conduire une réflexion sur la dimension éthique du numérique, la Cnil a souhaité retenir ce thème. Pour cela, elle a animé pendant plusieurs mois, avec soixante partenaires, un débat public national et ouvert (1) tant il nous est apparu naturel de construire collectivement les éléments de constat et de réflexion sur le sujet.

Que retenir d’un processus qui, avec la mission Villani, contribuera à définir un modèle français de l’IA? D’abord une série de recommandations opérationnelles visant à mobiliser l’ensemble de la chaîne algorithmique, du data scientist au citoyen, en passant par le professionnel, l’entreprise et le régulateur; à travers notamment des programmes de formation, un travail sur le design des systèmes, la constitution de comités d’éthiques et un équipement de la puissance publique pour auditer les algorithmes.

Les manifestations organisées par les partenaires de la Cnil ont montré qu'une forme de consensus a minima existait sur ces propositions. Reste à les mettre à exécution. En particulier, la question de la mise en place d'une véritable politique d'éducation au numérique montre que le consensus n'implique pas toujours une volonté politique. Et pourtant les algorithmes sont le cœur de l'univers informationnel et industriel dans lequel vivront les nouvelles générations. De même, bâtir une infrastructure publique de la donnée permettant le développement de projets de recherche dans le respect des libertés est une voie à explorer.

Il paraît aussi nécessaire d’élaborer de nouveaux principes qui s’appliquent à l’infrastructure numérique sous-jacente à notre monde, permettant le développement d’une IA fidèle aux traditions humanistes européennes. Vigilance et loyauté, tels pourraient en être les mots d’ordre. Principe de vigilance continue car les algorithmes sont des objets techniques en perpétuelle mutation. Vigilance collective et pluraliste, également, car les systèmes algorithmiques sont compartimentés et diluent le sentiment de responsabilité. Vigilance critique, enfin, tant la tendance à accorder une confiance excessive aux oracles et verdicts de la machine semble être une pente naturelle de l’esprit humain.

Quant au principe de loyauté, il s’agira de l’envisager dans sa dimension collective et citoyenne. Bien sûr, un algorithme ne doit pas trahir l’intérêt de ses utilisateurs. Mais il est également nécessaire de réfléchir à ses externalités négatives potentielles pour toute la collectivité et de les contrecarrer.

IA et algorithmes sont les briques de base de l’univers numérique. Une dynamique de réflexion collective s’est mise en place qui permet à notre pays de participer à la conversation mondiale qui se noue sur le sujet et de promouvoir une IA respectueuse des droits et de l’héritage humaniste.

(1) Le rapport qui en synthétise les résultats est présenté ce vendredi 15 décembre. https://www.cnil.fr/

Un hors-série. Interviews, enquêtes, rencontres et reportages… Tout sur l'IA dans notre hors-série de 108 pages. En vente en kiosque à partir du 20 décembre (ou sur la boutique Libé).

Un forum. Cédric Villani, Enki Bilal, laurence Devillers, Isabelle Falque-Pierrotin… Venez écouter et débattre avec les meilleurs experts le 24 janvier en soirée dans les locaux de Radio France.