Paul Duan, patron de Bayes Impact, une ONG du big data, l'affirme : si on lui donne accès aux données de Pôle Emploi, il pourra réduire le chômage de 10 %. Avec ses algorithmes, il saura améliorer la mise en contact entre demandeurs d'emploi et entreprises. Au début de l'année, Pôle Emploi a accepté de lui donner un accès à leurs bases. Prévue pour juin, la plateforme devrait être en ligne pour novembre. Les algorithmes réussiront-ils là où les hommes ont échoué ?

Longtemps, on a rêvé de déléguer aux machines et aux chiffres les décisions les plus importantes. Dans son histoire des statistiques, la Politique des grands nombres (La Découverte), Alain Desrosières remémore «l'idée optimiste qu'une rationalité fondée à la fois sur les mathématiques et les observations empiriques pourra rendre possibles une objectivité, et donc une transparence, tout à la fois des descriptions et des décisions». Il prend pour exemples les travaux de Condorcet d'«une algèbre de l'homme en société» où il crée des formules de probabilités permettant de juger la crédibilité d'un témoin ou les décisions d'un jury d'assises. Ces équations peuvent aussi rappeler la machine conçue dans le Chili socialiste de Salvador Allende. Dans un article publié en 2014 dans le New Yorker réalisé à partir d'un livre de Eden Medina, Cybernetic Revolutionaries, Evgeny Morozov, chercheur et journaliste se spécialisant dans l'étude de l'impact des nouvelles technologies, revient sur le rêve d'Allende de gérer son pays avec une machine : le Project Cybersyn. Il décrit une salle futuriste équipée d'un fauteuil confortable. Elle présente au dirigeant des indicateurs sur son pays. «L'ordinateur de contrôle central devra être relié par capteurs aux événements en temps réel», décrivait Stafford Beer, concepteur de Cybersyn en 1964. Ces capteurs permettraient alors de rapidement prendre des décisions pour atteindre les objectifs. L'expérimentation ne survivra pas à la mort d'Allende, en septembre 1973.

On peut associer le projet d'Allende avec les plans quinquennaux de l'Union soviétique dont il était le contemporain. Définis par le Gosplan, ils sont établis pour répondre à des objectifs chiffrés. Alain Supiot, juriste et docteur en droit, dans ses cours au Collège de France entre 2012 et 2013, rassemblés dans un ouvrage, la Gouvernance par les nombres, (Fayard, 2016), y voit la transformation d'un Etat de droit, où le droit encadre et permet la vie en société et «l'harmonie économique», à un système où le droit ne devient qu'un outil, un «outil de mise en œuvre d'une harmonie fondée sur le calcul économique». Le professeur explique ensuite que ce même renversement est en œuvre dans les systèmes ultralibéraux. «La planification soviétique et l'ultralibéralisme se rejoignent ainsi pour asservir le droit à ses calculs d'utilité.» La loi et le droit deviennent des «purs instruments» ou des «produits». Et comme tous produits, ils sont «soumis à une concurrence mondiale sur le marché des normes» : le produit favorisant le plus le marché est sélectionné. Les lois sont alors privées de leur statut de référentiel, le champ est libre pour les chiffres.

Au niveau juridique, cela passe par les normes et des objectifs, qui deviennent des éléments contrôlant la loi. «On y retrouve intacte la foi de l'harmonie par le calcul», analyse Supiot. Le traité de Maastricht instaure ainsi quatre critères de convergence, comme autant de chiffres autour desquels légiférer au niveau national. Stabilité des prix, situation des finances publiques ou taux d'intérêt à long terme deviennent la base commune de la construction européenne. Et de citer à l'appui l'ex-président de la commission Barroso, réagissant en 2013 à la défaite de Mario Monti aux élections législatives : «La question que nous devons nous poser est la suivante : devons-nous déterminer notre politique, notre politique économique, en fonction de considérations électorales à court terme ou en fonction de ce qui doit être fait pour remettre l'Europe sur la voie d'une croissance soutenable ?»

La place est donc laissée non à un gouvernement - où le pouvoir repose sur une loi qui doit être obéie -, mais à une gouvernance par les nombres - «la capacité commune à tous les êtres humains d'adapter leur comportement aux modifications de leur environnement».

Au niveau de l'Etat, cela se traduit par le New Public Management, où l'on imagine gérer l'Etat comme une entreprise. «C'est le droit de la Sécurité sociale qui a été le premier saisi par ce nouveau mode de gestion, lors de l'instauration en 1996 d'un objectif national des dépenses (Ondam), fixé chaque année par une loi de financement de la Sécurité sociale», détaille Supiot. S'y ajoute, en 2001, la Loi organique relative aux lois de finance (Lolf).

Dans Benchmarking (Zones, 2013), Isabelle Bruno et Emmanuel Didier enquêtent sur «l'Etat sous pression statistique». Ils reviennent sur la Lolf. Les sous-catégories du budget de l'Etat sont divisées en missions, programmes et actions. Ces actions sont composées d'objectifs et d'indicateurs. «Chaque objectif est adossé à des indicateurs chiffrés qui mesurent l'efficacité des actions menées», expliquent-ils. Les ministères doivent s'organiser autour de ces objectifs et des indicateurs associés. L'activité administrative est quantifiée. Mais ces indicateurs, fabriqués à partir de l'activité des agents ou des services, sont parfois éloignés des objectifs. Les dépistages positifs d'alcoolémie, pris en exemple par Bruno et Didier, doivent-ils augmenter, preuve d'une meilleure action des forces de l'ordre, ou baisser, preuve d'une plus grande prise de conscience des conducteurs ? Les indicateurs contiennent une part «d'implicite et de flou». Une analyse que relativisait Jacky Fayolle, administrateur de l'Insee, lors d'un colloque en juin sur l'histoire des statistiques : «L'abus des indicateurs en tout genre dissout certainement le sens de l'action publique, mais ça ne signifie pas que tous les indicateurs soient idiots.» Il met cependant en garde sur la politique du chiffre : «Lorsque ces indicateurs sont utilisés sur un mode fétichiste, déconnectés du système d'information dont ils sont issus, ils appauvrissent l'action publique plus qu'ils ne l'enrichissent, tout en offrant une évaluation facile, mais illusoire, des performances de ces actions».

Par ailleurs, la soumission à des indicateurs pervertit l'action de base. Alain Supiot rappelle que «faire de la satisfaction d'indicateurs l'objectif d'un travail non seulement détourne une partie de ce travail d'une action productive, mais le déconnecte des réalités du monde, auxquelles est substituée une image chiffrée construite dogmatiquement». La gouvernance par les nombres repose sur «une représentation chiffrée du monde, déconnectée de l'expérience», poursuit-il. Et cette domination ne se limite pas qu'aux Etats. «La dépossession de soi à laquelle conduit la gouvernance par les nombres concerne aussi bien les peuples que les individus ou les entreprises.»

Dans ses leçons, le professeur en droit cite Cybernétique et Société,écrit par Norbert Wiener, un mathématicien, père de la cybernétique. Il y évoque comment on pourrait assimiler les hommes et les ordinateurs. L'homme et plus souvent la société peuvent être vus comme des ordinateurs qui «rassemblent» l'information, la «transforment» et l'«utilisent en vue des stades ultérieurs du fonctionnement». Pas surprenant que ces recherches aient inspiré le concepteur de Cybersyn, la machine à gouverner fantasmée par Allende. A l'époque, il manquait les appareils pour collecter ces données en temps réel et la puissance informatique pour effectuer les calculs. C'est aujourd'hui beaucoup plus envisageable…

La prise de décision encouragée par les algorithmes séduit à tous les niveaux. Les décisions ne sont plus seulement «objectivées» par les chiffres, c’est l’ensemble du cheminement qui est «objectivé» par le calcul. Grâce à la numérisation de la société, les sources sont multiples et de moins en moins contrôlées par l’Etat. Les données sont individualisées, recueillies par des entreprises. Les ordinateurs fouillent les données dont on les nourrit à la recherche de corrélations, oubliant les catégories prédéfinies.

«Les catégories émanent "spontanément" du réel numérisé lui-même», analysait en 2014 dans Libé Antoinette Rouvroy, chercheuse au Centre de recherches en information, droit et société de l'université de Namur. Mais tout comme les probabilités de Condorcet oubliaient de prendre en compte les personnes «qui placent certaines valeurs au-dessus de leur propre vie», les algorithmes supportent mal la globalisation. Les cas de faux - positifs existent et peuvent être mortels. Dans Weapons of Math Destruction (Crown, 2016) livre-enquête paru ce mois-ci, Cathy O'Neil, mathématicienne et data-scientist, se penche sur les égarements des algorithmes, «armes de destruction mathématiques». Inspirée par son travail en tant que data-scientist ou «quant» (1), elle les démonte et montre leur limite. «Une formule peut être parfaitement inoffensive en théorie. Mais lorsqu'elle est employée à grande échelle et devient un standard national ou mondial, elle crée sa propre économie déformée et dystopique.» La crise des subprimes, vécue par l'auteure depuis une banque d'affaires, n'est qu'un avant-goût de ces dérives.

Lors d'une réunion organisée par la Maison Blanche le 13 octobre, Barack Obama répond aux entrepreneurs de la Silicon Valley qui espèrent appliquer au gouvernement les méthodes des entreprises technologiques. «La démocratie est par définition désordonnée, rappelle le Président. Si tout ce que je devais faire était de produire un widget, sans m'inquiéter de savoir si les plus pauvres peuvent y accéder, ni me préoccuper d'éventuels dommages collatéraux, alors les recommandations des patrons de la Silicon Valley seraient formidables.» Il met ainsi en garde contre ces systèmes inspirés des algorithmes et des chiffres qui oublient l'aspect humain qu'il y a dans le gouvernement. Jacky Fayolle, l'administrateur de l'Insee, concluait sa présentation en disant que la réponse à apporter à ces défis doit être «juridique, technique et éthique». «Le juriste et le statisticien ont aussi besoin de s'adjoindre le philosophe.»

(1) Experts mathématiciens du système bancaire, spécialisés dans la gestion des risques et l'analyse des données.