Menu
Libération
TRIBUNE

Bienvenue dans le «World Wide Orwell»

Article réservé aux abonnés
Les algorithmes et ceux qui les conçoivent ouvrent un éventail de possibles aussi prometteurs qu’angoissants et, pour certains, incontrôlables.
(Photo CC BY HackNY et @matylda (Flickr))
publié le 12 mai 2014 à 12h56

Suite à un imprévu, votre voiture sans chauffeur pilotée par un algorithme a le choix entre se jeter du haut d'une falaise et entraîner la mort de ses occupants, ou percuter ce bus scolaire transportant 50 enfants, l'envoyant au bas de la même falaise. Quel choix fera-t-elle ? Serais-je au courant, en y embarquant le matin, de l'existence de ce choix ? Aurais-je la possibilité de le désactiver ? Ce problème, et l'ensemble de ses variantes, est connu sous le nom du «dilemme du tramway». Il renvoie à l'histoire de ce vieux fantasme de l'intelligence artificielle, des robots en guerre contre l'humanité, des sociétés dystopiques, une histoire que la science-fiction a déjà parfaitement documenté. Qui est aujourd'hui notre histoire.

Les réponses avant les questions

Aujourd'hui, les algorithmes définissent le cours des bourses mondiales. Aujourd'hui, les continents les plus peuplés sont aux mains de quelques holdings numériques qui ont pour nom Facebook ou Google et scannent et documentent en permanence chaque partie de nos vies, qui nous fournissent des réponses avant que nous n'ayons formulé de question. Qui nous livrent de l'information toujours plus contextuelle, toujours plus «sur-mesure» au risque de nous conforter dans nos propres certitudes, choisissant à notre place ce qui vaut d'être lu, ce qui vaut d'être compris, ce qui vaut d'être su.

Aujourd'hui, ordinateurs