Suite à un imprévu, votre voiture sans chauffeur pilotée par un algorithme a le choix entre se jeter du haut d'une falaise et entraîner la mort de ses occupants, ou percuter ce bus scolaire transportant 50 enfants, l'envoyant au bas de la même falaise. Quel choix fera-t-elle ? Serais-je au courant, en y embarquant le matin, de l'existence de ce choix ? Aurais-je la possibilité de le désactiver ? Ce problème, et l'ensemble de ses variantes, est connu sous le nom du «dilemme du tramway». Il renvoie à l'histoire de ce vieux fantasme de l'intelligence artificielle, des robots en guerre contre l'humanité, des sociétés dystopiques, une histoire que la science-fiction a déjà parfaitement documenté. Qui est aujourd'hui notre histoire.
Les réponses avant les questions
Aujourd'hui, les algorithmes définissent le cours des bourses mondiales. Aujourd'hui, les continents les plus peuplés sont aux mains de quelques holdings numériques qui ont pour nom Facebook ou Google et scannent et documentent en permanence chaque partie de nos vies, qui nous fournissent des réponses avant que nous n'ayons formulé de question. Qui nous livrent de l'information toujours plus contextuelle, toujours plus «sur-mesure» au risque de nous conforter dans nos propres certitudes, choisissant à notre place ce qui vaut d'être lu, ce qui vaut d'être compris, ce qui vaut d'être su.
Aujourd'hui, ordinateurs