Le 3 août, le Conseil des ministres a donné son feu vert pour autoriser la circulation de véhicules autonomes en France, à titre d’expérimentation. Un décret devra construire un cadre réglementaire pour les voitures sans conducteur ou disposant de systèmes d’aide à la conduite. Ce qui n’est pas une mince affaire. L’administration américaine doit encore dévoiler les prémisses de sa régulation des voitures autonomes, censées réduire le nombre d’accidents de la route. Les statistiques sont encourageantes, même si une enquête a imputé pour la première fois la responsabilité d’un accident mortel au mode automatique d’une voiture Tesla en Floride. En France comme aux Etats-Unis, l’attention du public se concentre sur la question de la programmation des voitures en situation critique, et notamment lorsqu’une mort est inévitable. Faut-il imposer un programme utilitariste, qui choisit froidement l’attitude qui sauvera le plus de vies possibles, au détriment peut-être de la survie du passager ?
«Les voitures autonomes doivent être programmées pour sauver le plus grand nombre. Sauf ma voiture.» C'est l'opinion majoritairement rencontrée par Jean-François Bonnefon (photo DR), docteur en psychologie cognitive à la Toulouse School of Economics, dans une étude publiée dans Science, le 24 juin. Avec Azim Shariff et Iyad Rahwan, chercheurs à l'Université de Californie et au MIT (Massachusetts Institut of technology), il a interrogé plus de 1 900 personnes entre juin et novembre 2015 aux Etats-Unis. Dilemme éthique : la voiture doit-elle tuer dix piétons ou son passager ? Un piéton ou son passager ? Si le gouvernement n'autorisait que les voitures utilitaristes, programmées pour minimiser le nombre de victimes, l'achèteriez-vous ? Jean-François Bonnefon appelle à observer de près son tableau des préférences : malgré ses allures d'impasse, le «dilemme des voitures autonomes» pourrait être l'occasion de découvrir que nous sommes plus utilitaristes que nous le pensons.
Dans votre étude, la programmation de la voiture autonome est présentée à la fois comme source de consensus et de dilemme. Pourquoi ?
Nous découvrons dans notre étude qu’il y a un consensus moral sur la façon dont il faudrait programmer les voitures autonomes. Les personnes interrogées optent largement pour une voiture dite utilitariste, qui réagit de manière à sauver le plus grand nombre de personnes possible en cas d’urgence. Et ce, même si ce choix implique de sacrifier les passagers de la voiture, donc de s’autodétruire. Mais nous constatons aussi que la majorité déclare ne pas avoir l’intention d’acheter une voiture utilitariste, aussi juste qu’elle soit. Il y a là un vrai dilemme éthique et social : même s’il y a consensus sur le plan moral, chaque individu a intérêt à ne pas le suivre, en préférant rouler dans une voiture qui protège coûte que coûte ses passagers.
S’agit-il d’un classique conflit entre intérêt personnel et intérêt collectif ?
La subtilité, c’est que l’intérêt individuel serait mieux servi si tout le monde allait dans le sens de l’intérêt collectif : si chacun circulait dans une voiture utilitariste, la probabilité d’être victime serait moindre pour chacun. C’est le même mécanisme qu’avec la vaccination. Si tout le monde est vacciné contre une maladie sauf moi, j’ai très peu de chances de l’attraper. Mais si je m’imagine qu’il y a un risque à être vacciné, je peux avoir les bénéfices d’être protégé contre une maladie quand même, grâce à l’action des autres.
La différence ici vient davantage de l’objet qu’est la voiture autonome. On interagit tous les jours avec des objets dangereux, mais quand il nous arrive quelque chose, c’est parce qu’il y a eu erreur ou mauvaise utilisation. Or, avec la voiture autonome, pour la première fois, un objet que nous pourrions acheter, tout en le sachant programmé pour tuer dans certaines circonstances, est au centre du dilemme.
Le débat sur la programmation des voitures autonomes rappelle le dilemme du tramway, introduit par le philosophe anglais Philippa Foot en 1967. Mais certains lui ont répondu que cette expérience de pensée était si peu réaliste qu’elle ne prouvait rien.
Dans le dilemme du tramway, le conducteur du véhicule hors de contrôle a le choix entre deux voies, l’une occupée par cinq personnes, l’autre par une seule personne. En imaginant cette situation, beaucoup optent pour la solution du moindre mal. Sans savoir ce qu’eux-mêmes feraient en situation réelle. En tant que conducteur, on n’a jamais le temps et la lucidité de prendre une décision morale lorsque l’accident survient. On a beau réfléchir à ce que l’on ferait ou ce que l’on aimerait être capable de faire, on ne peut pas se programmer soi-même pour en avoir la garantie.
Avec la voiture autonome, il n’est plus question d’une expérience de pensée mais d’un engagement personnel : la voiture que j’achète est programmée pour assurer cette décision.
Une régulation qui imposerait la voiture faisant le moins de morts possible serait-elle contre-productive, en dissuadant les potentiels acheteurs de cette technologie ?
Le dilemme de la voiture autonome nous amène à une situation paradoxale : même s’il y a consensus sur la voiture utilitariste, la régulation en faveur de ce type de programmation diviserait les intentions d’achat par trois. En voulant sauver le plus grand nombre, la régulation ne ferait que freiner l’adoption d’une technologie qui a justement pour fonction de diminuer le nombre d’accidents. L’alternative où la voiture autonome doit soit tuer soit s’autodétruire marque les esprits au point d’influer sur les intentions d’achat, alors qu’elle est statistiquement très marginale. Mais il ne faut pas oublier que le problème étant nouveau, les réactions sont neuves. Elles vont probablement évoluer au fur et à mesure que le débat entrera dans la sphère publique.
Pourquoi les préférences en viendraient-elles à changer ?
Le consensus moral sur la voiture utilitariste est en lui-même un fait surprenant. En réalisant cette étude, nous-mêmes ne nous attendions pas à ce que les résultats soient aussi uniformes, y compris dans des situations où l’on demande aux gens d’imaginer par exemple que leur enfant se trouve dans la voiture. Et on peut croire à la sincérité des réponses, puisque dans le même temps les participants déclarent qu’ils n’achèteraient pas cette voiture. On peut penser que si les intentions d’achat sont si faibles, c’est parce que le public est incertain quant aux bénéfices des voitures autonomes en matière de sécurité. Mais on peut aussi se demander si cette méfiance ne vient pas du fait qu’on ignore que les autres préfèrent eux aussi la voiture utilitariste.
Si les chiffres continuent de s’accumuler et si la connaissance de cet instantané des préférences grandit, on peut imaginer que les positions individuelles vont bouger. Ce que je suppose de la préférence d’autrui est une donnée importante du calcul. C’est pourquoi le problème de la régulation des voitures autonomes ouvre un débat bien plus large sur l’utilitarisme de nos concitoyens. Il y a peut-être une nouvelle norme sociale en bourgeon.