Au-delà du défi technologique qu'ils représentent, ‘Voitures autonomes’ nous confronte à une question morale sans précédent. Car l'autonomie, au sens le plus fort, n'appartient qu'à l'être humain, capable de fixer ses propres règles d'action. Une machine, aussi sophistiquée soit-elle, ne fait qu'exécuter ce qui a été codé en elle. La question de la responsabilité illusoire des véhicules autonomes est donc finalement une question de choix éthiques et culturels que nous, citoyens, acceptons de déléguer aux ingénieurs qui les conçoivent.
Proposée à l'origine par la philosophe Philippa Foot en 1967, l'idée de la ‘Le dilemme du tramway’ est une bonne illustration du problème. Cette expérience de pensée consiste à décider si, face à une situation critique sur la route, vous devez sacrifier une personne pour en sauver cinq, une personne âgée pour sauver un enfant, des passagers pour sauver des piétons. Les chercheurs qui se sont penchés sur ces dilemmes - comme ceux du MIT avec leur ‘La machine morale’ enquête[1] - montrer que nos préférences morales ne sont pas universelles : elles varient en fonction de la culture, de la tradition et de la vision personnelle du monde. En réalité, aucune solution ne peut être programmée ‘objectivement’.
On pourrait dire que, face au choix entre un enfant et un vieillard, il va de soi que l'enfant doit être sauvé. Et si cet enfant était destiné à devenir un tyran ? Une fausse publicité, conçue par des étudiants allemands, met en scène une Mercedes qui évite tous les obstacles... sauf un : un jeune garçon, qui se révèle bientôt être Adolf Hitler. Le slogan final - ‘Détecter les dangers avant qu'ils ne surviennent’ - remet en question de manière provocante la prétention de la technologie à être le juge du bien et du mal. Cette volonté de coder à l'avance ce qui relève du jugement humain incarne un fantasme de ‘contrôle total’, qui menace précisément ce qui fait notre humanité : notre capacité à décider librement.
Il s'agit de la thèse soutenue par Matthew B. Crawford, philosophe et mécanicien, dans son dernier essai Pourquoi nous conduisons : Vers une philosophie de la route ouverte. Conduire n'est pas une corvée dont il faut se libérer, affirme-t-il, mais une expérience fondamentale de liberté. Prendre le volant, c'est exercer ses compétences, coordonner ses sens, improviser face à l'imprévu et prendre des responsabilités parmi d'autres. C'est ainsi que, la conduite constitue une véritable ‘extension cognitive’Elle nous met en mouvement, dans tous les sens du terme, et contribue à notre épanouissement individuel et collectif. Faire de nous de simples passagers, c'est risquer l'atrophie de nos capacités humaines.
La voiture autonome illustre ainsi le risque d'une société obsédée par la sécurité et le contrôle, prêt à sacrifier l'autonomie humaine au profit de l'efficacité algorithmique. Parce qu'il est basé sur la ‘Présomption de compétence’ (la confiance que nous accordons aux autres pour savoir comment agir et coopérer), la démocratie elle-même est menacée, selon Crawford. Si nous déléguons notre pouvoir de décision à des machines, nous sapons les fondements de nos sociétés libres. La question n'est plus de savoir si les voitures seront capables de se conduire elles-mêmes, mais si nous voudrons encore nous conduire nous-mêmes.
[1] ‘Moral Machine’ est un test en ligne dans lequel une voiture sans conducteur doit choisir le moindre des deux maux et comparer ses réponses avec celles des autres utilisateurs : https://www.moralmachine.net/hl/fr
Sophie Chassat, associée, Accuracy
Accuracy Talks Straight #14 - Le coin culturel