Le dilemme du Tramway : achèterez-vous la Tesla égoïste, ou la Tesla altruiste ?

« Une étude a été réalisée en 2015 dans laquelle un scénario hypothétique a été présenté aux participants. Ils étaient dans une voiture autonome qui était sur le point de renverser plusieurs piétons. Pour la plupart des participants, il n’y avait guère de doute. Dans un tel cas, la voiture autonome devait sauver les piétons à tout prix, même si cela devait coûter la vie du propriétaire de la voiture autonome. Mais lorsqu’on leur a demandé s’ils étaient eux-mêmes disposés à acheter une voiture qui sacrifierait le propriétaire pour le plus bien commun (et qui sauverait les piétons dans ce cas), ils ont répondu négativement. Ils étaient plus intéressés par une voiture qui leur sauverait la vie. »

Le dilemme du tramway

Le passage ci-dessus provient du livre « 21 questions pour le 21e siècle » du philosophe-penseur israélien Yuval Noah Harari. Le passage concerne ce que l’on nomme le «dilemme du tramway». La question qui se pose est de savoir comment une voiture de ce type décidera qui doit mourir et qui peut vivre dans une telle situation ?

Les chercheurs pensent que la démocratie peut apporter des solutions. Ils ont développé une base de données dans laquelle 1,3 million de personnes ont dû donner leur avis sur 13 possibilités dans des scénarios d’accidents potentiellement mortels. Ils écrivent:

« Grâce à l’intelligence artificielle, un système a maintenant été mis au point. Chaque fois qu’un « dilemme du tramway » survient, l’ordinateur choisit immédiatement la réponse la plus courante donnée par 1,3 million de personnes. Le système sera bien sûr enrichi de nouvelles questions et de réponses supplémentaires. »

Selon les chercheurs, le système n’est pas encore prêt, mais c’est un concept qui combine intelligence artificielle et démocratie de manière éthique.

Tesla Egoïste ou Tesla Altruiste ?

Mais est-ce vraiment le cas ? Car il n’existe pas encore de solution définitive à ce problème. Tesla produira-t-il deux modèles de voitures autonomes ? La Tesla égoïste, qui mettra la vie de son propriétaire au-dessus de celle des les autres, quel qu’en soit le prix. Et la Tesla altruiste, qui sacrifiera son propriétaire pour, par exemple, sauver la vie de 2 enfants traversant la rue ? Les clients pourront ensuite acheter la voiture qui correspond à leurs convictions philosophiques. Si les routes sont encombrées de modèles égoïstes, ce ne sera pas la faute de Tesla ou d’Elon Musk.

Après tout, le fait que le client ait toujours raison n’est rien d’autre qu’un dicton commercial, inventé par Harry Gordon Selfridge, du grand magasin britannique éponyme.

Un choix déchirant

Mais devrez-vous cocher une case dans le menu « Paramètres » lors de l’achat de votre Tesla ? Choisir entre ‘Sauver les autres en cas de danger mortel’ ou ‘Sauver sa propre famille et tuer les autres’ ? Un choix déchirant….

Peut-être le gouvernement devrait-il intervenir ici et établir un code d’éthique pour tous les véhicules autonomes, se demande Harari. Certains politiciens encourageront une telle intervention du gouvernement, alors que sa nature implicite et totalitaire en dissuadera d’autres.

Mais devons-nous vraiment compter sur l’opinion des politiciens et des avocats pour répondre à ce type de questions ? Dans ce contexte, Harari attire l’attention sur les lois contre l’homosexualité et le blasphème, qui heureusement n’ont pu être appliquées que partiellement et appartiennent désormais au passé. Ces lois ne faisaient que corroborer les préjugés, les erreurs et les excès de politiciens qui, comme tout le monde, commettent des erreurs.