voiture autonome et dilemme du tramway

[Inso]

Bonjour,

Cet article intitulé "Voiture autonome: conduiriez-vous un véhicule prêt à vous sacrifier? " soulève le problème de l'éthique (?) des voitures autonomes au travers du dilemme du tramway.
A sa lecture, je me suis posé plusieurs questions:
- En quoi faut-il mettre de l'éthique dans les voitures autonomes ? Je veux dire, il existe une codification très précise des règles de la circulation. Si elles sont respectées, le nombre d'accident devrait déjà baisser très fortement*.
- Si on veut rajouter de l'éthique, quelle éthique ? (qui va-ton favoriser ?)
- La généralisation des voitures autonomes a toutes les chances de réduire d'une façon considérable le nombre de mort sur la route. Mais on commence déjà à chipoter ? On risque (encore) de mobiliser l'opinion sur une peur pour bloquer un progrès plutôt prometteur.
- Comment une voiture autonome pourra-t-elle gérer ce dilemme du tramway ? comment va-t-elle définir qui est médecin/gros/transplantable (suivant les variantes du dilemme) ?

En recherchant un peu sur le sujet, je suis tombé sur cet article ou celui-ci de Brad Templeton qui me paraissent intéressant.

Alors, dilemme du tramway : à coté de la plaque ou pas ? Cela va-t-il influencer l'utilisateur d'une telle voiture ? **

* Les facteurs humains : alcoolisme/drogues - excès de vitesse - téléphone - fatigue ... sont impliqués dans 90% des accidents de la route.
** J'imagine déjà la pub : "notre voiture ne vous tuera pas"

Inso

[Nicolas78]

- La généralisation des voitures autonomes a toutes les chances de réduire d'une façon considérable le nombre de mort sur la route. Mais on commence déjà à chipoter ? On risque (encore) de mobiliser l'opinion sur une peur pour bloquer un progrès plutôt prometteur.

Moi ce que j'aime aussi dans la voiture, c'est la conduite.
Quand on pourra plus conduire, parce-que nos societés privilégient la sécurité à la liberté, alors je prendrait le train (même si ça me fait chier)

Oui ça ne répond à la question

conduiriez-vous un véhicule prêt à vous sacrifier?

Si elle est fiable, oui. Mais conduire un véhicule prêt à vous sacrifier est un peut un oxymore.
Mais j'imagine qu'en cas d'accident probable elle prend le contrôle.
Ça pourrait être un bon compromis entre liberté et sécurité. Mais dans ce cas, il me faudrait approfondir logement les logiciels de prise de décisions et la technologie dispo sur le véhicule avant d'acheter.
Et aussi, dans ce cas, même un ordi sur-puissant et ultra-rapide avec une camera à 360° ne pourra éviter un comportement humain dangereux "post-prise de contrôle automatique".
Est-ce vraiment mieux qu'un humain dans l'analyse de l'environement et des possibles ?

Edit :
Dans l’article du premier lien on y lis :

Comme prévu, les réponses illustrent à la fois l'irrationalité des êtres humains, leurs paradoxes voire même leur égoïsme. Et plus simplement leur instinct de survie.

Ça reste à voir, je pense qu'une intention d'achat ne reflète pas la réalité.
Il y à des tas de vidéo en ligne qui montrent que pas mal de personnes choisissent les poteaux, les arbres, les fossés, au lieu d’écraser même un animal...
J'imagine que bcp d'autre écrasent l’animal. Et ne postent pas leurs vidéos...
Ça reste à voir. J'ai pas de stats pour ça.
Ceci-dit, ce sont des situations qui laissent le temps de faire une manœuvre.
Pour les situations plus rapides, "l'instinct" (le réflexe) fait une action. La quelle ? J'en sais rien. Ça doit dépendre du niveau de vigilance de l'environement avant le probleme puis le réflexe ?
Dans c'est cas la un robot est bien oui. Mais tout robot soit t'il, il ne pourra pas freiner une voiture plus vite que ce que ses freins et pneus sont capables de faire...

[Inso]

Moi ce que j'aime aussi dans la voiture, c'est la conduite.
Quand on pourra plus conduire, parce-que nos societés privilégient la sécurité à la liberté, alors je prendrait le train (même si ça me fait chier)

Oui ça ne répond à la question

Non, mais on peut imaginer qu'il ne restera plus que des circuits pour pouvoir piloter (bon, d'ici à ce que ça vienne, il y a encore un moment... quoique).

Et aussi, dans ce cas, même un ordi sur-puissant et ultra-rapide avec une camera à 360° ne pourra éviter un comportement humain dangereux "post-prise de contrôle automatique".

Bien d'accord, c'est pour ça que je pense que dès que ce sera au point, on passera le plus vite possible au tout automatique.

Dans c'est cas la un robot est bien oui. Mais tout robot soit t'il, il ne pourra pas freiner une voiture plus vite que ce que ses freins et pneus sont capables de faire...

C'est vrai.
Déjà, le robot respectera les distances de sécurité et les limites de vitesse, ça va fortement limiter les problèmes (qui roule vraiment à 30 km/h quand c'est indiqué ?)

Inso

[Greem]

Le problème avec ce genre de dilemme, c'est qu'ils ne reflètent que très approximativement les enjeux de la réalité. Non pas parce que les exemples sont fictifs, mais parce qu'ils limitent l'éthique a un simple problème quantitatif, sans prendre en compte les autres aspects qui peuvent entrer en ligne de compte. Par exemple, pour reprendre l'exemple du dilemme du tramway, s'il est effectivement préférable d'un point de vu quantitatif de sacrifier une personne plutôt que trois, quitte à pousser une personne en haut d'un pont pour bloquer le train, dans la réalité, au sein de notre société, d'autres questions se posent, comme, par exemple, la responsabilité des individus et les conséquences qu'il y aurait à permettre le sacrifice des uns pour en sauver un plus grand nombre. Je doute, par exemple, qu'allé sacrifier une minorité de personnes pour leur soutirer leurs organes vitaux et les greffer sur un grand nombre de personnes malades permettent d'optimiser le bien être général, même si au final, on sauve plus de vie. On vivrait dans la peur systématique de se voir "sélectionner" et la frustration d'être considérer comme un simple objet.

Donc, à partir du moment où la voiture n'est pas capable de raisonner autrement que d'un point de vu quantitatif, non, je refuse de mettre ma vie entre ses mains (ou ses roues), d'autant que c'est un coup à ce qu'elle m'enferme au fond d'une cave sans me laisser sortir au prétexte que dehors, c'est dangereux. Vous saisissez l'idée ?

Ceci dit, je suis d'accord que le problème est purement théorique et qu'on aurait tort d'inquiéter les gens avec ça.

[Invité]

- Si on veut rajouter de l'éthique, quelle éthique ? (qui va-ton favoriser ?)

Je dirais une "éthique de base" plus un soupçon d'aléatoire pour discriminer les "cas limites".

Ce serait pas tellement différent du fonctionnement éthique humain dans les mêmes circonstances.

I.

[Nicolas78]

Le problème avec ce genre de dilemme, c'est qu'ils ne reflètent que très approximativement les enjeux de la réalité. Non pas parce que les exemples sont fictifs, mais parce qu'ils limitent l'éthique a un simple problème quantitatif, sans prendre en compte les autres aspects qui peuvent entrer en ligne de compte. Par exemple, pour reprendre l'exemple du dilemme du tramway, s'il est effectivement préférable d'un point de vu quantitatif de sacrifier une personne plutôt que trois, quitte à pousser une personne en haut d'un pont pour bloquer le train, dans la réalité, au sein de notre société, d'autres questions se posent, comme, par exemple, la responsabilité des individus et les conséquences qu'il y aurait à permettre le sacrifice des uns pour en sauver un plus grand nombre.

+1 Greem,

Tes remarques me paraissent pertinentes, et du moins elles sont très interessantes.

Déjà, le robot respectera les distances de sécurité et les limites de vitesse, ça va fortement limiter les problèmes (qui roule vraiment à 30 km/h quand c'est indiqué ?)

C'est vrai, ça enlève le problème du freinage. Mais c'est à condition que la personne dedans ne prennent pas le contrôle.
Et pour X ou Y raison, un véhicule devra toujours pouvoir être contrôlé à n'importe quel moment, il y à tout un tas de chose qui ne peuvent pas être interprétées par le véhicules et qui sont potentiellement des situations dangereuses ou simplement chiantes.

Quoi qu'il en sois, des technologies de contrôle de respect des distances de sécurités, voir d’évitement, et pourquoi pas des alarmes stridentes et chiantes en cas de dépassement de vitesse (parfois pour des raisons de sécurité on est obligé d'aller plafonner le compteur), ça pourrait effectivement être très positif.

[Denis]

Salut Invité,

Tu dis :

Ce serait pas tellement différent du fonctionnement éthique humain dans les mêmes circonstances.

C'est aussi ce que je pense.

En tout cas, si j'étais forcé de choisir entre

• a) Provoquer la mort d'une personne
  b) Provoquer la mort de 5 personnes
  
  (avec ½ seconde pour choisir)

... je choisirais probablement (a).

Denis

[switch]

Oui mais en réalité, c'est assez rare qu'on choisisse sa propre mort au détriment de la mort de 5 personnes, même si ce sont des enfants lorsqu'on a moins d'une seconde pour le faire. Il semble d'ailleurs que la prise de décision chez l'homme est prise inconsciemment et bien avant la décision "logique".

Aujourd'hui en cas de problème les IA se contente simplement d'immobiliser le véhicule. J'imagine déjà les procès si votre voiture devait vous envoyer dans un mur à chaque fois qu'un enfant traverse la route.

[MaisBienSur]

Bon, moi, perso, je suis pour.
Monter dans ma voiture et n'avoir rien à faire, juste fermer les yeux en attendant d'être arrivé au taf, ça me va bien moi.
Je fais 100 km aller/retour par jour, debout à 5h30, ça m'irait de ne pas avoir à m'occuper de la conduite.

De toute façon, les avis négatifs sont comme le portable, où au début, personne ne se voyait téléphoner en pleine rue ou être joignable à tous moments. Et aujourd'hui, la plus grande majorité se l'ait fait greffer à la main !

On apprendra a appréhender cette nouveauté comme chaque nouveau progrès

[Lambert85]

Il est un fait que sur autoroute sur de longues distances, ça serait bien pratique. J'ai déjà le cruise control qui me permet de laisser les jambes se reposer, pourquoi pas une direction contrôlée.

[MaisBienSur]

Moi, ça, ça me convient très bien (si on me l'offre )

Le constructeur britannique Rolls-Royce, filiale du groupe allemand BMW, vient de présenter son premier véhicule automoteur. Selon Torsten Müller-Ötvös, directeur général de Rolls-Royce, cette voiture donne un avant-goût du futur de la voiture de luxe.
Sans volant, avec une seule porte et un assistant virtuel multitâche, le véhicule marque un tournant pour la prestigieuse marque. Plusieurs fabricants de voitures ont déjà dévoilé leurs modèles autonomes, mais Rolls-Royce considère que ses clients, qui peuvent payer jusqu’à £1 million pour un véhicule, désireront une expérience de voyage luxueuse.

[Nicolas78]

Je fais 100 km aller/retour par jour, debout à 5h30, ça m'irait de ne pas avoir à m'occuper de la conduite.

Ha pas mal !
Tu fait quoi sans indiscrétion ?

De toute façon, les avis négatifs sont comme le portable, où au début, personne ne se voyait téléphoner en pleine rue ou être joignable à tous moments.

Je suis un geek, fan de technologie et d'informatique.
Mais sincèrement, le téléphone portable me fait parfois chier.
Non pas d'en avoir un, c'est super pratique !
Mais le fait que finalement, si on ne répond pas a la fin d'un appel cela est vue comme anormal...on doit être disponible.
Ça me gave profondément.
Oui on doit être disponible, oui (principe de la vie en société lol), mais au moindre coup de fil, non...ça me soûle

[MaisBienSur]

Je fais 100 km aller/retour par jour, debout à 5h30, ça m'irait de ne pas avoir à m'occuper de la conduite.

Ha pas mal !
Tu fait quoi sans indiscrétion ?

« Il n’y a pas de questions indiscrètes : seules les réponses le sont » (Winston Churchill)

Je travaille dans une verrerie industrielle d'un grand groupe américain. On fait surtout des bouteilles (vides !) pour la bière (principal client Kronenbourg).
Je suis technicien en process verrier, orienté principalement sur l'amélioration technique et l'optimisation des machines et du conditionnement du verre. C'est sympa comme boulot, ça mélange mécanique, informatique, fluide, etc... Et environ 50/50 entre le travail de bureau et les ateliers de fabrications.

[Nicolas78]

C'est bien ça quand tes pas non-stop au bureau Mais d'en avoir un quand même, ça donne un peut de rythme

Mais alors les ateliers de fabrications sont super loin de tes bureaux, ça ouai c'est bcp plus chiant
Je comprend mieux pourquoi une voiture autonome serait un sacré +

[Invité]

Premier accident mortel avec une voiture autonome Tesla.

http://www.wsj.com/articles/tesla-draws ... 1467319355

Si l'article ci-haut n'est pas accessible:

http://www.kurzweilai.net/first-self-dr ... icle-death
I.

[Lulu Cypher]

Mais sincèrement, le téléphone portable me fait parfois chier.

Les gens oublient souvent que le cellulaire permet notamment la liberté de ne pas répondre ... si tu lis la notice tu trouveras même un bouton On/Off ... la liberté totale

[Inso]

Merci de l'info Invité,

Ce qui me surprend, c'est que la voiture n'avait pas vu le camion (ceci dit, je ne sais pas quels sont les capteurs sur une Tesla).
Sur cet article d'un blog du monde, Tesla explique que c'est le 1er accident mortel sur 209 millions de km parcouru, sachant qu'aux USA, il y a un mort tous les 152 millions de km.
Pas grande différence. Bon, nous ne sommes qu'au début et au moins ça semble être en amélioration.

[Lambert85]

Il est évident que le conducteur doit garder une certaine vigilance.

[Inso]

En fait, la Tesla S n'est pas une voiture autonome, il s'agit d'un mode autopilote avec des fonctions limitées et un nombre de capteurs réduits par rapport à une google car.

[Invité]

Merci de l'info Invité,

Ce qui me surprend, c'est que la voiture n'avait pas vu le camion (ceci dit, je ne sais pas quels sont les capteurs sur une Tesla).
Sur cet article d'un blog du monde, Tesla explique que c'est le 1er accident mortel sur 209 millions de km parcouru, sachant qu'aux USA, il y a un mort tous les 152 millions de km.
Pas grande différence. Bon, nous ne sommes qu'au début et au moins ça semble être en amélioration.

On a plus de détails,

Il est possible que le conducteur regardait un film plutôt que de garder les yeux sur la route.

A digital video disc player was found in the Tesla car that was on autopilot when its driver was killed in a collision with a truck in May, Florida Highway Patrol officials said on Friday. "There was a portable DVD player in the vehicle," said Sergeant Kim Montes of the FHP in a telephone interview. She said there was no camera found, mounted on the dash or of any kind, in the wreckage. A lawyer for a truck driver involved in the accident with the Tesla told Reuters his investigators had spoken to a witness who said the DVD player was playing a "Harry Potter" video after the accident, but the lawyer was unable to verify that beyond the witness account. Lawyers for the family of the victim, 40-year-old Joshua Brown, released a statement Friday saying the family is cooperating with the investigations "and hopes that information learned from this tragedy will trigger further innovation which enhances the safety of everyone on the roadways." Lawyers for the family of the victim, 40-year-old Joshua Brown, released a statement Friday saying the family is cooperating with the investigations "and hopes that information learned from this tragedy will trigger further innovation which enhances the safety of everyone on the roadways." Tesla said in a statement Friday, "Autopilot is by far the most advanced driver assistance system on the road, but it does not turn a Tesla into an autonomous vehicle and does not allow the driver to abdicate responsibility."

Aussi:

Tesla driver killed while using autopilot was watching Harry Potter, witness says

https://www.theguardian.com/technology/ ... rry-potter

I.

[Dash]

Je trouve les dilemmes éthiques concernant ce sujet peu pertinent et, surtout, ne reflétant pas la réalité. Sur certains sites destinés à recueillir les choix du public (en choisissant une image parmi d'autres), ces derniers choix sont presque tous constitués de piétons (enfants, femmes enceintes, etc.) qui traversent à des passages piétonniers et nous sommes systématiquement placé face à de faux dilemmes : soit certains piétons mourons, soit certains occupants de la voiture.

Dans la réalité, la grande majorité de ces passages pour piétons sont dans des rues où la limite de vitesse est fixée à 40km/h près de ces passages. Si les voitures autonomes sont programmées pour respecter les limites de vitesse (pourquoi faire autrement?) et qu'ils commencent à décélérer (logiquement) avant d'arriver au passage, ben, il me semble, à tous les coups, qu'il est préférable que la voiture fonce dans quelque chose pour éviter les piétons (sans parler du fait qu'à cette vitesse, elles ont largement le temps de freiner, surtout si le programme tient compte, anticipe d'éventuels passages piétonniers à venir). À moins de 40km/h, en pleine décélération, avec les coussins gonflables, les probabilités de mourir dans une voiture me paraissent tout à fait ridicules et le choix s'impose donc de lui-même face à l'alternative de frapper des piétons. Je n'arrive pas à croire ou concevoir que nous ne puissions programmer ces voitures de façon sécuritaire tout en évitant ces faux dilemmes. Et bon, des situations où un piéton sort subitement de nulle part et traverse la route alors qu'il ne le devrait pas (voie rapide), voiture autonome ou non, ça pardonne pas de toute façon.

[unptitgab]

Salut Dash en rapport à ce que tu écrits, il est à espérer que les voitures autonomes respectent scrupuleusement le code de la route et je pense qu'il en est de même au Québec qu'en France un passage piétons est un passage prioritaire pour ceux-ci et même si beaucoup de conducteurs ont tendance à l'oublier doit être autant respecté qu'une priorité à droite ou un cédez le passage.

[Nicolas78]

Mais sincèrement, le téléphone portable me fait parfois chier.

Les gens oublient souvent que le cellulaire permet notamment la liberté de ne pas répondre ... si tu lis la notice tu trouveras même un bouton On/Off ... la liberté totale

Oui mais ya des vrais urgences, le potables est pratique tout de même. C'est sécurisant.
Puis parfois répondre ne me dérange pas, au contraire ça me fait plaisir qu'on m'appel, et je vais pas allumer et éteindre mon téléphone à chaque changement d'humeur

Puis les gens ils te le reprocherons de l’éteindre alors

[unptitgab]

Oui mais ya des vrais urgences, le potables est pratique tout de même. C'est sécurisant.

Mis à part pour les médecins de garde, j'ai du mal à voir où il peut y avoir une situation demandant d'être joignable à tout moment.

Puis parfois répondre ne me dérange pas, au contraire ça me fait plaisir qu'on m'appel, et je vais pas allumer et éteindre mon téléphone à chaque changement d'humeur

Puis les gens ils te le reprocherons de l’éteindre alors

Il suffit de les habituer, mes amis savent que je ne réponds que quand j'en ai envie, ils ne se formalisent donc pas du fait que je ne réponde ou rappel que lorsque je suis réellement disponible.

[Nicolas78]

Mis à part pour les médecins de garde, j'ai du mal à voir où il peut y avoir une situation demandant d'être joignable à tout moment.

Bha si...
Si je me pète une jambe en foret, ou que je trombe dans un trou (en me pétant une jambe), et que je suis perdu, j'aimerai bien avoir un téléphone portable pour demander de l'aide et prévenir des proches aussi.

Il suffit de les habituer, mes amis savent que je ne réponds que quand j'en ai envie, ils ne se formalisent donc pas du fait que je ne réponde ou rappel que lorsque je suis réellement disponible.

Mais c'est ce que je fait
Certains le prennent mieux que d'autre voila tout.
Et je leur en veux pas vraiment hein.