Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les Mercedes-Benz autonomes seront-elles programmées pour sacrifier la vie des piétons afin de sauver les occupants du véhicule ?
C'est une solution qu'a formulée un responsable de l'entreprise

Le , par Patrick Ruiz

38PARTAGES

15  0 
Avec le développement rapide de l'intelligence artificielle (IA) des inquiétudes sur l'éthique des décisions que devront prendre les dispositifs intelligents font surface. En ce qui concerne les voitures autonomes par exemple, l'une des applications les plus importantes de l'IA, une question cruciale est : si une voiture autonome devait faire un accident inévitable, qui faudrait-il sacrifier en priorité ?

C'est le fameux dilemme du tramway dont la version originale peut se formuler comme suit : imaginons le conducteur d'un tramway hors de contrôle qui se doit de choisir sa course entre deux voies possibles : cinq hommes travaillent sur la première voie et un homme est situé sur l'autre. La voie prise par le tramway entraînera automatiquement la mort des personnes qui s'y trouvent. Que faut-il faire alors ? Prendre la deuxième voie afin de sacrifier une seule vie pour en sauver cinq ? Dans le cas de la dernière option le choix est-il moral ?

Dans un entretien accordé à des médias présents lors du Paris Auto Show de 2016, Christoph von Hugo – responsable sécurité automobile chez Mercedes – formule une solution à ce dilemme : « Si vous savez que vous pouvez sauver au moins une personne, sauvez au moins celle-là ; sauvez celle qui est à l'intérieur du véhicule. Si tout ce dont vous êtes sûr c'est qu'un décès peut être évité, alors c'est votre première priorité. » En d’autres termes, les véhicules autonomes doivent être programmés pour sauvegarder la vie des occupants du véhicule, ce, quelles que soient les circonstances.

Le positionnement de Christoph Von Hugo reste d'actualité puisque les développements relatifs aux véhicules entièrement autonomes et sans conducteurs sont en cours au sein de l’entreprise allemande. En effet, dans le cadre d’un partenariat avec Bosch, Mercedes entend lancer ses premiers robots-taxis sans conducteurs au début de l’année qui pointe à l’horizon. Pour ce qui est de savoir si les Mercedes Benz autonomes (niveaux 4 et 5) seront programmées pour sauvegarder la vie de leurs occupants en toutes circonstances, il convient peut-être d’attendre pour voir ce que 2020 nous réserve si l’entreprise reste cohérente avec son planning.


En fait, le problème mobilise les réflexions de plusieurs équipes de recherche de par le monde. Le MIT Media Lab s’y est penché pour dégager neuf axes majeurs de réflexion : la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie, les passagers au lieu des piétons, les femmes au lieu des hommes, les jeunes plutôt que les vieux, les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur, les personnes respectant la loi plutôt que les criminels, les personnes mal portantes au lieu de celles en bonne santé ? La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible ? Ces questionnements font l’objet d’une expérience dénommée Moral Machine. Le MIT Media Lab l’a montée dans le but de recueillir les avis du public sur la question de savoir ce qu'il faut sacrifier ou épargner en priorité si une voiture autonome devait faire un crash inévitable.

Quatre ans après la mise en ligne de la plateforme, les millions d’avis recueillis en font l’une des plus grandes études réalisées sur les préférences morales mondiales et ce qu’il faut dire c’est que les divergences sont notables. Grosso modo, il ressort de l’étude que les gens sont d’accord pour épargner les humains plutôt que les animaux ou encore préserver la vie des enfants en priorité plutôt que celle des adultes. L’étude révèle également que les gens estiment aussi qu'il faut privilégier le scénario le moins coûteux en nombre de vies.

Sur la question de savoir s’il faut épargner les piétons plutôt que les passagers la réponse varie en fonction des pays. Le Japon s'est classé comme étant le premier pays où les répondants préfèrent que la vie des piétons soit épargnée au détriment de la vie des passagers. À l'opposé du Japon, on retrouve la Chine où les répondants ont clairement fait savoir qu'ils préfèrent plutôt qu'on épargne la vie des passagers et donc qu'on risque la vie des piétons si nécessaire. Par rapport à la moyenne mondiale, la France penche du côté de ceux qui veulent qu'on épargne la vie des passagers plutôt que la vie des piétons.

Un score proche de 1 dénote de ce que les répondants estiment qu’il faut épargner davantage de vies


Ces questionnements et les études qui en découlent des implications intéressantes pour les pays au sein desquels les tests de voitures autonomes ont lieu, car ces préférences pourraient jouer un rôle dans la conception et la réglementation de ces véhicules. En outre, ces contenus sont susceptibles d’orienter les constructeurs quant à ce qui concerne les choix commerciaux à effectuer compte tenu des tendances des potentiels consommateurs. Enfin, ces divers questionnements ont une pertinence qui porte sur une problématique qui prendra toute sa force dans une dizaine, voire une vingtaine d’années. En effet, les développements liés aux voitures autonomes se poursuivent et les prouesses technologiques demeurent nombreuses à réaliser, ce, même si des camions sont déjà capables de livrer du beurre sans conducteur sur des distances de plus de quatre mille kilomètres.

Source : cardanddriver , MIT technology Review

Et vous ?

Que pensez-vous du positionnement de Christoph Von Hugo ? Quels sont les problèmes qu’il pose ?

Qui (ou que) faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ?

Voir aussi :

Voitures autonomes : UPS acquiert des actions dans TuSimple et teste des camions autonomes en Arizona, depuis le mois de mai
Le service postal des États-Unis teste des camions à conduite autonome, pour la distribution du courrier
Uber ferme sa division dédiée aux camions autonomes, afin de recentrer ses efforts de conduite autonome sur les voitures uniquement
Un camion électrique et autonome démarre les livraisons sur la voie publique suédoise, une première du genre au monde

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de 23JFK
Membre chevronné https://www.developpez.com
Le 17/12/2019 à 1:48
Dans un monde libéral, la voiture doit protéger son propriétaire, le fabriquant son client, et éventuellement minimiser les coûts (financiers) de l'accident pour lui. Reste à savoir si le proprio se trouve bien au volant, dès fois qu'il se trouverait à la place du piéton.
5  1 
Avatar de saint_win
Nouveau membre du Club https://www.developpez.com
Le 16/12/2019 à 21:46
Citation Envoyé par Patrick Ruiz Voir le message

Qui (ou que) faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ?

La question c'est plutot ou placer ta belle-mère? (tu peux remplacer belle-mère, par ton patron, ton voisin....). Faut il traverser sur l'autoroute devant la voiture de ta belle-mère? ou placer ta belle-mere sur le coté de la rue et dire à 5 potes de traverser devant la voiture?
3  0 
Avatar de markham
Membre régulier https://www.developpez.com
Le 16/12/2019 à 21:49
Je vous recommande la lecteur de cet ouvrage sur le sujet :

"La voiture qui en savait trop: L'intelligence artificielle a-t-elle une morale ?"
de Jean-François Bonnefon
2  0 
Avatar de BufferBob
Expert éminent https://www.developpez.com
Le 16/12/2019 à 23:00
Citation Envoyé par Patrick Ruiz Voir le message
Christoph von Hugo – responsable sécurité automobile chez Mercedes – formule une solution à ce dilemme : « Si vous savez que vous pouvez sauver au moins une personne, sauvez au moins celle-là ; sauvez celle qui est à l'intérieur du véhicule. Si tout ce dont vous êtes sûr c'est qu'un décès peut être évité, alors c'est votre première priorité. » En d’autres termes, les véhicules autonomes doivent être programmés pour sauvegarder la vie des occupants du véhicule, ce, quelles que soient les circonstances.
c'est une position qui se tient et qui permet d'évacuer le problème à moindre frais, ça revient à dire qu'aucune vie ne vaut plus qu'une autre, ce qui en pratique n'est pas tout à fait exact mais ça reste une position défendable.

Citation Envoyé par Patrick Ruiz Voir le message
Qui (ou que) faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ?
« mon fils, même pour cent millions je ne pourrais pas te répondre. » (Jésus, South Park)

une éthique fondée sur les coûts d'opportunité pourrait peut-être répondre à la question de manière satisfaisante ou au moins identifiable par tout un chacun.
en pratique il faut aussi compter avec les enjeux économiques qu'il y a derrière ; plus la morale de l'IA embarquée sera complexe à mettre au point plus ça retardera le lancement des véhicules autonomes sur le marché.

il n'y a pas de bonne réponse à ce genre de question, uniquement des sensibilités différentes, tout le propos étant que si on veut que le produit fonctionne auprès du grand public alors il aurait tout intérêt à s'adapter à la morale du plus grand nombre ou celle qui sera la mieux tolérée par l'ensemble de la population.
2  0 
Avatar de sinople
Membre chevronné https://www.developpez.com
Le 17/12/2019 à 10:14
Il me semble que la question ne se base pas sur un rapport 1:1 initialement.

La question c'est de savoir à partir de combien piétons tu envoies le conducteur dans le mur.
2  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 17/12/2019 à 11:03
Les Mercedes-Benz autonomes seront-elles programmées pour sacrifier la vie des piétons afin de sauver les occupants du véhicule ?
Poser la question et y répondre, prouve simplement que la "voiture 100% autonome" est destinée à finir dans les archives de l'histoire!

Quand les voitures 100% autonomes seront vraiment commercialisées et qu'un piéton américain aura été écrasé, il y aura juste des centaines d'avocats pour attaquer le fabricant en justice par un "la société X a programmé l'assassinat des piétons qui ont la malchance de croiser ses véhicules".

Et là, bonjour les centaines de milliards d'amendes en tout genre à la mode US. Le 1er constructeur concerné disparaîtra du marché en faillite et tous les autres se dépêcheront de sortir de leur catalogue la "voiture autonome programmée pour sacrifier la vie des piétons"!

PS: A remarquer que cela finira de la même manière, si la voiture 100% autonome est programmée pour sacrifier les passagers!
2  0 
Avatar de Michel Rotta
Expert éminent https://www.developpez.com
Le 17/12/2019 à 8:35
Qui achèterais, en pleine conscience, une voiture qui pourrait décider de vous tuer en cas de statistiques défavorables...

Pourquoi les constructeurs d'automobiles devraient assurer, seuls, la morale de notre société sur cette décision ? En l'état, qu'ils prennent une décision qui va sauvegarder leurs ventes me semble conforme aux besoins de leur entreprise.

Pour ce qui est de la morale, c'est à notre société de le prendre en charge.
1  0 
Avatar de calvaire
Membre éclairé https://www.developpez.com
Le 17/12/2019 à 9:00
c'est une fausse question.

Au delà de la voiture, dans la vie courante en cas d'accident tu sauve d'abord ta peau ensuite celle des autres si cela ne te mets pas en danger, c'est l’instinct de survie et c'est meme inscrit dans la lois (tu doit aider une personne en danger uniquement si tu ne ne te mets pas en danger).
Donc la réponse semble bien simple a cette question : tu sauve le conducteur en priorité et ensuite les passager de la voiture et ensuite les personnes extérieure au véhicule.
Mais de toute façon un piéton regarde avant de traverser une national à 110km/h et en ville à < 50km/h on peut normalement freiner un bon coup sans trop de risque pour ta vie (sauf si un camion te colle au cue).

Ce qui m’inquiète plus moi perso c'est les voitures électrique, à faible vitesse elle émettent un faible bruit qu'on entends difficilement, je me suis fait surprendre en vélo à avoir une zoé qui me double par exemple.
3  2 
Avatar de defZero
Membre extrêmement actif https://www.developpez.com
Le 17/12/2019 à 15:14
@saint_win, +10000 .

@calvaire, +1 tout à fait d'accord avec toi, sur l'instinct de survie, mais pas tellement en ce qui concerne les voitures électriques qui devraient faire du bruit.
Si (et c'est un "si" du style "Paris en bouteille" ) tous respectaient le Code de la Route, il n'y aurait pas "besoin" que les véhicules fassent du bruit (sauf danger immédiat).
Quand tu écrit "c'est même inscrit dans la lois (tu doit aider une personne en danger uniquement si tu ne ne te mets pas en danger)."

cf. :
Code Pénal, article 223-6, Peine pour non-assistance à personne en danger

Code Civil, articles 1240 à 1244, Responsabilité civile

"La personne coupable de non-assistance à personne peut être condamnée à une peine pouvant aller jusqu'à 5 ans d'emprisonnement et 75 000 € d'amende."

J'ai envie de dire que même dans la loi, , il y a possibilité d'argumenter avec les notions d' "abstention de porter secours" & de "péril grave et imminent".

Que pensez-vous du positionnement de Christoph Von Hugo ? Quels sont les problèmes qu’il pose ?
Je suis globalement d'accord avec le M. sur le fait que l'on devrait sauver la vie qu'on est sur de pouvoir sauvé, les autres relèvent des probabilités (oui, c'est horrible à dire, mais ça n'en est pas moins vrai pour autant).
Il pose LE problème qu'avant d'avoir des machines autonomes dans les rue, il faudrait d'abord que l'on ce mette d'accord avec notre conscience collective (aka la morale) pour savoir ce que nous leurs demandons de faire .
Ce n'est pas une IA ou un algorithme qui vont prendre des décisions, mes les personnes qui les programmes, partant de ce constat il faudrait que collectivement, on ce mette d'accord sur les traitement à autoriser ou pas, avant même de savoir si c'est techniquement faisable.

Qui (ou que) faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ?
C'est bizarre, m'est personne n'as répondu ...la voiture .

Si l'on parle de choque entre piétons et voitures autonomes avec passagers, la voiture devrait être en mesure de calculer sa vélocité à un instant T pour déterminer quelle collision ou type de collision, empercherait totalement le risque humain / animale au détriment du véhicule pour le coup.
Dans ce cas particulier, le risque serait d'avoir un problème technique sur la voiture (plus de frein ou autres) et à ce moment là, je doute qu'une IA puisse faire beaucoup mieux qu'un humain en ayant de contrôle sur rien .
1  0 
Avatar de MRSizok
Membre habitué https://www.developpez.com
Le 17/12/2019 à 9:41
Sinon, le tableau des sacrifices sont intéressant je trouve. La Chine fait bien contrast.
0  0