Avec le développement rapide de l'intelligence artificielle (IA) des inquiétudes sur l'éthique des décisions que devront prendre les dispositifs intelligents font surface. En ce qui concerne les voitures autonomes par exemple, l'une des applications les plus importantes de l'IA, une question cruciale est : si une voiture autonome devait faire un accident inévitable, qui faudrait-il sacrifier en priorité ?C'est le fameux dilemme du tramway dont la version originale peut se formuler comme suit : imaginons le conducteur d'un tramway hors de contrôle qui se doit de choisir sa course entre deux voies possibles : cinq hommes travaillent sur la première voie et un homme est situé sur l'autre. La voie prise par le tramway entraînera automatiquement la mort des personnes qui s'y trouvent. Que faut-il faire alors ? Prendre la deuxième voie afin de sacrifier une seule vie pour en sauver cinq ? Dans le cas de la dernière option le choix est-il moral ?
Dans un entretien accordé à des médias présents lors du Paris Auto Show de 2016, Christoph von Hugo – responsable sécurité automobile chez Mercedes – formule une solution à ce dilemme : « Si vous savez que vous pouvez sauver au moins une personne, sauvez au moins celle-là ; sauvez celle qui est à l'intérieur du véhicule. Si tout ce dont vous êtes sûr c'est qu'un décès peut être évité, alors c'est votre première priorité. » En d’autres termes, les véhicules autonomes doivent être programmés pour sauvegarder la vie des occupants du véhicule, ce, quelles que soient les circonstances.
Le positionnement de Christoph Von Hugo reste d'actualité puisque les développements relatifs aux véhicules entièrement autonomes et sans conducteurs sont en cours au sein de l’entreprise allemande. En effet, dans le cadre d’un partenariat avec Bosch, Mercedes entend lancer ses premiers robots-taxis sans conducteurs au début de l’année qui pointe à l’horizon. Pour ce qui est de savoir si les Mercedes Benz autonomes (niveaux 4 et 5) seront programmées pour sauvegarder la vie de leurs occupants en toutes circonstances, il convient peut-être d’attendre pour voir ce que 2020 nous réserve si l’entreprise reste cohérente avec son planning.
En fait, le problème mobilise les réflexions de plusieurs équipes de recherche de par le monde. Le MIT Media Lab s’y est penché pour dégager neuf axes majeurs de réflexion : la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie, les passagers au lieu des piétons, les femmes au lieu des hommes, les jeunes plutôt que les vieux, les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur, les personnes respectant la loi plutôt que les criminels, les personnes mal portantes au lieu de celles en bonne santé ? La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible ? Ces questionnements font l’objet d’une expérience dénommée Moral Machine. Le MIT Media Lab l’a montée dans le but de recueillir les avis du public sur la question de savoir ce qu'il faut sacrifier ou épargner en priorité si une voiture autonome devait faire un crash inévitable.
Quatre ans après la mise en ligne de la plateforme, les millions d’avis recueillis en font l’une des plus grandes études réalisées sur les préférences morales mondiales et ce qu’il faut dire c’est que les divergences sont notables. Grosso modo, il ressort de l’étude que les gens sont d’accord pour épargner les humains plutôt que les animaux ou encore préserver la vie des enfants en priorité plutôt que celle des adultes. L’étude révèle également que les gens estiment aussi qu'il faut privilégier le scénario le moins coûteux en nombre de vies.
Sur la question de savoir s’il faut épargner les piétons plutôt que les passagers la réponse varie en fonction des pays. Le Japon s'est classé comme étant le premier pays où les répondants préfèrent que la vie des piétons soit épargnée au détriment de la vie des passagers. À l'opposé du Japon, on retrouve la Chine où les répondants ont clairement fait savoir qu'ils préfèrent plutôt qu'on épargne la vie des passagers et donc qu'on risque la vie des piétons si nécessaire. Par rapport à la moyenne mondiale, la France penche du côté de ceux qui veulent qu'on épargne la vie des passagers plutôt que la vie des piétons.
Un score proche de 1 dénote de ce que les répondants estiment qu’il faut épargner davantage de vies
Ces questionnements et les études qui en découlent des implications intéressantes pour les pays au sein desquels les tests de voitures autonomes ont lieu, car ces préférences pourraient jouer un rôle dans la conception et la réglementation de ces véhicules. En outre, ces contenus sont susceptibles d’orienter les constructeurs quant à ce qui concerne les choix commerciaux à effectuer compte tenu des tendances des potentiels consommateurs. Enfin, ces divers questionnements ont une pertinence qui porte sur une problématique qui prendra toute sa force dans une dizaine, voire une vingtaine d’années. En effet, les développements liés aux voitures autonomes se poursuivent et les prouesses technologiques demeurent nombreuses à réaliser, ce, même si des camions sont déjà capables de livrer du beurre sans conducteur sur des distances de plus de quatre mille kilomètres.
Source : cardanddriver , MIT technology Review
Et vous ?
Que pensez-vous du positionnement de Christoph Von Hugo ? Quels sont les problèmes qu’il pose ? Qui (ou que) faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ? Voir aussi :
Voitures autonomes : UPS acquiert des actions dans TuSimple et teste des camions autonomes en Arizona, depuis le mois de mai Le service postal des États-Unis teste des camions à conduite autonome, pour la distribution du courrier Uber ferme sa division dédiée aux camions autonomes, afin de recentrer ses efforts de conduite autonome sur les voitures uniquement Un camion électrique et autonome démarre les livraisons sur la voie publique suédoise, une première du genre au monde 
Envoyé par Patrick Ruiz
.
) tous respectaient le Code de la Route, il n'y aurait pas "besoin" que les véhicules fassent du bruit (sauf danger immédiat).