Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

« Nous avons besoin d'un équivalent de serment d'Hippocrate pour les ingénieurs informaticiens », d'après Brad Smith de Microsoft
Qui insiste en particulier sur le cas de ceux qui développent des IA

Le , par Patrick Ruiz

26PARTAGES

11  0 
Tout le monde ou presque a déjà vu un film dont l’intrigue est structurée de la manière suivante : l’humanité met au point des machines dotées de capacités cognitives. Celles-ci en usent puis décident d’asservir ou de détruire l’humanité. Enfin, cette dernière passe le reste du film à essayer d’éteindre les machines. C’est le funeste futur tant de fois prédit par Elon Musk qui redonne un coup de neuf à des avis d’intervenants de la filière high tech comme Brad Smith – président de Microsoft : « Nous avons besoin d’un équivalent de serment d’Hippocrate pour les ingénieurs informaticiens. »

C’est l’une des phrases fortes d’une interview que le président de Microsoft a accordée au cours du quatrième trimestre de l’année précédente. Son appel intervient dans un contexte de profonds questionnements sur la notion d’éthique en lien avec le développement des systèmes d’intelligence artificielle. De façon ramassée, Brad Smith est d’avis « qu’en tant que première génération d’humains à doter les ordinateurs de la capacité de prendre des décisions, nous devons décider comment nous voulons que les machines les prennent et cela passe par la consultation d’un code éthique. »

Le cas des voitures autonomes illustre bien la difficulté à laquelle les programmeurs lancés dans la filière font face surtout pour ce qui est des aspects moraux : la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie, les passagers au lieu des piétons, les femmes au lieu des hommes, les jeunes plutôt que les vieux, les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur, les personnes respectant la loi plutôt que les criminels, les personnes mal portantes au lieu de celles en bonne santé ? La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible ?



C’est la raison pour laquelle Brad Smith développe l’idée d’équivalent de serment d’Hippocrate pour les ingénieurs informaticiens et conçoit six principes éthiques qui seraient appliqués par les ingénieurs de Microsoft. Faisant suite aux travaux de Brad Smith parus dans le livre Tools and Weapons : The promise and peril of the digital age, Eron Etzioni – professeur à l’université de Washington – propose une version modifiée du serment d’Hippocrate pour les médecins :

  • Je jure d'honorer, au mieux de mes capacités et de mon jugement, cet engagement :
  • je respecterai les acquis scientifiques durement gagnés par les scientifiques et les ingénieurs sur les traces desquels je marche, et je partagerai volontiers les connaissances qui sont les miennes avec ceux qui doivent me suivre ;
  • j'appliquerai, pour le bien de l'humanité, toutes les mesures nécessaires, en évitant ces deux pièges que sont l'optimisme excessif et le pessimisme uniforme ;
  • je n'oublierai pas que l'intelligence artificielle est un art, au même titre que la science, et que les préoccupations humaines l'emportent sur les préoccupations technologiques ;
  • je dois tout particulièrement faire preuve de prudence en matière de vie et de mort. Merci s'il m'est donné de sauver une vie grâce à l'intelligence artificielle. Mais elle peut aussi être en mesure de prendre une vie. Cette énorme responsabilité doit être assumée avec une grande humilité et en étant conscient de ma propre fragilité et des limites de l'intelligence artificielle. Par-dessus tout, je ne dois pas jouer avec Dieu ni laisser ma technologie le faire ;
  • je respecterai la vie privée des humains, car leurs données personnelles ne sont pas divulguées aux systèmes d'intelligence artificielle afin que le monde puisse en avoir connaissance ;
  • je tiendrai compte de l'impact de mon travail sur l'équité, à la fois en perpétuant les biais historiques, qui sont causés par l'extrapolation aveugle des données passées aux prévisions futures, et en créant de nouvelles conditions qui augmentent les inégalités économiques ou autres ;
  • mon intelligence artificielle permettra de prévenir les préjudices chaque fois que cela sera possible, car il est préférable de prévenir que de guérir ;
  • mon IA cherchera à collaborer avec les gens pour le plus grand bien, plutôt que d'usurper le rôle de l'homme et de le supplanter ;
  • je me souviendrai que je ne rencontre pas de données sèches, de simples zéros et des uns, mais des êtres humains, dont les interactions avec mon logiciel d'IA peuvent affecter la liberté, la famille ou la stabilité économique de la personne. Ma responsabilité inclut ces problèmes connexes ;
  • je me souviendrai que je reste un membre de la société, avec des obligations particulières envers tous mes semblables.

Le serment est certes axé sur l’intelligence artificielle, mais une grande partie de celui-ci s’applique de façon plus large à tous les logiciels et matériels informatiques.

Les futurs médecins prêtent ce serment avant d’entamer leur carrière. C’est l’une des différences fondamentales avec l’univers de l’informatique. En effet, il faut le rappeler, les contributions de Brad Smith et Eron Etzioni ne sont pas des cas de figure isolés. Il n’y a qu’à lire dans les contenus proposés par des initiatives comme Data4Democracy ou l’Association for Computing Machinery (ACM) pour se rendre compte que le domaine de l’informatique dispose bien de codes éthiques. Seulement, les professionnels de cette filière ne prêtent pas serment.


Même dans le cas où les travailleurs de la filière informatique venaient à prêter serment, un parallèle important à faire avec le domaine de la médecine est qu’il s’agit en général de textes sans valeur juridique. De plus, l’une des plus grosses questions est celle de savoir si le plus grand vecteur de risque en matière d’éthique en intelligence artificielle est le développeur ou la chaîne entière du processus de génie logiciel. En effet, les tâches sont dans bien des cas confiées aux ingénieurs informaticiens après que la prise de la plupart des décisions éthiques par les chefs de produits, les concepteurs et les acteurs commerciaux. Sur le terrain, les ingénieurs informaticiens rendent des comptes à leurs employeurs en premier. Ainsi, rappeler à un ingénieur du génie logiciel de se souvenir de ne pas « faire ce qui est mal » le met dans la position délicate d’être remplacé par quelqu’un qui fera ce que l’employeur demande.

À cela s’ajoute la subjectivité de certains points au sein de ces textes sur laquelle il faut commencer par jeter un regard. Même Robert Cecil Martin – auteur du célèbre « Coder proprement » – a touché à cet aspect il y a 6 ans lorsqu’il relevait que la définition de « causer du tort » dépend du propre code moral du programmeur concerné. En sus, il y a les enjeux financiers que l’on ne saurait écarter de l’équation. En effet, même si le code éthique de l’ACM suggère aux programmeurs d’être respectueux de la vie privée des utilisateurs, cela n’empêche pas des entreprises comme Facebook de se retrouver empêtrées dans des scandales comme celui de Cambridge Analytica.

Sources : Jasper Kuria, Oren Etzioni

Et vous ?

Partagez-vous l'idée selon laquelle les ingénieurs informaticiens disposent de très peu de décisions dans le processus décisionnel qui mène à la mise sur pied des produits des entreprises pour lesquelles ils travaillent ?
Qui du travailleur, de l'entreprise ou du code est le véritable problème en matière d'éthique ?
Quel commentaire faites-vous de la pertinence de l’idée d’un équivalent du serment d’Hippocrate pour les ingénieurs informaticiens ?
Quel pourrait être l’impact d’une telle disposition sur l’éthique personnelle des professionnels des domaines concernés et de façon générale sur celle des entreprises qui les emploient ?
Quels sont les freins à l'application de ces codes de conduite ?

Voir aussi :

Les Googlers contre le conseil d'éthique de l'IA de Google, car il privilégie la proximité du pouvoir sur le bien-être des groupes marginalisés
Google dissout son conseil d'éthique de l'IA une semaine à peine après sa mise en place suite à un mouvement collectif d'indignation
IA : un algorithme permettant de faire des recommandations en suivant des règles d'éthique a été mis au point par des chercheurs d'IBM et du MIT

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de tome_x
Membre à l'essai https://www.developpez.com
Le 10/08/2020 à 20:12
Dans l'image, la voiture devrait rouler sur tout le monde, comme ça pas de défavorisés.
5  1 
Avatar de Neckara
Inactif https://www.developpez.com
Le 10/08/2020 à 22:10
Citation Envoyé par SimonDecoline Voir le message
Ahaha il faut tuer tout le monde, comme c'est drôle.... Sérieux, tu n'as pas évolué depuis la maternelle ?

1  1 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 11/08/2020 à 10:31
Microsoft : « Il faut un équivalent de serment d’Hippocrate pour les ingénieurs informaticiens »
Elle est bien bonne celle-là!

Le mec devrait un peu mieux se renseigner sur le monde médical. Le serment d’Hippocrate est une vaste blague... Il y a autant de crapules, d'escrocs et de mecs qui mettent leur intérêts personnels avant celui de leur "client" chez les médecins que chez toutes les autres professions...

Exemples:
- Le médecin chef qui facture sa présence à toutes les naissances qui ont lieu dans son service hospitalier, quelque soit l'heure jour et nuit, même et surtout quand il n'est pas là ou qui pioche dans la caisse (https://www.lenouvelliste.ch/article...ncieres-915665)

- Un autre médecin chef condamné pour avoir utilisé les budgets de son service pour acheter des livres rares dont monsieur fait la collection (https://www.rts.ch/info/suisse/11104...embourser.html)

- Le chercheur qui magouille les résultats de ses recherches:
https://www.lematin.ch/story/un-chef...s-515990766444

- Et que dire de la grande majorité des chirurgiens esthétiques dont 95% de leur revenu est gagné a défigurer des clientes
0  0 
Avatar de Neckara
Inactif https://www.developpez.com
Le 11/08/2020 à 12:08
D'ailleurs un serment ne sont que des mots s'il n'y a personne pour le faire respecter.

Donc avoir une structure comme l'Ordre des Médecins derrière... le problème, c'est quand cet ordre est gangrené par des pseudo-sciences, se défendant entre eux, dans l'irrespect le plus total du serment d’Hippocrate.

Mais derrière, invoquant des clauses qui n'auraient jamais dû exister comme la confraternité pour faire taire les médecins dénonçant des pratiques qui n'ont rien à faire dans la médecine.
0  0 
Avatar de halaster08
Expert confirmé https://www.developpez.com
Le 11/08/2020 à 13:15
Citation Envoyé par Anselme45 Voir le message

Le mec devrait un peu mieux se renseigner sur le monde médical. Le serment d’Hippocrate est une vaste blague... Il y a autant de crapules, d'escrocs et de mecs qui mettent leur intérêts personnels avant celui de leur "client" chez les médecins que chez toutes les autres professions...
+1

Et je peux ajouter à ta liste d'exemples de nombreux médecins qui trichent sur leurs facturation pour toucher plus de remboursement de la sécu mais que l'ordre des médecins protège
0  0 
Avatar de Philippe ALLAIN
Futur Membre du Club https://www.developpez.com
Le 11/08/2020 à 17:24
Ce texte est vraiment orienté IA et l'auteur ne le propose pas à tous les informaticiens mais plutôt aux diplômés spécialisés en IA.
cf. https://techcrunch.com/2018/03/14/a-...practitioners/

J'ai un peu de mal avec la traduction française proposée.

Je respecterai les acquis scientifiques durement gagnés par les scientifiques et les ingénieurs sur les traces desquels je marche, et je partagerai volontiers les connaissances qui sont les miennes avec ceux qui doivent me suivre ;
-> A enseigner dès le lycée à tous les élèves, pas uniquement aux spécialistes de l'IA ni uniquement aux informaticiens!

J'appliquerai, pour le bien de l'humanité, toutes les mesures nécessaires, en évitant ces deux pièges que sont l'optimisme excessif et le pessimisme uniforme ;
-> C'est tellement vague qu'on ne sait même pas de quoi on parle. Je crois que je vais mettre cette phrase de côté pour la ressortir quand on me donnera un argumentaire qui ne veut rien dire, sur n'importe quel sujet, ce n'est pas le problème, pour aider mon interlocuteur à se rendre compte de la vacuité de son discours. J'ai beaucoup de respect pour l'auteur mais là, je ne comprends pas.

Je dois tout particulièrement faire preuve de prudence en matière de vie et de mort. Merci s'il m'est donné de sauver une vie grâce à l'intelligence artificielle. Mais elle peut aussi être en mesure de prendre une vie. Cette énorme responsabilité doit être assumée avec une grande humilité et en étant conscient de ma propre fragilité et des limites de l'intelligence artificielle.
-> Allez donc dire ça aux décideurs, aux puissants. Si une technologie est utilisée pour donner la mort, ce sont eux les responsables. Pas l'informaticien qui profite des découvertes scientifiques ou de méthodes innovantes comme l'IA.
En fait, n'importe quel technique peut prendre la vie, les freins qui lâchent etc. La différence ici, en prenant l'exemple du véhicule autonome, c'est que le système, sans qu'il n'y ait aucune défaillance, sait à l'avance que quel que soit la décision prise, cela coûtera une vie humaine. Et on se rappelle ici que le système, aussi intelligent qu'il puisse paraître, est créé par un ingénieur. Dans ce cas très précis qu'on aime à présenter, je ne suis pas certain que la décision de rouler sur tel ou tel groupe de personnes soit prise par un système IA. Il faudrait lui apprendre en réalisant quelques milliers d'essais afin qu'il sache lui aussi comment se comporter. Non, là, c'est probablement de la programmation pure et dure avec un arbre de choix. L'IA est en amont seulement. Sa puissance permet au système de guidage de connaître à chaque instant et très précisément l'environnement du véhicule.

Par-dessus tout, je ne dois pas jouer avec Dieu ni laisser ma technologie le faire ;
-> Il n'a pas dit "jouer avec Dieu" mais "jouer à Dieu" (play at God). Sinon, je ne comprends pas ce que Dieu vient faire dans un texte comme celui-là.

Je respecterai la vie privée des humains, car leurs données personnelles ne sont pas divulguées aux systèmes d'intelligence artificielle afin que le monde puisse en avoir connaissance ;
-> C'est une traduction littérale qu'on ne comprend pas très bien en français, le sens original étant transformé, à mon avis.
Je dirais: Je respecterai la vie privée des humains, en gardant les données personnelles hors des systèmes d'IA qui les divulgueraient.
Ce n'est pas aussi beau que dans l'original anglais mais on comprend!

Je tiendrai compte de l'impact de mon travail sur l'équité, à la fois en perpétuant les biais historiques, qui sont causés par l'extrapolation aveugle des données passées aux prévisions futures, et en créant de nouvelles conditions qui augmentent les inégalités économiques ou autres ;
-> Là encore, j'ai l'impression que le style de l'auteur passe mal le filtre de la traduction.
Je propose: Je tiendrai compte de l'impact de mon travail sur l'équité qui pourrait souffrir de répétition de biais historiques causés par l'extrapolation aveugle des données passées pour prédire le futur, ou de la création de nouvelles conditions qui accroîtraient les inégalités économiques.
….
Je me souviendrai que je reste un membre de la société, avec des obligations particulières envers tous mes semblables.

-> Ça vaut pour tout citoyen!
0  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 11/08/2020 à 20:18
Si d'un côté certains critiquent le serment d'Hippocrate, de l'autre on peut aussi dire qu'il existe déjà un serment pour les ingénieurs, à savoir le serment d'Archimède :
https://fr.wikipedia.org/wiki/Sermen...Archim%C3%A8de

J'ai moi-même du lire et signer ce serment pendant mes études d'ingénieur.

Par ailleurs, tout ingénieur diplômé en France est inscrit eu répertoire de l'IESF, qui a sa propre charte d'éthique de l'ingénieur qui "doit être considérée comme la profession de foi de tous ceux qui figurent dans le Répertoire Français des Ingénieurs créé par IESF" :
https://www.iesf.fr/752_p_49680/char...ingenieur.html

J'ai moi-même toujours une copie de cette charte dans mon sac, des fois qu'une discussion avec un collègue ou supérieur imposerait de discuter des valeurs à prioriser.
0  0 
Avatar de SimonDecoline
Expert confirmé https://www.developpez.com
Le 10/08/2020 à 22:03
Citation Envoyé par tome_x Voir le message
Dans l'image, la voiture devrait rouler sur tout le monde, comme ça pas de défavorisés.
Ahaha il faut tuer tout le monde, comme c'est drôle.... Sérieux, tu n'as pas évolué depuis la maternelle ?
0  6