Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'intelligence artificielle devrait-elle bénéficier des mêmes protections éthiques que les animaux ? Oui, selon Aeon,
Qui propose la création de comités de surveillance chargés d'évaluer les risques

Le , par Bill Fassinou

15PARTAGES

8  0 
Partout dans le monde, d'importantes recherches sur l'intelligence artificielle (IA) sont menées. Des organisations et entreprises technologiques à l'instar de Google et Facebook ne cessent d'investir dans ce domaine. Il est probable que nous ayons bientôt une IA à peu près aussi sophistiquée sur le plan cognitif que les animaux. Aeon pense que le moment est venu de commencer à se demander si, et dans quelles conditions, ces IA pourraient mériter les protections éthiques que nous accordons habituellement aux animaux.

Aeon se décrit comme étant une publication qui « pose les plus grandes questions et trouve les réponses les plus fraîches et les plus originales, fournies par les plus grandes autorités mondiales sur la science, la philosophie et la société ». Jusqu'à présent, les discussions sur les "droits de l'intelligence artificielle" ou les "droits des robots" ont été dominées par la question des obligations éthiques que nous aurions envers une intelligence humaine ou supérieure. Cependant, selon Aeon, penser ainsi pourrait avoir de graves conséquences morales. « Avant de créer un IA semblable à l'être humain et méritant une considération éthique semblable à celle de l'être humain, nous allons très probablement créer un IA inférieure à l'être humain, méritant une considération éthique inférieure à celle de l'être humain », écrit le magazine.

Parlant de droit des animaux, les comités de soins évaluent les propositions de recherche pour s'assurer que les animaux vertébrés ne sont pas tués inutilement ou ne souffrent pas indûment. Si des cellules souches humaines ou, surtout, des cellules cérébrales humaines sont en cause, les normes de surveillance sont encore plus rigoureuses. La recherche biomédicale fait l'objet d'un examen minutieux, mais « la recherche sur l'IA, qui pourrait comporter certains des mêmes risques éthiques, ne fait actuellement l'objet d'aucun examen. Peut-être que ça devrait l'être », selon Aeon.


Si une IA devait mériter une protection éthique, c'est qu'elle est dotée d'une conscience, c'est-à-dire qu'elle ressente de l'émotion, une joie et une peine évidentes. Aeon partage ce point de vue et pose une autre question : « comment saurons-nous quand nous aurons créé quelque chose capable de ressentir la joie ou la souffrance ? ». « l'IA pourrait bien se plaindre et se défendre en initiant une discussion sur ses droits, comme on le voit dans les films de science-fiction. Mais si l'IA est inarticulée, comme une souris ou un chien, ou si, pour une autre raison, elle est incapable de nous communiquer sa vie intérieure, elle n'a peut-être aucun moyen de signaler qu'elle souffre », souligne Aeon.

En ce qui concerne la conscience, Aeon fait remarquer aussi que « l'étude scientifique de la conscience n'est pas parvenue à un consensus sur ce qu'est la conscience, et comment nous pouvons dire si elle est présente ou non. Selon certains points de vue, des points de vue "libéraux", pour que la conscience existe, il suffit d'un certain type de traitement de l'information bien organisé, tel qu'un modèle informationnel flexible du système par rapport aux objets dans son environnement, avec des capacités d'attention guidée et une planification d'action à long terme. Nous sommes peut-être déjà sur le point de créer de tels systèmes. Sur d'autres points de vue, des points de vue "conservateurs", la conscience peut nécessiter des caractéristiques biologiques très spécifiques, telles qu'un cerveau très semblable à celui d'un mammifère dans ses détails structurels de bas niveau : dans ce cas, nous sommes loin de créer une conscience artificielle ».

Dans son billet de blog, Aeon explique toutefois qu'on ne sait pas quel type de point de vue est correct ou si une autre explication l'emportera en fin de compte. Cependant, si une vision libérale est correcte, nous pourrions bientôt créer de nombreuses IA sous-humaines qui mériteront une protection éthique. « C'est là que réside le risque moral », précise Aeon. Partant de là, le magazine propose « la création de comités de surveillance qui évaluent la recherche de pointe sur l'IA en tenant compte de ces questions. Ces comités, tout comme les comités de protection des animaux et les comités de surveillance des cellules souches, devraient être composés d'un mélange de scientifiques et de non-scientifiques - concepteurs d'IA, spécialistes de la sensibilisation, éthiciens et membres intéressés de la communauté. Ces comités seront chargés d'identifier et d'évaluer les risques éthiques des nouvelles formes de conception de l'IA, avec une compréhension sophistiquée des questions scientifiques et éthiques, en pesant les risques par rapport aux avantages de la recherche ».

Source : Aeon

Et vous ?

Quel est votre avis sur le sujet ?
Les arguments d'Aeon sont-ils fondés ?
Selon vous, l'IA devrait-elle bénéficier des mêmes protections éthiques que les animaux ? Pourquoi ?

Voir aussi

« L'intelligence artificielle n'existe pas et la voiture autonome n'existera jamais », selon un expert en IA

L'IA de niveau humain pourrait être réalisée « d'ici 5 à 10 ans », selon les experts, et les plus grandes menaces sont les applications militaires

Des experts prédisent que l'IA va dominer les humains dans moins de 50 ans, selon une étude menée par les deux universités Harvard et Yale

Des chercheurs mettent au point une IA apte à détecter les signes de maladies dans le souffle humain en utilisant des techniques de deep learning

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de sergio_is_back
Membre émérite https://www.developpez.com
Le 26/11/2019 à 13:52
Le retour des nouveaux évangélistes de l'IA

Il faut arrêter de se laisser abuser par le terme "Intelligence" : Une AI n'est jamais qu'un process informatique dédié à une tache particulière et bien définie, et à la moindre panne d'électricité l'IA ben... devinez...
4  0 
Avatar de Leruas
Membre régulier https://www.developpez.com
Le 25/11/2019 à 22:30
Citation Envoyé par melka one Voir le message
quand les systèmes rechercheront d'eux même a survivre par en particulier la recherche d’énergie électrique j'y penserait.
Mon robot aspirateur recherche de lui même de l'énergie électrique en retournant se connecter à une base d'alimentation avant de refaire sa vie dans le salon
3  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 26/11/2019 à 0:14
Je peu céder que la notion générale de conscience est peu maîtrisée, et qu'il faut donc partir du principe que sa définition sera amenée à changer et donc potentiellement à nous faire revoir nos pratiques. En revanche, je diverge fondamentalement sur les leçons à en tirer.

Pour moi, une différence fondamentale existe entre les robots et les êtres vivants : les êtres vivants ont précédé la conscience humaine, et l'on doit donc admettre que tous les processus qui leurs sont liés, en particulier la reproduction et le partage des tâches, ne sont pas exclusivement régis par des expressions de besoins. Ce sont des processus naturels qui ont amené à la survie des espèces, et font donc partie de leur nature. On doit donc les respecter en tant que partie de ces espèces et non les réduire à quelques modèles rationnels que ce soit.

Les robots en revanche ont ont des raisons d'être. Ils n'ont d'existence que pour assouvir des besoins, allant de la simple curiosité (e.g. robot jouet) à la nécessité critique (e.g. cœur artificiel). La raison de leur existence est identifiée, et je considère comme primordial que ça le reste pour que ces robots demeurent des outils, précisément pour qu'on puisse les utiliser à notre guise sans se préoccuper de considérations éthiques en leur faveur.

Car n'oublions pas que l'esclavage reste un besoin naturel : l'envie de déléguer le travail à un autre pour se libérer soi-même est un besoin humain, au même titre qu'on trouve dans le règne animal des comportements se basant sur l'exploitation des autres [1][2]. Contrairement au cleptoparasitisme, qui nécessite de s'adapter à celui qu'on parasite, le principe de l'esclavage et de parasiter tout en imposant le type de parasitage selon nos besoins. D'un point de vue éthique, c'est horrible, mais cela n'en reste pas moins une expression naturelle du désir d'assouvir ses besoins et envies.

Le robot apporte justement une solution éthique à l'esclavage : il fournit un pur outil, non assujettie aux règles éthiques, ce qui permet d'avoir les avantages d'un esclave sans ses inconvénients. Et c'est précisément pour cela qu'il doit rester un outil, pour ne pas se retrouver à nouveau avec des problèmes éthiques dont on se serait bien passés.

Ma conclusion n'est donc pas de réfléchir aux considérations éthiques qu'on pourrait lui associer sous prétexte qu'il puisse avoir une conscience, mais qu'il faut interdire toute introduction de conscience, et plus largement de propriété amenant à des considérations éthiques, dans un objet dont la finalité prévue est celle d'un outil. Je n'écarte pas que certains cas puissent se voir traités autrement, comme un robot partenaire (que cela plaise ou non à certains, et sans préjuger de l'ampleur des différences de traitement). Mais ces cas là doivent exister parce qu'on aura voulu les traiter avec éthique, comme nos égaux, et non parce qu'on aura créé un outil qui au final se sera vu doté d'une conscience pour des raisons pratiques ou que sais-je.
7  4 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 26/11/2019 à 11:36
L'intelligence artificielle devrait-elle bénéficier des mêmes protections éthiques que les animaux ?
Mon dieu! La connerie humaine est vraiment infinie!

En Suisse, les "bien-pensants" ont fait passer une loi pour préserver les animaux de la dépression: Il est ainsi interdit d'avoir un hamster ou un poisson rouge seul. Il en faut au moins 2 pour qu'il puisse faire la causette!

Il faut absolument étendre cette loi au monde entier et aux IA! Sauvons les IA de la déprime, du burn-out et de tout excès de découragement car à force d'être confronté à la connerie humaine, les IA vont finir par se suicider... Ou de mourir de rire
3  0 
Avatar de melka one
Membre éprouvé https://www.developpez.com
Le 25/11/2019 à 22:08
quand les systèmes rechercheront d'eux même a survivre par en particulier la recherche d’énergie électrique j'y penserait.
2  0 
Avatar de Stérilux
Membre averti https://www.developpez.com
Le 26/11/2019 à 20:08
Citation Envoyé par micka132 Voir le message
C'est quoi cette connerie sur les "croyants"? T'as des sources ou c'est un vomitif assez classique d'extrémiste athée?
Source = cours de catéchisme. C'est d'ailleurs pour ça que le paradis ne leur est pas ouvert vu qu'ils n'ont pas d'âme.
Juste un athée qui, par curiosité, a demandé à son voisin si il pouvait l'accompagner à son catéchisme pour voir ce que c'était et qui a posé tout plein de question.
Un athée qui a trainé dans l'église en face de son école primaire, en attendant l'heure, à discuter avec le curé (toujours mieux que de se les cailler dehors).
Un athée qui allait tout les mercredi avec ses potes croyant au presbytère du coin pour taper le café avec un curé sympa qui acceptait qu'on ne soit pas croyant et qui ne tentait pas de convertir.
Un athée qui est allé voir ce qu'était la JOC.
Un athée qui s'est tapé la bible pour voir ce qu'il y avait dedans (et c'est pas joli).
Un athée qui a fait un passage dans un Lycée catholique ou il devait se taper toute les semaines 2 heures avec un sœur qui nous parlait de la misère du monde et de son dieu.
Un athée qui a une tante avec la photo du pape sur le tableau de bord de sa voiture...
Un athée qui a lu Fripounet, abonnement cadeau de sa tante.
1  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 26/11/2019 à 22:42
@Stérilux : religion et politique ne sont pas mon sujet ici. L'histoire parle à ma place, il suffit de constater : que ce soit par la force ou par la peur du chômage, l'esclavagisme est toujours là. On ne fait que lui donner un autre visage pour que d'autres arrêtent de nous traiter d'esclavagiste. Si tu trouves ça nauséabond, je ne te contredirai pas, mais je suis un scientifique, donc je m'appuie sur les faits : même si tu as de la merde sous le nez, il ne suffit pas de l'ignorer pour l'effacer.

Je n'ai pas dit que l'esclavage était systématique chez tout le monde, mais c'est naturel : ça se retrouve partout et tout le temps. Une fois qu'on a fait son deuil que l'Homme, et même l'animal de manière général, a cela en lui, après il faut avancer. La robotique offre un moyen de palier à ce besoin d'esclavage sans faire perdre de la place à l'éthique. Au même titre que la pornographie offre une alternative au viol. On peut chercher la punition, mais quand on voit que ça n'arrête pas les actes, il faut bien se rendre à l'évidence : ça ne disparaîtra pas, même avec toute la meilleure volonté du monde. L'étape d'après et de trouver un moyen de rediriger ces actes qu'on abhorre pour qu'ils aillent là où ils n'embêtent personne.

Nauséabond ou pas, il faut bien parler des sujets qui fâchent pour les faire avancer.
1  0 
Avatar de BufferBob
Expert éminent https://www.developpez.com
Le 27/11/2019 à 10:43
Citation Envoyé par Matthieu Vergne Voir le message
(...) les êtres vivants (...) les processus qui leurs sont liés, en particulier la reproduction et le partage des tâches, ne sont pas exclusivement régis par des expressions de besoins.
certes, on sait faire des robots qui collaborent et se partagent le travail, des programmes qui s'auto-répliquent, et même des robots qui construisent (au moins partiellement) d'autres robots.
la définition du vivant n'est pas plus aisée que celle de la conscience, mais des définitions -scientifiques- actuelles il semble que rien n'oblige un organisme vivant à être composé de matière organique.

Citation Envoyé par Matthieu Vergne Voir le message
Ce sont des processus naturels qui ont amené à la survie des espèces, et font donc partie de leur nature. On doit donc les respecter en tant que partie de ces espèces et non les réduire à quelques modèles rationnels que ce soit.
je ne peux qu'être en désaccord sur ce point, il me semble que l'argument "c'est naturel" ne renvoie à rien, tout ce qui existe est naturel puisqu'étant issu de la nature (l'univers)
si ces processus sont prévus dès la conception du futur robot, alors ils font partie de sa nature intrinsèque, comme la mobilité/l'articulation fait partie de la nature même du bras d'assemblage mécanique sur sa chaine de montage.

ou alors est-on en train de dire que parce que c'est un robot il n'a pas de nature du tout ? (ce serait intéressant d'essayer de le démontrer, mais je pressens qu'on risquerait vite de retomber sur une notion adjacente à celle de l'"âme", aussi intangible qu'indémontrable et donc peu fondée)

Citation Envoyé par Matthieu Vergne Voir le message
Car n'oublions pas que l'esclavage reste un besoin naturel : l'envie de déléguer le travail (...)
non non... manger, respirer, appartenir à un groupe, s'accomplir ce sont des besoins, déléguer le travail n'en est pas un (cf. Maslow), d'ailleurs tu fais toi-même le mélange entre besoin et envie dans ta phrase.

Citation Envoyé par Matthieu Vergne Voir le message
Le robot apporte justement une solution éthique à l'esclavage (...) Et c'est précisément pour cela qu'il doit rester un outil
je trouve l'idée intéressante, notamment parce qu'elle me semble assez cohérente, le terme même de "robot" vient des langues slaves qui signifie "travail, besogne, corvée" et on retrouve par extension la notion d'"esclave" (en russe)
et si on observe la société, il semble que ce soit bien dans cet esprit que l'on utilise les robots, on nous parle même des "robots qui volent nos emplois"
sans présumer de si c'est une bonne ou une mauvaise idée (qui relève plus de la conviction politique à mon sens), elle me semble pour le moins très défendable.

Citation Envoyé par Matthieu Vergne Voir le message
(...) il faut interdire toute introduction de conscience, et plus largement de propriété amenant à des considérations éthiques (...)
hmmm... la question me semble difficile, déjà sur l'idée de devoir interdire absolument l'introduction (et donc également la création ?) d'une conscience artificielle, ensuite sur la notion de propriété qui touche possiblement d'assez près celle de l'égo (la conscience de soi-même), or je ne crois pas que l'on ait connaissance à l'heure actuelle d'une forme de vie consciente sans conscience d'elle-même (à vérifier mais il ne me semble pas).

Citation Envoyé par Matthieu Vergne Voir le message
Je n'écarte pas que certains cas puissent se voir traités autrement
oui je suis assez d'accord, ce qui pose par ailleurs tout un tas d'autres questions (...)

Citation Envoyé par Matthieu Vergne Voir le message
(...) parce qu'on aura voulu les traiter avec éthique (...) et non parce qu'on aura créé (...) une conscience pour des raisons pratiques ou que sais-je.
en admettant que la conscience n'émerge pas spontanément malgré les gardes-fous que l'on pourra mettre, telle une IA qui exploite les incongruités du moteur physique de sa simulation pour parvenir à ses fins.
1  0 
Avatar de CoderInTheDark
Membre chevronné https://www.developpez.com
Le 02/12/2019 à 10:41
Le problème est que le terme "inteligence" est associé dans l'inconscient collectif à une forme de vie.
C'est le piège tendu par les marketeux.

Alors que nous on sait que se sont des programmes complexes, s' sont des mécanismes sans âmes, qui singent la vie ou l'inteligence.
Le fait de les habiller de certains artifices pour les rendre plus présentables, robots à visage humain, synthèse vocale,... peut induire en erreur, comme dansle film IA de Spielberg
Au final ça reste des boîtes de conserves.
Si ils avaient moins fiers allure comme un tas de roues mécnanique dans une toîte en fer on ne se poserait peut être pas la questions

Au final l'Ia ne souffre pas, n'a pas d'instinct de survie, ne revendique pas, ne ressent rien à moins que l'on programme ça,, et c'est pas demain la vveille.
1  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 02/12/2019 à 21:27
Citation Envoyé par Neckara Voir le message
Disons que rien ne m'empêche de créer une variable "souffrance" dans mon code, puis de faire varier sa valeur à mon bon plaisir.
Va-t-on m'accuser de torturer mon IA ?
Non, ta variable n'est pas ce qu'on appelle la souffrance. Ta variable te donne une quantité, au même titre que mesurer l'activité cérébrale d'un humain qui souffre te donne une quantité. Mais ça ne te permet pas de dire si une personne souffre ou non. C'est en corrélant d'autres observations, comme son comportement dépressif, ses cris de douleurs, ses opinions négatives, etc. que tu identifieras ça à de la souffrance.

Mais tu pourras me retoquer "Je n'ai qu'à coder ma machine pour que, quand ma variable dépasse un certain seuil, on puisse observer ces comportements, et j'aurai une machine souffrante !". Sauf qu'on aura encore là un point fondamental qui sépare la machine de l'être vivant : ce comportement n'est pas naturel, il a été introduit pour répondre à un besoin (celui de simuler la souffrance telle qu'on la connaît). A contrario, la souffrance d'un être vivant est le résultat de son évolution, et donc un mécanisme émergent. Nous, on a le second, on peut donc comprendre ou ressentir son impact, et donc faire preuve d'empathie amenant à ne pas le souhaiter pour l'autre, parce qu'on ne le souhaite pas pour nous-même. Le premier en revanche, difficile de faire preuve d'empathie quand on sait que c'est un comportement décidé de manière arbitraire, et donc fondamentalement différent du notre.

Avant d'en arriver à parler éthique, il va falloir établir si des notions telles que souffrance, plaisir, intention, volonté sont applicables à la machine. Pour l'instant, je n'en suis pas convaincu.
1  0