Les Nations unies mettent en garde contre les risques liés à l'implantation de puces d'IA dans le cerveau,

Affirmant que cela pourrait menacer la confidentialité des pensées des utilisateurs

Les Nations unies mettent en garde contre les risques liés à l'implantation de puces d'IA dans le cerveau
affirmant que cela pourrait menacer la confidentialité des pensées des utilisateurs

Les Nations unies tirent la sonnette d'alarme sur les risques liés aux implants cérébraux. L'organisation estime que les progrès potentiellement dangereux des neurotechnologies pourraient permettre à l'IA d'empiéter sur les pensées privées de l'homme. Elle pense que certaines pensées sont "privées" et doivent vraiment être gardées pour soi, ce qui signifie que leur lecture par un système d'IA implanté dans le cerveau pourrait s'avérer dangereuse pour la personne concernée. La mise en garde concerne aussi les risques médicaux liés à ces implants. Entre-temps, Neuralink d'Elon Musk vient d'être autorisé à tester ces puces cérébrales sur des humains.

L'UNESCO affirme que les IHM menacent la confidentialité des pensées humaines

La neurotechnologie est définie au sens large comme les dispositifs électroniques, y compris les IHM et les scanners cérébraux, qui interfèrent avec le cerveau ou le système nerveux. Elle a traditionnellement été utilisée à des fins médicales, notamment pour aider les patients paralysés à retrouver le mouvement, la vue ou l'ouïe. Toutefois, les progrès récents ont suscité des inquiétudes quant à son caractère potentiellement intrusif. Une étude aux implications dystopiques a réussi à combiner les capacités d'un grand modèle de langage (LLM) avec un scanner cérébral IRM fonctionnel pour lire les pensées des gens et les articuler sous forme écrite.

Les récents progrès dans le domaine de la neurotechnologie, rendus possibles par l'utilisation de l'IA, ont suscité l'inquiétude des experts quant aux problèmes potentiels de protection de la vie privée. Mariagrazia Squicciarini, économiste spécialisée dans l'IA à l'UNESCO, décrit ces progrès comme de la neurotechnologie sous stéroïdes. « C'est comme si l'on mettait la neurotechnologie sous stéroïdes » , a déclaré Squicciarini. Pour répondre à ces craintes, l'UNESCO a annoncé, lors d'une conférence internationale à Paris, qu'elle allait élaborer un "cadre éthique" destiné à traiter les questions de droits de l'homme soulevées par les neurotechnologies.


Gabriela Ramos, sous-directrice générale de l'UNESCO pour les sciences sociales et humaines, a déclaré qu'à moins d'être réglementées de manière appropriée et étendue, les interfaces homme-machine (IHM) pilotées par l'IA comme celles développées par Neuralink peuvent être utilisées pour lire vos pensées, et même changer votre façon de penser. Dans une déclaration à l'AFP la semaine dernière, Ramos a déclaré que l'UNESCO s'inquiète de la menace que les IHM représentent pour les droits de l'homme et la confidentialité des pensées. Elle a ajouté que cette technologie avait des capacités considérables et potentiellement nuisibles.

« Nous sommes sur la voie d'un monde dans lequel les algorithmes nous permettront de décoder les processus mentaux des gens et de manipuler directement les mécanismes cérébraux qui sous-tendent leurs intentions, leurs émotions et leurs décisions », a déclaré Ramos. Concrètement, cela signifie que les entreprises (et peut-être même les autorités gouvernementales) seraient en mesure d'utiliser les IHM pour savoir ce que les gens pensent et la façon dont ils le pensent. Elles pourraient également enregistrer leurs pensées les plus intimes et éventuellement modifier leur façon de penser, sans même que ces personnes s'en rendent compte.

Les responsables de l'UNESCO estiment que si la technologie peut changer la vie, elle peut aussi avoir un coût. Ils se sont entretenus avec Hannah Galvin, une femme épileptique à qui l'on a installé un dispositif neurotechnique dans le cerveau pour détecter les crises et indiquer aux patients quand s'allonger. Mais l'appareil a fini par aggraver la vie de Galvin, qui a déclaré qu'elle avait jusqu'à 100 crises par jour. « J'avais l'impression qu'il y avait quelqu'un dans ma tête et que ce n'était pas moi. Et je suis devenue de plus en plus déprimée. Je n'aimais pas ça du tout », a déclaré Galvin à l'UNESCO. Elle s'est finalement fait retirer l'appareil.

Les milliards investis par les entreprises pourraient servir à espionner les pensées

L'importance des capitaux investis dans l'industrie des neurotechnologies est une autre source d'inquiétude. Cette dernière fait écho à la croissance incontrôlée et au battage médiatique dont l'IA fait l'objet. L'aspect financier privilégie souvent des intérêts autres que ceux du grand public, comme nous l'avons vu avec l'IA. Selon un rapport de l'UNESCO, entre 2010 et 2020, les investissements dans les entreprises de neurotechnologie ont grimpé en flèche pour atteindre plus de 33 milliards de dollars, soit une multiplication par 22. En outre, le nombre de brevets dans le domaine des neurotechnologies a doublé au cours de la moitié de cette période.

La société Neuralink, fondée par Elon Musk, qui a récemment obtenu l'autorisation de la Food and Drug Administration (FDA) des États-Unis de mener des essais sur l'homme pour ses implants cérébraux, fait figure de chef de file dans ce domaine. La nouvelle société d'IA de Musk, xAI, vient renforcer les efforts de Neuralink. Et même si Neuralink n'est pas la première entreprise d'IHM, elle est certainement la plus populaire de toutes, grâce à l'implication de Musk. L'UNESCO reconnaît que les neurotechnologies présentent des aspects positifs, mais l'organisation souligne l'absence de réglementation globale pour relever les défis futurs dans ce domaine.

Neuralink est une société de neurotechnologie qui vise à créer des implants cérébraux pour traiter les maladies et intégrer de nouvelles capacités logicielles avancées au cerveau humain. Outre le traitement potentiel de maladies cérébrales telles que l'épilepsie et la maladie de Parkinson, le dispositif crânien agirait également comme une sorte de couche numérique qui fusionne la matière grise humaine avec des outils technologiques avancés. Neuralink teste depuis quelques années ses prototypes sur des animaux, notamment des porcs, des moutons et des singes. Cependant, plusieurs rapports ont accusé l'entreprise de cruauté envers ces animaux.

Neuralink a été accusée de causer des souffrances et des décès inutiles d'animaux sous la pression de Musk. En décembre 2022, des documents internes examinés par les enquêteurs ont révélé qu'environ 1 500 animaux - dont plus de 280 moutons, cochons et singes - sont morts à la suite de tests de Neuralink depuis 2018. Neuralink a également mené des recherches sur des rats et des souris. Le taux de décès ne signifie pas nécessairement que Neuralink viole la réglementation ou les pratiques de recherche standard, car de plusieurs entreprises utilisent régulièrement des animaux dans des expériences pour faire progresser les soins de santé humaine.

La prochaine étape pour Neuralink est de tester ses implants sur des humains volontaires. La société a reçu l’autorisation de la FDA pour mener une étude clinique de phase I. La société espère commencer les essais cliniques sur des humains à la mi-2023, après avoir recruté les candidats et obtenu leur consentement éclairé. Elle a lancé un registre de patients qui permet aux personnes intéressées par les implants de se faire connaître et de recevoir des informations sur les futures études. Des sceptiques mettent toutefois en garde contre les risques d'une telle expérience en raison du succès limité des puces d'IA de Neuralink sur les animaux.

« La neurotechnologie pourrait aider à résoudre de nombreux problèmes de santé, mais elle pourrait aussi accéder au cerveau des gens et le manipuler, et produire des informations sur nos identités et nos émotions. Elles pourraient menacer nos droits à la dignité humaine, à la liberté de pensée et à la vie privée », a déclaré Audrey Azoulay, directrice générale de l'UNESCO, en juin, lorsqu'elle a proposé un "cadre éthique commun au niveau international".

Source : UNESCO

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des préoccupations soulignées par l'UNESCO ?
Que pensez-vous des risques liés aux implants cérébraux ?
Les implants cérébraux introduisent-ils de nouveaux risques de sécurité des données ?
Selon vous, les avantages des implants cérébraux l'emportent-ils sur les inconvénients ?
Les entreprises vont-elles détourner les implants cérébraux pour espionner les pensées ?

Voir aussi

Neuralink d'Elon Musk obtient le feu vert de la FDA pour tester ses implants cérébraux sur des humains, après des essais réalisés uniquement sur les animaux

Neuralink d'Elon Musk aurait tué 1 500 animaux en quatre ans et est maintenant poursuivie pour cruauté envers les animaux, Musk aurait précipité les tests, ce qui a conduit à des erreurs graves

Elon Musk fait sensation à Paris via des gens qui bagarrent pour entrer et assister à sa conférence : « Nous espérons lancer le premier essai de pose de puces cérébrales sur l'homme cette année »