Le professeur Nita Farahany affirme que les intrusions dans l'esprit sont si proches

Que les législateurs devraient adopter des mesures pour protéger nos pensées privées de la technologie

Le professeur Nita Farahany affirme que les intrusions dans l'esprit sont si proches,
que les législateurs devraient adopter des mesures pour protéger nos pensées privées de la technologie

L'enthousiasme des chercheurs et des organisations pour la recherche et le développement d'interfaces cerveau-machine (ICM) s'est grandement développé lors de ces dernières années. Pour le moment, les dispositifs de contrôle de l'esprit les plus avancés testés chez l'homme ou les animaux reposent sur de minuscules fils ou puces insérées dans le cerveau. Dans son nouveau livre, The Battle for Your Brain, le professeur Nita Farahany affirme que les intrusions dans l'esprit sont si proches que les législateurs devraient adopter des mesures de protection.

Les pensées privées pourraient ne plus l'être très longtemps, annonçant un monde cauchemardesque où les opinions politiques, les pensées, les obsessions errantes et les sentiments pourraient être interrogés et punis grâce aux progrès de la neurotechnologie. C'est du moins ce que pense l'un des plus grands éthiciens juridiques des neurosciences. Le professeur Nita Farahany porte un dispositif de suivi des performances cérébrales à l'université Duke de Durham, en Caroline du Nord. « Nous avons besoin d'un nouveau droit de l'homme à la liberté cognitive », déclare Prof Nita Farahany.


Dans son livre intitulé, The Battle for Your Brain, Nita Farahany, professeur de biosciences à l'université Duke, allègue que ces intrusions technologiques dans l'esprit humain sont si proches qu'un débat public s'impose depuis longtemps et que les législateurs devraient immédiatement mettre en place des protections du cerveau, comme ils le feraient pour tout autre domaine de la liberté individuelle.

Comprendre le cerveau est un défi majeur pour l'avenir

Au cours des dernières décennies, des progrès considérables ont été réalisés dans la compréhension du fonctionnement du cerveau. Si nos processus de prise de décision restent centrés sur l'homme, en particulier sur le cerveau, il n'en reste pas moins que le cerveau est un élément essentiel de notre vie quotidienne. Avec sa capacité d'orientation (boucle OODA), alimentée par des données, des analyses et des visualisations, l'incapacité de l'être humain à s'adapter à la réalité est un problème majeur, il faut que les humains s'associent aux machines d'IA pour rivaliser avec ces dernières.

Afin de maintenir un équilibre entre l'homme et la machine dans le processus de prise de décision, il est nécessaire d'être conscient des limites et des vulnérabilités humaines. Tout commence par la compréhension de nos processus cognitifs et du fonctionnement de notre cerveau.

Au cours des deux dernières décennies, les sciences cognitives et les neurosciences ont franchi une nouvelle étape dans l'analyse et la compréhension du cerveau humain, et ont ouvert de nouvelles perspectives en termes de recherche sur le cerveau, voire d'hybridation, entre l'intelligence humaine et l'intelligence artificielle. Elles ont surtout apporté une contribution majeure à l'étude de la diversité des mécanismes neuro-psychiques facilitant l'apprentissage et, de ce fait, ont, par exemple, remis en cause l'intuition des « intelligences multiples ».

Nul ne peut plus ignorer aujourd'hui que le cerveau est à la fois le siège des émotions, des mécanismes interactifs de mémorisation, de traitement de l'information, de résolution de problèmes et de prise de décision.


Les progrès en matière de piratage et de suivi des pensées, avec les craintes orwelliennes de contrôle de l'esprit, sont le sujet de l'étude de Farahany, ainsi que les appels urgents à des garanties législatives pour la protection de la vie privée, y compris les libertés contre les « empreintes cognitives », qui s'inscrivent dans un domaine de l'éthique appelé au sens large « liberté cognitive ».

Elon Musk, PDG de Tesla, est par exemple convaincu que sa startup Neuralink, spécialisée dans les interfaces cerveau-ordinateur, représente l'avenir des interactions entre l'homme et la technologie, mais de nombreux experts ne sont pas aussi convaincus. Des chercheurs ont exprimé leur horreur face à son objectif de connecter les cerveaux humains aux ordinateurs. Au cœur de leur inquiétude se trouve « l'infusion de la Big Tech dans l'esprit ».

En janvier 2022, la société d'interface cerveau-machine d'Elon Musk, Neuralink, a publié une nouvelle offre d'emploi pour un directeur d'essais cliniques, un poste qui pourrait aider l'entreprise à progresser vers son objectif déclaré de tester son implant cérébral sur des hommes. Des chercheurs et des scientifiques ont exprimé leur horreur face à cet objectif de Musk de connecter les cerveaux humains aux ordinateurs.

Il est certain que ce domaine progresse rapidement. Le lancement récent de ChatGPT et d'autres innovations technologiques en matière d'IA ont montré que certains aspects de la simulation de la pensée, appelée apprentissage automatique, sont déjà présents. Il a également été largement noté que Neuralink d'Elon Musk et Meta de Mark Zuckerberg travaillent sur des interfaces cérébrales capables de lire directement les pensées.

Dans une offre publiée sur son site officiel, Neuralink indique : « En tant que directeur des essais cliniques, l’employé travaillera en étroite collaboration avec certains des médecins et ingénieurs de pointe, ainsi qu'avec les premiers participants aux essais cliniques de Neuralink. Il dirigera et aidera à mettre sur pied l'équipe chargée de faciliter les activités de recherche clinique de Neuralink et de développer les interactions réglementaires qui accompagnent un environnement en constante évolution et au rythme rapide. Vous êtes motivé par votre mission et êtes capable de respecter des délais serrés avec précision et efficacité. »

Des chercheurs et les scientifiques expriment leur horreur

Pour les chercheurs et les scientifiques qui ont exprimé leur horreur face à l'objectif de Musk, l'éthique entourant une technologie telle que le Neuralink est un territoire inexploré. En l'état, beaucoup s'inquiètent de la façon dont ces produits ostensiblement destinés à aider les personnes handicapées peuvent finalement être exploités à des fins lucratives.

« Je ne pense pas qu'il y ait un discours public suffisant sur les implications globales de la disponibilité de ce type de technologie » a déclaré le Dr Karola Kreitmair, professeur adjoint d'histoire de la médecine et de bioéthique à l'université du Wisconsin. « Je crains qu'il y ait ce mariage inconfortable entre une entreprise à but lucratif », a-t-elle ajouté.

« Si le but ultime est d'utiliser les données cérébrales acquises pour d'autres dispositifs, ou d'utiliser ces dispositifs pour d'autres choses, disons pour conduire des voitures, pour conduire des Tesla alors il pourrait y avoir un marché beaucoup, beaucoup plus grand », a déclaré le Dr L. Syd Johnson, professeur associé au Centre de bioéthique et d'humanités de la SUNY Upstate Medical University. « Mais alors tous ces sujets de recherche humains des personnes ayant des besoins réels sont exploités et utilisés dans des recherches risquées pour le profit commercial de quelqu'un d'autre », a-t-elle poursuivi.

Kreitmair s'est fait l'écho de ce sentiment. Bien qu'elle pense que cette technologie pourrait « changer la vie » des personnes paralysées, elle aurait déclaré que son potentiel d'utilisation par les consommateurs « soulève un grand nombre de problèmes éthiques. »

Un nouveau domaine de médicaments améliorant les facultés cognitives - appelés « nootropiques » - est en cours de développement. Des technologies permettant aux personnes paralysées de contrôler un membre artificiel ou d'écrire un texte sur un écran simplement en le pensant sont en cours d'élaboration. Les employés d'une startup d'interface cérébrale appelée Synchron travailleraient sur une technologie destinée à transformer la vie quotidienne des personnes paralysées.

Fondée en 2012, Synchron fait partie de l'industrie florissante d'interfaces cerveau-machine (ICM). Une ICM est un système qui déchiffre les signaux du cerveau et les traduit en commandes pour des technologies externes.

Synchron, startup américaine, spécialisée dans les interfaces cérébrales et soutenue par le fondateur d'Amazon Jeff Bezos et le cofondateur de Microsoft Bill Gates, fait partie d'un groupe émergent d'entreprises qui testent des technologies dans le secteur des interfaces cerveau-ordinateur. En décembre de l'année dernière, la société a annoncé un tour de financement de 75 millions de dollars, incluant des fonds provenant des sociétés d'investissement de Microsoft, du cofondateur Bill Gates et d'Amazon.

La Food and Drug Administration américaine a accordé à Synchron la désignation Breakthrough Device en août 2020, qui est réservée aux dispositifs médicaux ayant le potentiel d'améliorer le traitement de maladies débilitantes ou potentiellement mortelles.

Le matériel Synchron est implanté dans les vaisseaux sanguins pour permettre aux personnes dont la mobilité physique est nulle ou très limitée de faire fonctionner des technologies telles que des curseurs et des appareils domestiques intelligents en utilisant leur esprit. Jusqu'à présent, cette technologie naissante a été utilisée sur trois patients aux États-Unis et quatre en Australie.

« J'ai vu des moments entre le patient et son partenaire, ou le patient et son conjoint, où c'est incroyablement joyeux et valorisant d'avoir retrouvé une capacité à être un peu plus indépendant qu'avant », a déclaré Tom Oxley, PDG de Synchron. « Cela les aide à s'engager d'une manière que nous considérons comme acquise ».

Outre les nombreux avantages qu'elles présentent, les technologies de l'information et de la communication font peser des menaces évidentes sur l'endoctrinement et l'ingérence politiques, la surveillance des lieux de travail ou de la police, la prise d'empreintes cérébrales, le droit d'avoir des pensées, bonnes ou mauvaises, les conséquences sur le rôle de l'"intention" dans le système judiciaire, et bien d'autres choses encore.

Farahany, qui a fait partie de la commission de Barack Obama chargée d'étudier les questions de bioéthique, estime que les progrès de la neurotechnologie signifient que les intrusions dans la vie privée du cerveau, que ce soit par le biais de programmes militaires ou de laboratoires de recherche bien financés au sein de grandes entreprises technologiques, sont à portée de main grâce aux innovations cerveau-ordinateur telles que les technologies portables.

« Toutes les grandes entreprises technologiques investissent massivement dans des dispositifs multifonctionnels dotés de capteurs cérébraux », a déclaré Farahany. « Les capteurs neuronaux feront partie de notre technologie quotidienne et de la manière dont nous interagissons avec cette technologie.

En début de ce mois, des scientifiques de plusieurs disciplines ont dévoilé une feuille de route pour créer des bio-ordinateurs à partir de cellules cérébrales humaines. L'initiative consiste en la création de systèmes de bio-informatique pour lesquels des cultures tridimensionnelles de cellules cérébrales, appelées organoïdes, servent de matériel biologique. Ils appellent ce nouveau domaine interdisciplinaire "intelligence organoïde" (IO). L'objectif des chercheurs est de développer l'IO comme « une forme de véritable informatique biologique qui exploite les organoïdes cérébraux en utilisant les progrès de la science et de la bio-ingénierie d'une manière éthiquement responsable ».

Qu'est-ce que l'intelligence organoïde ?

Le cerveau humain a inspiré l'IA - qui peut accomplir un large éventail de tâches, du diagnostic des maladies à la création de contenu intelligent. Toutefois, le cerveau, qui est le modèle original, continue de surpasser l'IA à bien des égards : la puissance de calcul de l'IA est dérisoire comparativement à celle du cerveau humain. Pour de nombreux chercheurs, il est donc préférable de travailler directement sur la surface, plutôt que de rendre l'IA plus semblable au cerveau. Un groupe de scientifiques a dévoilé mardi les plans d'un projet visant à faire progresser l'informatique dans ce sens. La feuille de route décrit ce qu'ils appellent « l'intelligence organoïde » (IO).

« Nous appelons ce nouveau domaine interdisciplinaire intelligence organoïde. Un groupe de scientifiques de haut niveau s'est réuni pour développer cette technologie, qui, selon nous, lancera une nouvelle ère de bio-informatique rapide, puissante et efficace », a déclaré le professeur Thomas Hartung de l'université Johns Hopkins. Le plan, publié dans la revue Frontiers in Science, vise à créer des bio-ordinateurs alimentés par des cellules cérébrales humaines. Selon les experts, ces bio-ordinateurs pourraient être plus rapides, plus efficaces et plus puissants que l'informatique et l'IA basées sur le silicium, et ne nécessiteront qu'une fraction de l'énergie.

Selon Farahany, les progrès scientifiques visant à décoder et à réécrire les fonctions cérébrales sont très répandus et représentent un risque perceptible, qui nécessite une action urgente afin de le soumettre à des contrôles convenus. « Nous avons le temps d'agir avant que cela ne se produise, à la fois en prenant conscience de ce qui se passe et en faisant les choix cruciaux que nous devons faire maintenant pour décider comment utiliser la technologie d'une manière qui soit bonne et non pas abusive ou oppressive.

D'une certaine manière, nous utilisons déjà la technologie pour traduire nos pensées et aider notre esprit. La capacité des médias sociaux à lire dans les pensées est déjà offerte, gratuitement, par la participation à des fonctions « j'aime » et « je n'aime pas », à des algorithmes prédictifs, à des textes prédictifs, etc. Mais les progrès des neurotechnologies - qui exploitent une connexion directe avec le cerveau - permettraient des incursions plus précises et donc potentiellement dangereuses dans un domaine jusqu'ici privé.

« J'ai écrit ce livre en mettant l'accent sur les neurotechnologies, mais pas seulement sur les neurotechnologies, mais sur toutes les façons dont nos cerveaux peuvent être piratés et suivis, et le sont déjà », a déclaré Farahany. Les inquiétudes concernant les neurosciences à vocation militaire, appelées « sixième dimension de la guerre », ne sont pas nouvelles en soi.

La Defense Advanced Research Projects Agency (Darpa) finance la recherche sur le cerveau depuis les années 1970. En 2001, l'organisme militaire a lancé un programme visant à « développer des technologies pour renforcer les capacités des combattants ».

Vers un nouveau domaine opérationnel

L'avènement du concept de « guerre cognitive » (GC) apporte au champ de bataille moderne une troisième dimension de combat majeure : aux dimensions physique et informationnelle s'ajoute désormais une dimension cognitive. Elle crée un nouvel espace de compétition, au-delà des domaines terrestre, maritime, aérien, cybernétique et spatial, que les adversaires ont déjà intégrés.

Dans un monde imprégné de technologie, la guerre dans le domaine cognitif mobilise un éventail plus large d'espaces de bataille que les domaines physique et spatial. Son essence même est de prendre le contrôle d'êtres humains (civils et militaires), d'organisations, de nations, mais aussi d'idées, de psychologie, en particulier de comportements, des pensées, ainsi que de l'environnement. En outre, les progrès rapides des sciences du cerveau, dans le cadre d'une guerre cognitive au sens large, ont le potentiel d'élargir considérablement les conflits traditionnels et de produire des effets à moindre coût.

Par l'action conjointe qu'elle exerce sur les 3 dimensions (physique, informationnelle et cognitive), la guerre cognitive incarne l'idée du combat sans combat chère à Sun Tzu (« L'art suprême de la guerre est de soumettre l'ennemi sans combattre »). Elle nécessite donc la mobilisation d'un savoir beaucoup plus large. Les conflits futurs se dérouleront probablement parmi les populations, d'abord numériquement, puis physiquement à proximité des centres de pouvoir politique et économique.
L'étude du domaine cognitif, donc centré sur l'être humain, constitue un nouveau défi majeur indispensable à toute stratégie relative à la génération de la puissance de combat de l'avenir.

La cognition est notre « machine à penser ». La fonction de la cognition est de percevoir, de prêter attention, de mémoriser, de raisonner, de produire des mouvements, de s'exprimer, de décider. Agir sur la cognition, c'est agir sur l'être humain. Définir un domaine cognitif serait donc trop restrictif ; un domaine humain serait donc plus approprié. Si les actions entreprises dans les cinq domaines sont exécutées pour avoir un effet sur le domaine humain domaine, l'objectif de la guerre cognitive est de faire de chacun une arme.

« Pour renverser la situation, l'OTAN doit s'efforcer de définir la guerre cognitive au sens large et doit avoir une conscience claire de ce qu'elle signifie et de ce qu'elle implique. Une conscience claire des significations et des avancées des acteurs internationaux qui fournissent à l'OTAN des défis stratégiques spécifiques en matière de sécurité et des défis plus larges dans le domaine de la sécurité », décrit Nita Farahany.


Le gouvernement américain a dressé une liste noire d'instituts et d'entreprises chinoises qui, selon lui, travaillent sur des « processus biotechnologiques dangereux pour soutenir les utilisations finales militaires chinoises », y compris l'armement prétendument destiné à contrôler le cerveau.

Fin 2021, le ministère du commerce a ajouté 34 entités basées en Chine à une liste noire, citant certaines d'entre elles pour leur implication dans la création de biotechnologies comprenant des « prétendues armes de contrôle du cerveau » et pour avoir « agi contrairement à la politique étrangère ou aux intérêts de sécurité nationale » des États-Unis.

Liste des 34 entités basées en Chine sur la liste noire

[LIST=1][*]Academy of Military Medical Sciences ;[*]Academy of Military Medical Sciences, Field Blood Transfusion Institution ;[*]Academy of Military Medical Sciences, Institute of Basic Medicine ;[*]Academy of Military Medical Sciences, Institute of Bioengineering ;[*]Academy of Military Medical Sciences, Institute of Disease Control and Prevention ;[*]Academy of Military Medical Sciences, Institute of Health Service and Medical Information ;[*]Academy of Military Medical Sciences, Institute of Hygiene and Environmental Medicine ;[*]Academy of Military Medical Sciences, Institute of Medical Equipment ;[*]Academy of Military Medical Sciences, Institute of Microbiology and Epidemiology ; [*]Academy of Military Medical Sciences, Institute of Radiation and Radiation Medicine ;[*]Academy of Military[/*]...