Les pensées privées pourraient ne plus l'être très longtemps, annonçant un monde cauchemardesque où les opinions politiques, les pensées, les obsessions errantes et les sentiments pourraient être interrogés et punis grâce aux progrès de la neurotechnologie. C'est du moins ce que pense l'un des plus grands éthiciens juridiques des neurosciences. Le professeur Nita Farahany porte un dispositif de suivi des performances cérébrales à l'université Duke de Durham, en Caroline du Nord. « Nous avons besoin d'un nouveau droit de l'homme à la liberté cognitive », déclare Prof Nita Farahany.
Dans son livre intitulé, The Battle for Your Brain, Nita Farahany, professeur de biosciences à l'université Duke, allègue que ces intrusions technologiques dans l'esprit humain sont si proches qu'un débat public s'impose depuis longtemps et que les législateurs devraient immédiatement mettre en place des protections du cerveau, comme ils le feraient pour tout autre domaine de la liberté individuelle.
Comprendre le cerveau est un défi majeur pour l'avenir
Au cours des dernières décennies, des progrès considérables ont été réalisés dans la compréhension du fonctionnement du cerveau. Si nos processus de prise de décision restent centrés sur l'homme, en particulier sur le cerveau, il n'en reste pas moins que le cerveau est un élément essentiel de notre vie quotidienne. Avec sa capacité d'orientation (boucle OODA), alimentée par des données, des analyses et des visualisations, l'incapacité de l'être humain à s'adapter à la réalité est un problème majeur, il faut que les humains s'associent aux machines d'IA pour rivaliser avec ces dernières.
Afin de maintenir un équilibre entre l'homme et la machine dans le processus de prise de décision, il est nécessaire d'être conscient des limites et des vulnérabilités humaines. Tout commence par la compréhension de nos processus cognitifs et du fonctionnement de notre cerveau.
Au cours des deux dernières décennies, les sciences cognitives et les neurosciences ont franchi une nouvelle étape dans l'analyse et la compréhension du cerveau humain, et ont ouvert de nouvelles perspectives en termes de recherche sur le cerveau, voire d'hybridation, entre l'intelligence humaine et l'intelligence artificielle. Elles ont surtout apporté une contribution majeure à l'étude de la diversité des mécanismes neuro-psychiques facilitant l'apprentissage et, de ce fait, ont, par exemple, remis en cause l'intuition des « intelligences multiples ».
Nul ne peut plus ignorer aujourd'hui que le cerveau est à la fois le siège des émotions, des mécanismes interactifs de mémorisation, de traitement de l'information, de résolution de problèmes et de prise de décision.
Les progrès en matière de piratage et de suivi des pensées, avec les craintes orwelliennes de contrôle de l'esprit, sont le sujet de l'étude de Farahany, ainsi que les appels urgents à des garanties législatives pour la protection de la vie privée, y compris les libertés contre les « empreintes cognitives », qui s'inscrivent dans un domaine de l'éthique appelé au sens large « liberté cognitive ».
Elon Musk, PDG de Tesla, est par exemple convaincu que sa startup Neuralink, spécialisée dans les interfaces cerveau-ordinateur, représente l'avenir des interactions entre l'homme et la technologie, mais de nombreux experts ne sont pas aussi convaincus. Des chercheurs ont exprimé leur horreur face à son objectif de connecter les cerveaux humains aux ordinateurs. Au cœur de leur inquiétude se trouve « l'infusion de la Big Tech dans l'esprit ».
En janvier 2022, la société d'interface cerveau-machine d'Elon Musk, Neuralink, a publié une nouvelle offre d'emploi pour un directeur d'essais cliniques, un poste qui pourrait aider l'entreprise à progresser vers son objectif déclaré de tester son implant cérébral sur des hommes. Des chercheurs et des scientifiques ont exprimé leur horreur face à cet objectif de Musk de connecter les cerveaux humains aux ordinateurs.
Il est certain que ce domaine progresse rapidement. Le lancement récent de ChatGPT et d'autres innovations technologiques en matière d'IA ont montré que certains aspects de la simulation de la pensée, appelée apprentissage automatique, sont déjà présents. Il a également été largement noté que Neuralink d'Elon Musk et Meta de Mark Zuckerberg travaillent sur des interfaces cérébrales capables de lire directement les pensées.
Dans une offre publiée sur son site officiel, Neuralink indique : « En tant que directeur des essais cliniques, l’employé travaillera en étroite collaboration avec certains des médecins et ingénieurs de pointe, ainsi qu'avec les premiers participants aux essais cliniques de Neuralink. Il dirigera et aidera à mettre sur pied l'équipe chargée de faciliter les activités de recherche clinique de Neuralink et de développer les interactions réglementaires qui accompagnent un environnement en constante évolution et au rythme rapide. Vous êtes motivé par votre mission et êtes capable de respecter des délais serrés avec précision et efficacité. »
Des chercheurs et les scientifiques expriment leur horreur
Pour les chercheurs et les scientifiques qui ont exprimé leur horreur face à l'objectif de Musk, l'éthique entourant une technologie telle que le Neuralink est un territoire inexploré. En l'état, beaucoup s'inquiètent de la façon dont ces produits ostensiblement destinés à aider les personnes handicapées peuvent finalement être exploités à des fins lucratives.
« Je ne pense pas qu'il y ait un discours public suffisant sur les implications globales de la disponibilité de ce type de technologie » a déclaré le Dr Karola Kreitmair, professeur adjoint d'histoire de la médecine et de bioéthique à l'université du Wisconsin. « Je crains qu'il y ait ce mariage inconfortable entre une entreprise à but lucratif », a-t-elle ajouté.
« Si le but ultime est d'utiliser les données cérébrales acquises pour d'autres dispositifs, ou d'utiliser ces dispositifs pour d'autres choses, disons pour conduire des voitures, pour conduire des Tesla alors il pourrait y avoir un marché beaucoup, beaucoup plus grand », a déclaré le Dr L. Syd Johnson, professeur associé au Centre de bioéthique et d'humanités de la SUNY Upstate Medical University. « Mais alors tous ces sujets de recherche humains des personnes ayant des besoins réels sont exploités et utilisés dans des recherches risquées pour le profit commercial de quelqu'un d'autre », a-t-elle poursuivi.
Kreitmair s'est fait l'écho de ce sentiment. Bien qu'elle pense que cette technologie pourrait « changer la vie » des personnes paralysées, elle aurait déclaré que son potentiel d'utilisation par les consommateurs « soulève un grand nombre de problèmes éthiques. »
Un nouveau domaine de médicaments améliorant les facultés cognitives - appelés « nootropiques » - est en cours de développement. Des technologies permettant aux personnes paralysées de contrôler un membre artificiel ou d'écrire un texte sur un écran simplement en le pensant sont en cours d'élaboration. Les employés d'une startup d'interface cérébrale appelée Synchron travailleraient sur une technologie destinée à transformer la vie quotidienne des personnes paralysées.
Fondée en 2012, Synchron fait partie de l'industrie florissante d'interfaces cerveau-machine (ICM). Une ICM est un système qui déchiffre les signaux du cerveau et les traduit en commandes pour des technologies externes.
Synchron, startup américaine, spécialisée dans les interfaces cérébrales et soutenue par le fondateur d'Amazon Jeff Bezos et le cofondateur de Microsoft Bill Gates, fait partie d'un groupe émergent d'entreprises qui testent des technologies dans le secteur des interfaces cerveau-ordinateur. En décembre de l'année dernière, la société a annoncé un tour de financement de 75 millions de dollars, incluant des fonds provenant des sociétés d'investissement de Microsoft, du cofondateur Bill Gates et d'Amazon.
La Food and Drug Administration américaine a accordé à Synchron la désignation Breakthrough Device en août 2020, qui est réservée aux dispositifs médicaux ayant le potentiel d'améliorer le traitement de maladies débilitantes ou potentiellement mortelles.
Le matériel Synchron est implanté dans les vaisseaux sanguins pour permettre aux personnes dont la mobilité physique est nulle ou très limitée de faire fonctionner des technologies telles que des curseurs et des appareils domestiques intelligents en utilisant leur esprit. Jusqu'à présent, cette technologie naissante a été utilisée sur trois patients aux États-Unis et quatre en Australie.
« J'ai vu des moments entre le patient et son partenaire, ou le patient et son conjoint, où c'est incroyablement joyeux et valorisant d'avoir retrouvé une capacité à être un peu plus indépendant qu'avant », a déclaré Tom Oxley, PDG de Synchron. « Cela les aide à s'engager d'une manière que nous considérons comme acquise ».
Outre les nombreux avantages qu'elles présentent, les technologies de l'information et de la communication font peser des menaces évidentes sur l'endoctrinement et l'ingérence politiques, la surveillance des lieux de travail ou de la police, la prise d'empreintes cérébrales, le droit d'avoir des pensées, bonnes ou mauvaises, les conséquences sur le rôle de l'"intention" dans le système judiciaire, et bien d'autres choses encore.
Farahany, qui a fait partie de la commission de Barack Obama chargée d'étudier les questions de bioéthique, estime que les progrès de la neurotechnologie signifient que les intrusions dans la vie privée du cerveau, que ce soit par le biais de programmes militaires ou de laboratoires de recherche bien financés au sein de grandes entreprises technologiques, sont à portée de main grâce aux innovations cerveau-ordinateur telles que les technologies portables.
« Toutes les grandes entreprises technologiques investissent massivement dans des dispositifs multifonctionnels dotés de capteurs cérébraux », a déclaré Farahany. « Les capteurs neuronaux feront partie de notre technologie quotidienne et de la manière dont nous interagissons avec cette technologie.
En début de ce mois, des scientifiques de plusieurs disciplines ont dévoilé une feuille de route pour créer des bio-ordinateurs à partir de cellules cérébrales humaines. L'initiative consiste en la création de systèmes de bio-informatique pour lesquels des cultures tridimensionnelles de cellules cérébrales, appelées organoïdes, servent de matériel biologique. Ils appellent ce nouveau domaine interdisciplinaire "intelligence organoïde" (IO). L'objectif des chercheurs est de développer l'IO comme « une forme de véritable informatique biologique qui exploite les organoïdes cérébraux en utilisant les progrès de la science et de la bio-ingénierie d'une manière éthiquement responsable ».
Qu'est-ce que l'intelligence organoïde ?
Le cerveau humain a inspiré l'IA - qui peut accomplir un large éventail de tâches, du diagnostic des maladies à la création de contenu intelligent. Toutefois, le cerveau, qui est le modèle original, continue de surpasser l'IA à bien des égards : la puissance de calcul de l'IA est dérisoire comparativement à celle du cerveau humain. Pour de nombreux chercheurs, il est donc préférable de travailler directement sur la surface, plutôt que de rendre l'IA plus semblable au cerveau. Un groupe de scientifiques a dévoilé mardi les plans d'un projet visant à faire progresser l'informatique dans ce sens. La feuille de route décrit ce qu'ils appellent « l'intelligence organoïde » (IO).
« Nous appelons ce nouveau domaine interdisciplinaire intelligence organoïde. Un groupe de scientifiques de haut niveau s'est réuni pour développer cette technologie, qui, selon nous, lancera une nouvelle ère de bio-informatique rapide, puissante et efficace », a déclaré le professeur Thomas Hartung de l'université Johns Hopkins. Le plan, publié dans la revue Frontiers in Science, vise à créer des bio-ordinateurs alimentés par des cellules cérébrales humaines. Selon les experts, ces bio-ordinateurs pourraient être plus rapides, plus efficaces et plus puissants que l'informatique et l'IA basées sur le silicium, et ne nécessiteront qu'une fraction de l'énergie.
Selon Farahany, les progrès scientifiques visant à décoder et à réécrire les fonctions cérébrales sont très répandus et représentent un risque perceptible, qui nécessite une action urgente afin de le soumettre à des contrôles convenus. « Nous avons le temps d'agir avant que cela ne se produise, à la fois en prenant conscience de ce qui se passe et en faisant les choix cruciaux que nous devons faire maintenant pour décider comment utiliser la technologie d'une manière qui soit bonne et non pas abusive ou oppressive.
Envoyé par Nita Farahany
« J'ai écrit ce livre en mettant l'accent sur les neurotechnologies, mais pas seulement sur les neurotechnologies, mais sur toutes les façons dont nos cerveaux peuvent être piratés et suivis, et le sont déjà », a déclaré Farahany. Les inquiétudes concernant les neurosciences à vocation militaire, appelées « sixième dimension de la guerre », ne sont pas nouvelles en soi.
La Defense Advanced Research Projects Agency (Darpa) finance la recherche sur le cerveau depuis les années 1970. En 2001, l'organisme militaire a lancé un programme visant à « développer des technologies pour renforcer les capacités des combattants ».
Vers un nouveau domaine opérationnel
L'avènement du concept de « guerre cognitive » (GC) apporte au champ de bataille moderne une troisième dimension de combat majeure : aux dimensions physique et informationnelle s'ajoute désormais une dimension cognitive. Elle crée un nouvel espace de compétition, au-delà des domaines terrestre, maritime, aérien, cybernétique et spatial, que les adversaires ont déjà intégrés.
Dans un monde imprégné de technologie, la guerre dans le domaine cognitif mobilise un éventail plus large d'espaces de bataille que les domaines physique et spatial. Son essence même est de prendre le contrôle d'êtres humains (civils et militaires), d'organisations, de nations, mais aussi d'idées, de psychologie, en particulier de comportements, des pensées, ainsi que de l'environnement. En outre, les progrès rapides des sciences du cerveau, dans le cadre d'une guerre cognitive au sens large, ont le potentiel d'élargir considérablement les conflits traditionnels et de produire des effets à moindre coût.
Par l'action conjointe qu'elle exerce sur les 3 dimensions (physique, informationnelle et cognitive), la guerre cognitive incarne l'idée du combat sans combat chère à Sun Tzu (« L'art suprême de la guerre est de soumettre l'ennemi sans combattre »). Elle nécessite donc la mobilisation d'un savoir beaucoup plus large. Les conflits futurs se dérouleront probablement parmi les populations, d'abord numériquement, puis physiquement à proximité des centres de pouvoir politique et économique.
L'étude du domaine cognitif, donc centré sur l'être humain, constitue un nouveau défi majeur indispensable à toute stratégie relative à la génération de la puissance de combat de l'avenir.
La cognition est notre « machine à penser ». La fonction de la cognition est de percevoir, de prêter attention, de mémoriser, de raisonner, de produire des mouvements, de s'exprimer, de décider. Agir sur la cognition, c'est agir sur l'être humain. Définir un domaine cognitif serait donc trop restrictif ; un domaine humain serait donc plus approprié. Si les actions entreprises dans les cinq domaines sont exécutées pour avoir un effet sur le domaine humain domaine, l'objectif de la guerre cognitive est de faire de chacun une arme.
« Pour renverser la situation, l'OTAN doit s'efforcer de définir la guerre cognitive au sens large et doit avoir une conscience claire de ce qu'elle signifie et de ce qu'elle implique. Une conscience claire des significations et des avancées des acteurs internationaux qui fournissent à l'OTAN des défis stratégiques spécifiques en matière de sécurité et des défis plus larges dans le domaine de la sécurité », décrit Nita Farahany.
Le gouvernement américain a dressé une liste noire d'instituts et d'entreprises chinoises qui, selon lui, travaillent sur des « processus biotechnologiques dangereux pour soutenir les utilisations finales militaires chinoises », y compris l'armement prétendument destiné à contrôler le cerveau.
Fin 2021, le ministère du commerce a ajouté 34 entités basées en Chine à une liste noire, citant certaines d'entre elles pour leur implication dans la création de biotechnologies comprenant des « prétendues armes de contrôle du cerveau » et pour avoir « agi contrairement à la politique étrangère ou aux intérêts de sécurité nationale » des États-Unis.
Liste des 34 entités basées en Chine sur la liste noire
- Academy of Military Medical Sciences ;
- Academy of Military Medical Sciences, Field Blood Transfusion Institution ;
- Academy of Military Medical Sciences, Institute of Basic Medicine ;
- Academy of Military Medical Sciences, Institute of Bioengineering ;
- Academy of Military Medical Sciences, Institute of Disease Control and Prevention ;
- Academy of Military Medical Sciences, Institute of Health Service and Medical Information ;
- Academy of Military Medical Sciences, Institute of Hygiene and Environmental Medicine ;
- Academy of Military Medical Sciences, Institute of Medical Equipment ;
- Academy of Military Medical Sciences, Institute of Microbiology and Epidemiology ;
- Academy of Military Medical Sciences, Institute of Radiation and Radiation Medicine ;
- Academy of Military Medical Sciences, Institute of Toxicology and Pharmacology ;
- Academy of Military Medical Sciences, Military Veterinary Research Institute ;
- Aerosun Corporation ;
- Changsha Jingjia Microelectronics Co., Ltd. ;
- China Electronics Technology Group Corporation 52nd Research Institute ;
- Comtel Technology Limited ;
- Fujian Torch Electron Technology Co., Ltd. ;
- Hangzhou Hikmicro Sensing Technology Co., Ltd. ;
- HMN International Co., Ltd. ;
- Hong Kong Cheung Wah Electronics Technology Company Limited ;
- HSJ Electronics ;
- Hyper Systems Union Limited ;
- Inner Mongolia First Machinery Group Co., Ltd. ;
- Integrated Scientific Microwave Technology ;
- Jiangsu Hengtong Marine Cable Systems Co., Ltd. ;
- Jiangsu Hengtong Optic-Electric Co., Ltd. ;
- ROV Solutions ;
- Shaanxi Reactor Microelectronics Co., Ltd. ;
- Shanghai Aisinochip Electronics Technology Co., Ltd. ;
- Shanghai Aoshi Control Technology Co., Ltd. ;
- Shenzhen Rion Technology ;
- Thundsea Electric Limited ;
- Wavelet Electronics ;
- Zhongtian Technology Submarine Cable Co.
La guerre cognitive : une nouvelle forme de guerre
François du Cluzel, chef de projet au Nato Act Innovation Hub, a publié en novembre 2020 un rapport intitulé Cognitive Warfare qui, selon lui, « ne se limite pas au monde militaire ou institutionnel. Depuis le début des années 1990, cette capacité tend à s'appliquer aux domaines politique, économique, culturel et sociétal ». Comme l'indique le document Warfighting 2040, la nature de la guerre a changé.
La majorité des conflits actuels restent en deçà du seuil de la définition traditionnellement acceptée de la guerre, mais de nouvelles formes de guerre sont apparues, telles que la guerre cognitive (CW), tandis que l'esprit humain est désormais considéré comme un nouveau domaine de guerre. Avec le rôle croissant de la technologie et la surcharge d'informations, les capacités cognitives individuelles ne suffiront plus à garantir une prise de décision éclairée et opportune, ce qui a donné naissance au nouveau concept de guerre cognitive, qui est devenu un terme récurrent dans la terminologie militaire ces dernières années.
La guerre cognitive est un défi insidieux. Elle perturbe la compréhension et les réactions aux événements de manière graduelle et subtile, mais avec des effets néfastes importants au fil du temps. La guerre cognitive a une portée universelle, de l'individu aux organisations multinationales. Elle se nourrit des techniques de désinformation et de propagande visant à épuiser psychologiquement les récepteurs d'informations. Chacun y contribue, à des degrés divers, consciemment ou inconsciemment, et elle fournit des connaissances inestimables sur la société, en particulier sur les sociétés ouvertes, comme celles de l'Occident.
Ces connaissances peuvent ensuite être facilement militarisées. Elle offre aux adversaires de l'OTAN un moyen de contourner le champ de bataille traditionnel, avec des résultats stratégiques importants, qui peuvent être utilisés pour faire face à des situations d'urgence. Les instruments de la guerre de l'information, auxquels s'ajoutent les « neuro-armes », suggérant que le domaine cognitif sera l'un des champs de bataille de demain. Cette perspective est encore renforcée par les progrès rapides des NBIC (nanotechnologies, biotechnologies, technologies de l'information et sciences cognitives) et la compréhension du cerveau. Les adversaires de l'OTAN investissent déjà massivement dans ces nouvelles technologies.
« L'OTAN doit anticiper les progrès de ces technologies en sensibilisant la population au véritable potentiel de la guerre technologique. Quels que soient la nature et l'objet de la guerre, il s'agit toujours d'un affrontement de volontés humaines et, par conséquent, ce qui définit la victoire, c'est la capacité d'imposer un comportement souhaité à un public choisi », déclare François du Cluze.
« Les actions entreprises dans les cinq domaines - aérien, terrestre, maritime, spatial et cybernétique - sont toutes exécutées afin d'avoir un effet sur le domaine humain. Il est donc temps de reconnaître l'importance renouvelée du sixième domaine opérationnel, à savoir le domaine humain. », poursuit-elle. Farahany estime que les sociétés doivent aller plus loin que la guerre cognitive ou l'interdiction de TikTok. Une législation visant à établir les droits du cerveau ou les libertés cognitives est nécessaire, de même qu'une sensibilisation aux risques d'intrusion posés par les plateformes numériques intégrées aux progrès des neurosciences.
Des lois sur les "droits neurologiques", qui comprennent des protections sur l'utilisation des données biométriques dans les domaines de la santé et de la justice, sont déjà en cours d'élaboration. Il y a deux ans, le Chili est devenu la première nation à ajouter des articles à sa constitution pour traiter explicitement des défis posés par les neurotechnologies émergentes. L'État américain du Wisconsin a également adopté des lois sur la collecte de données biométriques concernant le cerveau.
La plupart des protections juridiques concernent la divulgation de la collecte de données sur le cerveau, et non les droits neurologiques eux-mêmes. « Il n'existe pas de droit global à la liberté cognitive, tel que je le définis, qui s'applique à bien plus que les neurotechnologies, mais qui s'applique à l'autodétermination de nos cerveaux et de nos expériences mentales, ce qui s'applique à tant de technologies numériques que nous abordons aujourd'hui », a déclaré Farahany.
Ou, comme l'écrit Farahany dans son livre : La vision dystopique de George Orwell sur la criminalité de la pensée deviendra-t-elle une réalité moderne ? La réponse pourrait être oui, non ou peut-être, mais rien de tout cela n'empêche un besoin urgent de protections formelles du cerveau que les législateurs ou les intérêts commerciaux pourraient ne pas être enclins à mettre en place, estime Farahany.
Elle a déclaré : « La liberté cognitive fait partie d'un tout : la liberté cognitive fait partie d'une conversation beaucoup plus large qui, à mon avis, est incroyablement urgente compte tenu de tout ce qui se passe déjà, et de la précision croissante avec laquelle cela va se passer, dans le domaine de la neurotechnologie. »
« Les progrès des nanotechnologies, des biotechnologies, des technologies de l'information et des sciences cognitives (NBIC), stimulés par la marche apparemment inarrêtable d'une troïka triomphante composée de l'Intelligence Artificielle, du Big Data et de l'"addiction numérique" civilisationnelle, ont créé une perspective beaucoup plus inquiétante : une cinquième colonne embarquée, où chacun, à son insu, se comporte selon les plans de l'un de nos concurrents », August Cole, Hervé Le Guyader. Le 6e domaine de l'OTAN.
Source : Prof Nita Farahany argues in her new book, The Battle for Your Brain
Et vous ?
Partagez-vous l'idée du professeur Nita Farahany qui affirme que les législateurs devraient adopter des mesures pour protéger nos pensées privées de la technologie ?
L'avènement du concept de « guerre cognitive » (GC) apporte au champ de bataille moderne une troisième dimension de combat majeure : aux dimensions physique et informationnelle s'ajoute désormais une dimension cognitive. Qu'en pensez-vous ?
Quelle est votre appréciation de l'industrie florissante d'interfaces cerveau-machine ?
Voir aussi :
Une entreprise d'implants cérébraux soutenue par Bezos et Gates, testerait sur des humains des systèmes informatiques contrôlés par l'esprit
GPT-3, le système de génération de texte d'OpenAI, serait aussi performant qu'un humain de neuf ans dans les tests standard de la théorie de l'esprit, selon un psychologue
Des chercheurs ont exprimé leur horreur face à l'objectif d'Elon Musk de connecter les cerveaux humains aux ordinateurs, au cœur de leur inquiétude se trouve « l'infusion de la Big Tech dans l'esprit »