L'enthousiasme des chercheurs et des organisations pour la recherche et le développement d'interfaces cerveau-machine (ICM) s'est grandement développé lors de ces dernières années. Pour le moment, les dispositifs de contrôle de l'esprit les plus avancés testés chez l'homme ou les animaux reposent sur de minuscules fils ou puces insérées dans le cerveau. Dans son nouveau livre, The Battle for Your Brain, le professeur Nita Farahany affirme que les intrusions dans l'esprit sont si proches que les législateurs devraient adopter des mesures de protection.Les pensées privées pourraient ne plus l'être très longtemps, annonçant un monde cauchemardesque où les opinions politiques, les pensées, les obsessions errantes et les sentiments pourraient être interrogés et punis grâce aux progrès de la neurotechnologie. C'est du moins ce que pense l'un des plus grands éthiciens juridiques des neurosciences. Le professeur Nita Farahany porte un dispositif de suivi des performances cérébrales à l'université Duke de Durham, en Caroline du Nord. « Nous avons besoin d'un nouveau droit de l'homme à la liberté cognitive », déclare Prof Nita Farahany.
Dans son livre intitulé, The Battle for Your Brain, Nita Farahany, professeur de biosciences à l'université Duke, allègue que ces intrusions technologiques dans l'esprit humain sont si proches qu'un débat public s'impose depuis longtemps et que les législateurs devraient immédiatement mettre en place des protections du cerveau, comme ils le feraient pour tout autre domaine de la liberté individuelle.
Comprendre le cerveau est un défi majeur pour l'avenir
Au cours des dernières décennies, des progrès considérables ont été réalisés dans la compréhension du fonctionnement du cerveau. Si nos processus de prise de décision restent centrés sur l'homme, en particulier sur le cerveau, il n'en reste pas moins que le cerveau est un élément essentiel de notre vie quotidienne. Avec sa capacité d'orientation (boucle OODA), alimentée par des données, des analyses et des visualisations, l'incapacité de l'être humain à s'adapter à la réalité est un problème majeur, il faut que les humains s'associent aux machines d'IA pour rivaliser avec ces dernières.
Afin de maintenir un équilibre entre l'homme et la machine dans le processus de prise de décision, il est nécessaire d'être conscient des limites et des vulnérabilités humaines. Tout commence par la compréhension de nos processus cognitifs et du fonctionnement de notre cerveau.
Au cours des deux dernières décennies, les sciences cognitives et les neurosciences ont franchi une nouvelle étape dans l'analyse et la compréhension du cerveau humain, et ont ouvert de nouvelles perspectives en termes de recherche sur le cerveau, voire d'hybridation, entre l'intelligence humaine et l'intelligence artificielle. Elles ont surtout apporté une contribution majeure à l'étude de la diversité des mécanismes neuro-psychiques facilitant l'apprentissage et, de ce fait, ont, par exemple, remis en cause l'intuition des « intelligences multiples ».
Nul ne peut plus ignorer aujourd'hui que le cerveau est à la fois le siège des émotions, des mécanismes interactifs de mémorisation, de traitement de l'information, de résolution de problèmes et de prise de décision.
Les progrès en matière de piratage et de suivi des pensées, avec les craintes orwelliennes de contrôle de l'esprit, sont le sujet de l'étude de Farahany, ainsi que les appels urgents à des garanties législatives pour la protection de la vie privée, y compris les libertés contre les « empreintes cognitives », qui s'inscrivent dans un domaine de l'éthique appelé au sens large « liberté cognitive ».
Elon Musk, PDG de Tesla, est par exemple convaincu que sa startup Neuralink, spécialisée dans les interfaces cerveau-ordinateur, représente l'avenir des interactions entre l'homme et la technologie, mais de nombreux experts ne sont pas aussi convaincus. Des chercheurs ont exprimé leur horreur face à son objectif de connecter les cerveaux humains aux ordinateurs. Au cœur de leur inquiétude se trouve « l'infusion de la Big Tech dans l'esprit ».
En janvier 2022, la société d'interface cerveau-machine d'Elon Musk, Neuralink, a publié une nouvelle offre d'emploi pour un directeur d'essais cliniques, un poste qui pourrait aider l'entreprise à progresser vers son objectif déclaré de tester son implant cérébral sur des hommes. Des chercheurs et des scientifiques ont exprimé leur horreur face à cet objectif de Musk de connecter les cerveaux humains aux ordinateurs.
Il est certain que ce domaine progresse rapidement. Le lancement récent de ChatGPT et d'autres innovations technologiques en matière d'IA ont montré que certains aspects de la simulation de la pensée, appelée apprentissage automatique, sont déjà présents. Il a également été largement noté que Neuralink d'Elon Musk et Meta de Mark Zuckerberg travaillent sur des interfaces cérébrales capables de lire directement les pensées.
Dans une offre publiée sur son site officiel, Neuralink indique : « En tant que directeur des essais cliniques, l’employé travaillera en étroite collaboration avec certains des médecins et ingénieurs de pointe, ainsi qu'avec les premiers participants aux essais cliniques de Neuralink. Il dirigera et aidera à mettre sur pied l'équipe chargée de faciliter les activités de recherche clinique de Neuralink et de développer les interactions réglementaires qui accompagnent un environnement en constante évolution et au rythme rapide. Vous êtes motivé par votre mission et êtes capable de respecter des délais serrés avec précision et efficacité. »
Des chercheurs et les scientifiques expriment leur horreur
Pour les chercheurs et les scientifiques qui ont exprimé leur horreur face à l'objectif de Musk, l'éthique entourant une technologie telle que le Neuralink est un territoire inexploré. En l'état, beaucoup s'inquiètent de la façon dont ces produits ostensiblement destinés à aider les personnes handicapées peuvent finalement être exploités à des fins lucratives.
« Je ne pense pas qu'il y ait un discours public suffisant sur les implications globales de la disponibilité de ce type de technologie » a déclaré le Dr Karola Kreitmair, professeur adjoint d'histoire de la médecine et de bioéthique à l'université du Wisconsin. « Je crains qu'il y ait ce mariage inconfortable entre une entreprise à but lucratif », a-t-elle ajouté.
« Si le but ultime est d'utiliser les données cérébrales acquises pour d'autres dispositifs, ou d'utiliser ces dispositifs pour d'autres choses, disons pour conduire des voitures, pour conduire des Tesla alors il pourrait y avoir un marché beaucoup, beaucoup plus grand », a déclaré le Dr L. Syd Johnson, professeur associé au Centre de bioéthique et d'humanités de la SUNY Upstate Medical University. « Mais alors tous ces sujets de recherche humains des personnes ayant des besoins réels sont exploités et utilisés dans des recherches risquées pour le profit commercial de quelqu'un d'autre », a-t-elle poursuivi.
Kreitmair s'est fait l'écho de ce sentiment. Bien qu'elle pense que cette technologie pourrait « changer la vie » des personnes paralysées, elle aurait déclaré que son potentiel d'utilisation par les consommateurs « soulève un grand nombre de problèmes éthiques. »
Un nouveau domaine de médicaments améliorant les facultés cognitives - appelés « nootropiques » - est en cours de développement. Des technologies permettant aux personnes paralysées de contrôler un membre artificiel ou d'écrire un texte sur un écran simplement en le pensant sont en cours d'élaboration. Les employés d'une startup d'interface cérébrale appelée Synchron travailleraient sur une technologie destinée à transformer la vie quotidienne des personnes paralysées.
Fondée en 2012, Synchron fait partie de l'industrie florissante d'interfaces cerveau-machine (ICM). Une ICM est un système qui déchiffre les signaux du cerveau et les traduit en commandes pour des technologies externes.
Synchron, startup américaine, spécialisée dans les interfaces cérébrales et soutenue par le fondateur d'Amazon Jeff Bezos et le cofondateur de Microsoft Bill Gates, fait partie d'un groupe émergent d'entreprises qui testent des technologies dans le secteur des interfaces cerveau-ordinateur. En décembre de l'année dernière, la société a annoncé un tour de financement de 75 millions de dollars, incluant des fonds provenant des sociétés d'investissement de Microsoft, du cofondateur Bill Gates et d'Amazon.
La Food and Drug Administration américaine a accordé à Synchron la désignation Breakthrough Device en août 2020, qui est réservée aux dispositifs médicaux ayant le potentiel d'améliorer le traitement de maladies débilitantes ou potentiellement mortelles.
Le matériel Synchron est implanté dans les vaisseaux sanguins pour permettre aux personnes dont la mobilité physique est nulle ou très limitée de faire fonctionner des technologies telles que des curseurs et des appareils domestiques intelligents en utilisant leur esprit. Jusqu'à présent, cette technologie naissante a été utilisée sur trois patients aux États-Unis et quatre en Australie.
« J'ai vu des moments entre le patient et son partenaire, ou le patient et son conjoint, où c'est incroyablement joyeux et valorisant d'avoir retrouvé une capacité à être un peu plus indépendant qu'avant », a déclaré Tom Oxley, PDG de Synchron. « Cela les aide à s'engager d'une manière que nous considérons comme acquise ».
Outre les nombreux avantages qu'elles présentent, les technologies de l'information et de la communication font peser des menaces évidentes sur l'endoctrinement et l'ingérence politiques, la surveillance des lieux de travail ou de la police, la prise d'empreintes cérébrales, le droit d'avoir des pensées, bonnes ou mauvaises, les conséquences sur le rôle de l'"intention" dans le système judiciaire, et bien d'autres choses encore.
Farahany, qui a fait partie de la commission de Barack Obama chargée d'étudier les questions de bioéthique, estime que les progrès de la neurotechnologie signifient que les intrusions dans la vie privée du cerveau, que ce soit par le biais de programmes militaires ou de laboratoires de recherche bien financés au sein de grandes entreprises technologiques, sont à portée de main grâce aux innovations cerveau-ordinateur telles que les technologies portables.
« Toutes les grandes entreprises technologiques investissent massivement dans des dispositifs multifonctionnels dotés de capteurs cérébraux », a déclaré Farahany. « Les capteurs neuronaux feront partie de notre technologie quotidienne et de la manière dont nous interagissons avec cette technologie.
En début de ce mois, des scientifiques de...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
