IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les Nations unies mettent en garde contre les risques liés à l'implantation de puces d'IA dans le cerveau,
Affirmant que cela pourrait menacer la confidentialité des pensées des utilisateurs

Le , par Mathis Lucas

4PARTAGES

4  0 
Les Nations unies tirent la sonnette d'alarme sur les risques liés aux implants cérébraux. L'organisation estime que les progrès potentiellement dangereux des neurotechnologies pourraient permettre à l'IA d'empiéter sur les pensées privées de l'homme. Elle pense que certaines pensées sont "privées" et doivent vraiment être gardées pour soi, ce qui signifie que leur lecture par un système d'IA implanté dans le cerveau pourrait s'avérer dangereuse pour la personne concernée. La mise en garde concerne aussi les risques médicaux liés à ces implants. Entre-temps, Neuralink d'Elon Musk vient d'être autorisé à tester ces puces cérébrales sur des humains.

L'UNESCO affirme que les IHM menacent la confidentialité des pensées humaines

La neurotechnologie est définie au sens large comme les dispositifs électroniques, y compris les IHM et les scanners cérébraux, qui interfèrent avec le cerveau ou le système nerveux. Elle a traditionnellement été utilisée à des fins médicales, notamment pour aider les patients paralysés à retrouver le mouvement, la vue ou l'ouïe. Toutefois, les progrès récents ont suscité des inquiétudes quant à son caractère potentiellement intrusif. Une étude aux implications dystopiques a réussi à combiner les capacités d'un grand modèle de langage (LLM) avec un scanner cérébral IRM fonctionnel pour lire les pensées des gens et les articuler sous forme écrite.

Les récents progrès dans le domaine de la neurotechnologie, rendus possibles par l'utilisation de l'IA, ont suscité l'inquiétude des experts quant aux problèmes potentiels de protection de la vie privée. Mariagrazia Squicciarini, économiste spécialisée dans l'IA à l'UNESCO, décrit ces progrès comme de la neurotechnologie sous stéroïdes. « C'est comme si l'on mettait la neurotechnologie sous stéroïdes » , a déclaré Squicciarini. Pour répondre à ces craintes, l'UNESCO a annoncé, lors d'une conférence internationale à Paris, qu'elle allait élaborer un "cadre éthique" destiné à traiter les questions de droits de l'homme soulevées par les neurotechnologies.


Gabriela Ramos, sous-directrice générale de l'UNESCO pour les sciences sociales et humaines, a déclaré qu'à moins d'être réglementées de manière appropriée et étendue, les interfaces homme-machine (IHM) pilotées par l'IA comme celles développées par Neuralink peuvent être utilisées pour lire vos pensées, et même changer votre façon de penser. Dans une déclaration à l'AFP la semaine dernière, Ramos a déclaré que l'UNESCO s'inquiète de la menace que les IHM représentent pour les droits de l'homme et la confidentialité des pensées. Elle a ajouté que cette technologie avait des capacités considérables et potentiellement nuisibles.

« Nous sommes sur la voie d'un monde dans lequel les algorithmes nous permettront de décoder les processus mentaux des gens et de manipuler directement les mécanismes cérébraux qui sous-tendent leurs intentions, leurs émotions et leurs décisions », a déclaré Ramos. Concrètement, cela signifie que les entreprises (et peut-être même les autorités gouvernementales) seraient en mesure d'utiliser les IHM pour savoir ce que les gens pensent et la façon dont ils le pensent. Elles pourraient également enregistrer leurs pensées les plus intimes et éventuellement modifier leur façon de penser, sans même que ces personnes s'en rendent compte.

Les responsables de l'UNESCO estiment que si la technologie peut changer la vie, elle peut aussi avoir un coût. Ils se sont entretenus avec Hannah Galvin, une femme épileptique à qui l'on a installé un dispositif neurotechnique dans le cerveau pour détecter les crises et indiquer aux patients quand s'allonger. Mais l'appareil a fini par aggraver la vie de Galvin, qui a déclaré qu'elle avait jusqu'à 100 crises par jour. « J'avais l'impression qu'il y avait quelqu'un dans ma tête et que ce n'était pas moi. Et je suis devenue de plus en plus déprimée. Je n'aimais pas ça du tout », a déclaré Galvin à l'UNESCO. Elle s'est finalement fait retirer l'appareil.

Les milliards investis par les entreprises pourraient servir à espionner les pensées

L'importance des capitaux investis dans l'industrie des neurotechnologies est une autre source d'inquiétude. Cette dernière fait écho à la croissance incontrôlée et au battage médiatique dont l'IA fait l'objet. L'aspect financier privilégie souvent des intérêts autres que ceux du grand public, comme nous l'avons vu avec l'IA. Selon un rapport de l'UNESCO, entre 2010 et 2020, les investissements dans les entreprises de neurotechnologie ont grimpé en flèche pour atteindre plus de 33 milliards de dollars, soit une multiplication par 22. En outre, le nombre de brevets dans le domaine des neurotechnologies a doublé au cours de la moitié de cette période.

La société Neuralink, fondée par Elon Musk, qui a récemment obtenu l'autorisation de la Food and Drug Administration (FDA) des États-Unis de mener des essais sur l'homme pour ses implants cérébraux, fait figure de chef de file dans ce domaine. La nouvelle société d'IA de Musk, xAI, vient renforcer les efforts de Neuralink. Et même si Neuralink n'est pas la première entreprise d'IHM, elle est certainement la plus populaire de toutes, grâce à l'implication de Musk. L'UNESCO reconnaît que les neurotechnologies présentent des aspects positifs, mais l'organisation souligne l'absence de réglementation globale pour relever les défis futurs dans ce domaine.

Neuralink est une société de neurotechnologie qui vise à créer des implants cérébraux pour traiter les maladies et intégrer de nouvelles capacités logicielles avancées au cerveau humain. Outre le traitement potentiel de maladies cérébrales telles que l'épilepsie et la maladie de Parkinson, le dispositif crânien agirait également comme une sorte de couche numérique qui fusionne la matière grise humaine avec des outils technologiques avancés. Neuralink teste depuis quelques années ses prototypes sur des animaux, notamment des porcs, des moutons et des singes. Cependant, plusieurs rapports ont accusé l'entreprise de cruauté envers ces animaux.

Neuralink a été accusée de causer des souffrances et des décès inutiles d'animaux sous la pression de Musk. En décembre 2022, des documents internes examinés par les enquêteurs ont révélé qu'environ 1 500 animaux - dont plus de 280 moutons, cochons et singes - sont morts à la suite de tests de Neuralink depuis 2018. Neuralink a également mené des recherches sur des rats et des souris. Le taux de décès ne signifie pas nécessairement que Neuralink viole la réglementation ou les pratiques de recherche standard, car de plusieurs entreprises utilisent régulièrement des animaux dans des expériences pour faire progresser les soins de santé humaine.

La prochaine étape pour Neuralink est de tester ses implants sur des humains volontaires. La société a reçu l’autorisation de la FDA pour mener une étude clinique de phase I. La société espère commencer les essais cliniques sur des humains à la mi-2023, après avoir recruté les candidats et obtenu leur consentement éclairé. Elle a lancé un registre de patients qui permet aux personnes intéressées par les implants de se faire connaître et de recevoir des informations sur les futures études. Des sceptiques mettent toutefois en garde contre les risques d'une telle expérience en raison du succès limité des puces d'IA de Neuralink sur les animaux.

« La neurotechnologie pourrait aider à résoudre de nombreux problèmes de santé, mais elle pourrait aussi accéder au cerveau des gens et le manipuler, et produire des informations sur nos identités et nos émotions. Elles pourraient menacer nos droits à la dignité humaine, à la liberté de pensée et à la vie privée », a déclaré Audrey Azoulay, directrice générale de l'UNESCO, en juin, lorsqu'elle a proposé un "cadre éthique commun au niveau international".

Source : UNESCO

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des préoccupations soulignées par l'UNESCO ?
Que pensez-vous des risques liés aux implants cérébraux ?
Les implants cérébraux introduisent-ils de nouveaux risques de sécurité des données ?
Selon vous, les avantages des implants cérébraux l'emportent-ils sur les inconvénients ?
Les entreprises vont-elles détourner les implants cérébraux pour espionner les pensées ?

Voir aussi

Neuralink d'Elon Musk obtient le feu vert de la FDA pour tester ses implants cérébraux sur des humains, après des essais réalisés uniquement sur les animaux

Neuralink d'Elon Musk aurait tué 1 500 animaux en quatre ans et est maintenant poursuivie pour cruauté envers les animaux, Musk aurait précipité les tests, ce qui a conduit à des erreurs graves

Elon Musk fait sensation à Paris via des gens qui bagarrent pour entrer et assister à sa conférence : « Nous espérons lancer le premier essai de pose de puces cérébrales sur l'homme cette année »

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 17/07/2023 à 22:26
en meme temps c'est le but inavoué de ces gens de penetrer le dernier espace de liberté absolu qu'il nous reste.
7  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 18/07/2023 à 7:56
Citation Envoyé par Mathis Lucas Voir le message
Quel est votre avis sur le sujet ?
Que pensez-vous des préoccupations soulignées par l'UNESCO ?
Que pensez-vous des risques liés aux implants cérébraux ?
Les implants cérébraux introduisent-ils de nouveaux risques de sécurité des données ?
Selon vous, les avantages des implants cérébraux l'emportent-ils sur les inconvénients ?
Les entreprises vont-elles détourner les implants cérébraux pour espionner les pensées ?
J'ai l'impression que l'UNESCO s'en tracasse un peu tôt mais mieux vaut trop tôt que trop tard.

J'ai de gros doutes sur le fait que les implants soient capables de transmettre une pensée complexe mais qu'ils n'en ont pas tant besoin que ça. Quant au fait de pouvoir "écrire" quelquechose d'utilisable, on ne doit pas encore y être.
Mais je penses avant tout que ses implants doivent devenir la propriété de celui qui le porte et qu'ils ne devraient pas avoir de moyens de communication à "grande distance" ni en émission ni en réception, sous peine de tous les abus imaginables. (Oui je me rend aussi bien compte que de toute façon si le fournisseur veut forcer une transmission regulière il n'aura aucun mal à le faire.)

Pour certaines personnes les implants ont un avantage à peine contrebalançable mais je penses que je ne ferais jamais confiance à Musk pour ce genre de chose.
Cet homme aime trop le pouvoir et n'a aucune éthique, la question n'est pas s'il fera du chantage mais quand il le fera.
4  0 
Avatar de L33tige
Membre expérimenté https://www.developpez.com
Le 30/01/2024 à 12:27
Hâte d'avoir des pubs ou des échantillons de consommation directement dans la tête, des odeurs pour tester des produits du gout, pour ACHETER, VENDRE ALLEZ HOP HOP HOP.

Comme d'habitude, ça sera utilisé à 5% dans la recherche et le militaire, tout le reste ça sera pour la consommation, nous vendre des choses inutiles, on est dans le futur de robocop, pas dans celui d'avatar.
5  1 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 30/01/2024 à 14:40
Citation Envoyé par Ryu2000 Voir le message
Par exemple l'UE pourraient mettre les opposants politiques dans des camps d'extermination.
Pas besoin d'implants pour ça. Regarde du coté de Poutine, il y arrive très bien sans technologies futuristes.
5  1 
Avatar de petitours
Membre chevronné https://www.developpez.com
Le 27/11/2023 à 7:56
Citation Envoyé par ManPaq Voir le message
Au moins des patients humains devront être consentant pour l'usage de telles pratiques
Pas sur que l'on puisse qualifier de consentants les travailleurs de Tesla qui ont dormi dans leur usine pendant le covid. Sur que les Ouïgours et autres humains opprimés ne sont pas consentants de grand chose.
3  0 
Avatar de OrthodoxWindows
Membre émérite https://www.developpez.com
Le 30/01/2024 à 18:03
La Chine y arrive avec plusieurs moyens à la fois, mais le premier reste la surveillance de l'espace publique.
3  0 
Avatar de Nym4x
Membre averti https://www.developpez.com
Le 18/07/2023 à 11:25
Le rêve de tous les petits nazillons m-cr--s en puissance...
2  0 
Avatar de OrthodoxWindows
Membre émérite https://www.developpez.com
Le 19/07/2023 à 12:14
Citation Envoyé par Madmac Voir le message
Je suis Canadien, et j'ai la preuve du contraire. La peur est le meilleur outil pour imposer la dictature. Après mon expérience en tant que personne ayant refuser le vaccin, je suis arrivé à la conclusion que 90% de la population sont de bon montons.
En fait il y a les deux. Le contrôle de l'information en temps normal, et la peur quand ça ne marche plus. Effectivement, la peur du covid est un bon exemple. Je ne sais pas pour le Canada, mais en France il y a surtout eu des morts car la population vieillit, et que le système de santé est exsangue.

Et il n'y a qu'à voir les idiots qui ont la conviction que l'on puisse changer l'impact de la fin d'une ère glacière.
Il faut savoir, dans un post précédent, tu disait presque que le réchauffement climatique n'existait pas, là tu dit qu'il existe.
Le problème c'est que l'effet de serre est prouvé depuis très longtemps, cela était déjà théorisé au XIXème siècle, son existence ne fait plus de doute aujourd'hui. Le problème c'est la récupération politique par les coupables eux même du RC, afin de préserver le système néo-libérale. On est dans une situation où les pire pollueurs se fond passer pour des sauveurs.
2  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 20/09/2023 à 12:47
Citation Envoyé par Stéphane le calme Voir le message
Quels sont les avantages et les inconvénients de l’implant cérébral de Neuralink pour les patients paralysés ? Est-ce que cela vaut le risque de subir une intervention chirurgicale invasive ?
Il y a des individus paralysés qui souhaiteraient se faire euthanasier.
Comme lui par exemple :
Italie : un homme paralysé autorisé à recourir au suicide assisté

Ou lui :
La mort d'un jeune homme paralysé relance la polémique sur le suicide assisté

Ça ne doit pas être très agréable d'être paralysé.
Du coup autant prendre le risque de se faire griller le cerveau, c'est gagnant-gagnant soit tu peux rebouger, soit tu meurs.
2  0 
Avatar de
https://www.developpez.com
Le 22/09/2023 à 11:25
J'ai toujours considéré Elon comme l'altruiste, que soeur Thérésa est une grosse égocentrique à côté de lui.

Plus sérieusement, je me demande si ce n'est pas lui le Spectre dans James Bond ?

On aurait inventé ce gars dans un film d'action, personne n'y aurait cru, tant il est caricatural ! Mais recentrons-nous sur l'essentiel, mieux vaut casser du sucre sur Apple, c'est plus tendance, comme l'était autrefois un certain Bil G.
3  1