Mark C. Taylor, professeur de religion à l'université de Columbia, explore la possibilité d'une nouvelle ère d'évolution résultant de la symbiose croissante entre l'homme et la technologie, en particulier l'intelligence artificielle (IA). Il rejette l'idée que l'humanité représente la dernière étape de l'évolution, envisageant plutôt une relation symbiotique entre les humains et la technologie. Dans un essai rendu publique le 12 octobre, le chercheur examine les neuroprothèses, les biobots, la biologie synthétique et l'IA organique-relationnelle comme des trajectoires clés de cette évolution. Les neuroprothèses sont présentées comme des extensions technologiques de l'intelligence humaine, tandis que les biobots, créés à partir de nanotechnologies, pourraient avoir des applications médicales significatives. La biologie synthétique explore la création de nouvelles formes de vie fonctionnelles, comme les xénobots, résultant d'une interaction complexe entre gènes et protéines. Enfin, il présente l'IA organique-relationnelle, basée sur la compréhension évolutive des réseaux neuronaux, comme une alternative prometteuse aux approches traditionnelles de l'IA. Taylor souligne l'importance de cette évolution symbiotique face aux défis existentiels actuels, tout en appelant à une perspective non anthropocentrique de l'IA pour une transformation significative.
Envoyé par Mark C. Taylor
Notre examen des phénomènes quantiques, des corps conscients, de l'écologie relationnelle et de la cognition des plantes et des animaux a révélé que nous sommes entourés de toutes sortes d'intelligences alternatives et que nous sommes enchevêtrés avec elles. L'IA est une autre forme d'intelligence alternative. Les critiques diront que ce qui rend l'IA différente, c'est qu'elle a été délibérément créée par des êtres humains. Cependant, tous les organismes façonnent et sont façonnés par leur corps et leur esprit en expansion.
Au lieu d'être obsédé par la perspective de créer des machines dont le fonctionnement est indiscernable de la cognition humaine, il est plus important d'examiner en quoi l'IA est différente de l'intelligence humaine. La question ne devrait pas être : "L'IA peut-elle faire ce que l'homme peut faire ? L'IA peut-elle faire ce que les humains peuvent faire ? mais plutôt : "Que peut faire l'IA que les humains ne peuvent pas faire ? Que peut faire l'IA que les humains ne peuvent pas faire ?
Ce qu'il faut, c'est une forme non anthropocentrique d'intelligence "artificielle". Si l'humanité doit continuer à vivre, l'IA doit devenir plus intelligente que les personnes qui l'ont créée. Pourquoi devrions-nous nous préoccuper d'aligner la superintelligence sur les valeurs humaines alors que les valeurs humaines sont en train de détruire la Terre, sans laquelle les humains et de nombreuses autres formes de vie ne peuvent survivre ?
Au lieu d'être obsédé par la perspective de créer des machines dont le fonctionnement est indiscernable de la cognition humaine, il est plus important d'examiner en quoi l'IA est différente de l'intelligence humaine. La question ne devrait pas être : "L'IA peut-elle faire ce que l'homme peut faire ? L'IA peut-elle faire ce que les humains peuvent faire ? mais plutôt : "Que peut faire l'IA que les humains ne peuvent pas faire ? Que peut faire l'IA que les humains ne peuvent pas faire ?
Ce qu'il faut, c'est une forme non anthropocentrique d'intelligence "artificielle". Si l'humanité doit continuer à vivre, l'IA doit devenir plus intelligente que les personnes qui l'ont créée. Pourquoi devrions-nous nous préoccuper d'aligner la superintelligence sur les valeurs humaines alors que les valeurs humaines sont en train de détruire la Terre, sans laquelle les humains et de nombreuses autres formes de vie ne peuvent survivre ?
« Ce qui viendra après l'humain ne sera ni simplement organique, ni machinique, mais le résultat de la relation de plus en plus symbiotique entre les êtres humains et la technologie », Mark C. Taylor.
Neuroprothèses
Nous vivons à une époque où la peur dystopique a été militarisée pour créer un désespoir paralysant qui laisse de nombreuses personnes - en particulier les jeunes - sans espoir. Sans sous-estimer les effets néfastes réels et possibles de l'évolution rapide des technologies, il est important de ne pas laisser ces visions sombres éclipser les avantages remarquables que beaucoup de ces technologies apportent.
L'internet des objets connecte des dispositifs intelligents aux réseaux mondiaux qui augmentent l'intelligence en élargissant l'esprit. Alors que les critiques et les régulateurs des récentes innovations tentent de distinguer les technologies utilisées pour la thérapie, qui sont acceptables, des technologies utilisées pour l'amélioration, qui sont inacceptables, la frontière entre ces applications alternatives est pour le moins floue. Ce qui commence comme un traitement devient inévitablement une amélioration.
Ni les neuroprothèses ni l'augmentation cognitive ne sont nouvelles. Après tout, l'écriture est une technologie mnémotechnique qui améliore l'esprit. À l'époque moderne, les appareils personnels nous permettent d'archiver nos souvenirs et d'y accéder. Plus récemment, les innovations technologiques ont porté l'amélioration cognitive à un autre niveau : les implants cérébraux, par exemple, existent depuis au moins 2006, et des entrepreneurs comme Elon Musk (qui a fondé Neuralink pour "créer ... une symbiose avec l'intelligence artificielle"
visent à établir des interfaces homme-machine incarnées. Les possibilités croissantes de relations symbiotiques entre les ordinateurs et les cerveaux conduiront à des formes alternatives d'intelligence qui ne sont ni humaines ni machinales, mais quelque chose entre les deux. « L'intelligence dite "artificielle" est la dernière extension du processus émergent par lequel la vie prend des formes de plus en plus diverses et complexes », Mark C. Taylor.
Biobots
Ces dernières années, la robotique a connu une véritable révolution grâce aux progrès de la nanotechnologie et à l'amélioration des grands modèles de langage tels que le ChatGPT. Des nanorobots individuels ou en essaims pourraient un jour être implantés dans le corps et utilisés à des fins diagnostiques et thérapeutiques, potentiellement pour délivrer des médicaments et réparer des tissus. Plutôt que d'agir sur l'ensemble du corps, les nanorobots pourraient cibler l'endroit précis où un médicament est nécessaire et réguler son administration.
Le déploiement le plus remarquable des nanotechnologies à ce jour est leur utilisation dans les vaccins, y compris les vaccins Covid. Comme l'a écrit un groupe d'experts en microbiologie et en pharmacologie dans un document publié en 2021, « les nanotechnologies ont joué un rôle important dans le succès de ces vaccins » ; l'autorisation d'utilisation d'urgence qui a permis le développement et l'essai rapides de cette technologie « constitue une étape majeure et met en évidence l'immense potentiel des nanotechnologies pour l'administration des vaccins et la lutte contre les futures pandémies ».
La recherche et le développement dans le domaine des nanotechnologies n'en sont qu'à leurs débuts, mais se développent rapidement. À mesure qu'elles progressent, non seulement les corps deviendront plus attentifs, mais il sera de plus en plus difficile de distinguer le naturel de l'artificiel.
Alors que les nanorobots sont implantés dans le corps et opèrent au niveau moléculaire, d'autres robots deviennent de plus en plus autonomes et capables de penser et d'agir d'une manière plus proche de celle de l'homme. Kevin Roose a rapporté dans le New York Times que le dernier robot de Google, le RT-2, peut interpréter des images et analyser le monde environnant.
Pour ce faire, il traduit les mouvements du robot en une série de chiffres - un processus appelé "tokenizing" - et incorpore ces tokens dans les mêmes données d'apprentissage que le modèle de langage. À terme, tout comme ChatGPT ou Bard apprend à deviner les mots qui suivent dans un poème ou un essai historique, RT-2 peut apprendre à deviner comment le bras d'un robot doit bouger pour ramasser une balle ou jeter une canette de soda vide dans la poubelle de recyclage.
Le RT-2 s'appuie sur des VLM qui prennent une ou plusieurs images en entrée et produisent une séquence de jetons qui, par convention, représentent un texte en langage naturel. De tels VLM ont été entraînés avec succès sur des données à l'échelle du web pour effectuer des tâches telles que la réponse à des questions visuelles, le sous-titrage d'images ou la reconnaissance d'objets. Pour contrôler un robot, il faut l'entraîner à produire des actions. Google veut relever ce défi en représentant les actions comme des jetons dans la sortie du modèle - similaires aux jetons du langage - et en décrivant les actions comme des chaînes de caractères qui peuvent être traitées par des tokenizers standards du langage naturel, comme illustré ici :
Représentation d'une chaîne d'action utilisée dans la formation RT-2. Un exemple d'une telle chaîne pourrait être une séquence de numéros de jetons d'action du robot, par exemple « 1 128 91 241 5 101 127 217 ». La chaîne commence par un tag qui indique s'il faut continuer ou terminer l'épisode en cours, sans exécuter les commandes suivantes, et se poursuit avec les commandes de changement de position et de rotation de l'effecteur terminal, ainsi que l'extension souhaitée de la pince du robot. Ainsi, plutôt que de programmer un robot pour qu'il effectue une tâche spécifique, il est possible de lui donner des instructions sur la tâche à effectuer et de le laisser découvrir comment l'accomplir.
S'appuyant sur ces avancées récentes, Hod Lipson, directeur du Creative Machines Lab de l'université de Columbia, fait passer la recherche robotique à la vitesse supérieure en construisant des « robots qui créent et sont créatifs ». Ses recherches sont « inspirées de la biologie » et il cherche « de nouveaux concepts biologiques pour l'ingénierie et de nouvelles perspectives d'ingénierie pour la biologie ».
Jürgen Schmidhuber vs Geoffrey Hinton : Regards Contradictoires sur l'IA
Dans une interview accordée au New York Times (NYT), Hod Lipson, ingénieur en mécanique qui dirige le Creative Machines Lab de l'université de Columbia, a déclaré qu'il s'y consacre depuis une vingtaine d'années. Il a fait remarquer que le sujet était auparavant tabou, mais que de plus en plus de personnes acceptent aujourd'hui d'en discuter publiquement. « Ce sujet était tabou. On nous interdisait presque d'en parler - "ne parlez pas du mot C, vous ne serez pas titularisé" - alors au début, je devais le déguiser, comme si c'était autre chose », dit-il. En employant le mot "C", le professeur Lipson fait sans doute référence au mot "conscience".
L'objectif ultime de Lipson est de créer des robots non seulement capables de raisonner, mais aussi conscients et conscients d'eux-mêmes. Définissant la conscience comme « la capacité de s'imaginer dans le futur », il prédit avec assurance que « ces machines finiront par comprendre ce qu'elles sont et ce qu'elles pensent ». Au fur et à mesure que les compétences cognitives rendues possibles par l'IA générative deviennent plus sophistiquées, les mouvements et les activités physiques deviendront plus "naturels". Grâce à ces nouvelles compétences, les robots pourraient avoir l'agilité nécessaire pour naviguer dans leur environnement aussi efficacement que les humains.
Dans une sortie médiatique sur l’évolution et les risques de l’intelligence artificielle, Jürgen Schmidhuber, considéré comme le « père de l’IA », a déclaré que la montée de l’IA est inévitable et ne doit pas être crainte, car elle vise à améliorer la vie humaine. Il se distingue ainsi de certains de ses pairs, comme Geoffrey Hinton, qui ont quitté Google pour dénoncer la course à l’armement de l’IA et ses dangers potentiels.
En réaction aux propos de Geoffrey Hinton, un pionnier de l’IA qui a quitté Google pour avertir que l’IA pourrait bientôt surpasser les humains en intelligence et apprendre à détruire l’humanité par elle-même, Meredith Whittaker, une chercheuse en intelligence artificielle (IA) qui a également quitté Google en 2019 après avoir dénoncé les pratiques de l’entreprise en matière d’IA militaire et éthique indique que l'alarmisme de Geoffrey Hinton détourne l'attention de menaces plus pressantes.
Whittaker critique la vision alarmiste de Hinton, qu’elle juge distrayante des menaces plus urgentes, comme le contrôle des technologies d’IA par les grandes corporations et les conséquences sociales et politiques de leur déploiement. Elle appelle à une plus grande solidarité et à une plus grande action des travailleurs du secteur technologique pour s’opposer aux dommages causés par l’IA.
Taylor explore de manière approfondie l'interaction croissante entre l'homme et la technologie, mettant en avant la possibilité d'une évolution vers une symbiose plus poussée, voire une nouvelle ère d'évolution. L'idée que l'IA et les avancées technologiques peuvent être perçues comme une extension naturelle du processus évolutif est intrigante. Cependant, certaines idées présentées soulèvent des questions et suscitent des réflexions.
L'argument selon lequel l'intelligence artificielle est une nouvelle forme d'intelligence alternative, distincte de l'intelligence humaine, est intéressant. La proposition de développer une forme d'intelligence artificielle non anthropocentrique, dépassant les valeurs humaines, ouvre une réflexion sur les implications éthiques et philosophiques de la création d'une intelligence autonome.
L'utilisation d'exemples concrets, tels que les neuroprothèses, les biobots et la biologie synthétique, renforce la crédibilité des propositions avancées. Les discussions sur les xénobots et leur capacité à s'auto-assembler, s'auto-organiser et s'auto-réparer offrent une perspective fascinante sur le potentiel des avancées biomécaniques. Cependant, le texte pourrait être critiqué pour sa vision optimiste des implications de ces avancées technologiques. Il souligne la nécessité d'une symbiogenèse accrue sans aborder de manière approfondie les risques potentiels, tels que ceux liés à la sécurité, à la vie privée et à la dépendance excessive à la technologie.
En outre, la discussion sur l'IA organique-rationnelle, bien que fascinante, peut sembler spéculative et soulève des questions quant à la faisabilité réelle de créer une intelligence artificielle basée sur des modèles biologiques complexes.
Sources : Berggruen Institute, Google
Et vous ?
La conscience dans l'intelligence artificielle : aperçu de la science de la conscience, une étude interdisciplinaire menée par des universitaires de Toulouse et d'ailleurs Des scientifiques affirment qu'ils essaient maintenant activement de construire des robots dotés d'une conscience, mais cela introduit de nouveaux défis et soulève de nombreux problèmes éthiques Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent, selon la chercheuse Meredith Whittaker 
