Sam Altman, PDG d'OpenAI, prévoit une superintelligence dans "quelques milliers de jours", qui permettra de réparer le climat, d'établir une colonie spatiale et de découvrir toute la physique

L'ère de l'intelligence

Dans les prochaines décennies, nous serons capables de faire des choses qui auraient semblé magiques à nos grands-parents.

Ce phénomène n'est pas nouveau, mais il va s'accélérer. Au fil du temps, les capacités des individus se sont considérablement accrues ; nous sommes déjà capables d'accomplir des choses que nos prédécesseurs auraient jugées impossibles.

Nous sommes plus capables non pas en raison d'un changement génétique, mais parce que nous bénéficions de l'infrastructure de la société qui est bien plus intelligente et plus capable que chacun d'entre nous ; dans un sens important, la société elle-même est une forme d'intelligence avancée. Nos grands-parents - et les générations qui les ont précédés - ont construit et réalisé de grandes choses. Ils ont contribué à l'échafaudage du progrès humain dont nous bénéficions tous. L'IA donnera aux gens des outils pour résoudre des problèmes difficiles et nous aidera à ajouter de nouveaux piliers à cet échafaudage que nous n'aurions pas pu trouver par nous-mêmes. L'histoire du progrès se poursuivra et nos enfants seront capables de faire des choses que nous ne pouvons pas faire.

Cela ne se fera pas d'un coup, mais nous pourrons bientôt travailler avec une IA qui nous aidera à accomplir beaucoup plus de choses que nous n'aurions jamais pu le faire sans elle ; un jour, nous pourrons tous avoir une équipe d'IA personnelle, composée d'experts virtuels dans différents domaines, qui travailleront ensemble pour créer presque tout ce que nous pourrons imaginer. Nos enfants auront des tuteurs virtuels capables de leur fournir un enseignement personnalisé dans n'importe quelle matière, dans n'importe quelle langue et à n'importe quel rythme. Nous pouvons imaginer des idées similaires pour améliorer les soins de santé, la capacité de créer tous les types de logiciels possibles et imaginables, et bien plus encore.

Grâce à ces nouvelles capacités, nous pouvons partager la prospérité à un degré qui semble inimaginable aujourd'hui ; à l'avenir, la vie de chacun peut être meilleure que celle de n'importe qui aujourd'hui. La prospérité à elle seule ne rend pas nécessairement les gens heureux - il y a beaucoup de riches malheureux - mais elle améliorerait de manière significative la vie des gens dans le monde entier.

Voici une façon restreinte de considérer l'histoire de l'humanité : après des milliers d'années de découvertes scientifiques et de progrès technologiques, nous avons découvert comment faire fondre du sable, y ajouter quelques impuretés, le disposer avec une précision étonnante à une échelle extraordinairement minuscule dans des puces d'ordinateur, y faire circuler de l'énergie et aboutir à des systèmes capables de créer des intelligences artificielles de plus en plus performantes.

Cela pourrait s'avérer être le fait le plus important de toute l'histoire jusqu'à présent. Il est possible que nous disposions d'une superintelligence dans quelques milliers de jours ( !); cela prendra peut-être plus de temps, mais je suis convaincu que nous y parviendrons.

Comment sommes-nous parvenus au seuil du prochain bond en avant de la prospérité ?

En trois mots : l'apprentissage profond a fonctionné.

En 15 mots : l'apprentissage profond a fonctionné, s'est amélioré de manière prévisible avec l'échelle, et nous lui avons consacré de plus en plus de ressources.

L'humanité a découvert un algorithme capable d'apprendre réellement, véritablement, n'importe quelle distribution de données (ou, en fait, les « règles » sous-jacentes qui produisent n'importe quelle distribution de données). À un degré de précision choquant, plus il y a de calculs et de données disponibles, mieux c'est pour aider les gens à résoudre des problèmes difficiles. J'ai beau passer beaucoup de temps à réfléchir à cette question, je ne parviens jamais à en saisir toute l'importance.

Nous devons encore régler de nombreux détails, mais c'est une erreur de se laisser distraire par un défi particulier. L'apprentissage profond fonctionne et nous résoudrons les problèmes restants. Nous pouvons dire beaucoup de choses sur ce qui pourrait se passer ensuite, mais la principale est que l'IA va s'améliorer avec l'échelle, ce qui conduira à des améliorations significatives de la vie des gens dans le monde entier.

Les modèles d'IA serviront bientôt d'assistants personnels autonomes qui effectueront des tâches spécifiques en notre nom, comme la coordination des soins médicaux. À un moment donné, les systèmes d'IA deviendront si performants qu'ils nous aideront à améliorer les systèmes de la prochaine génération et à réaliser des progrès scientifiques dans tous les domaines.

La technologie nous a fait passer de l'âge de pierre à l'âge agricole, puis à l'âge industriel. À partir de là, le chemin vers l'ère de l'intelligence est pavé de calcul, d'énergie et de volonté humaine.

Si nous voulons mettre l'IA à la portée du plus grand nombre, nous devons réduire le coût du calcul et le rendre abondant (ce qui nécessite beaucoup d'énergie et de puces). Si nous ne construisons pas suffisamment d'infrastructures, l'IA sera une ressource très limitée qui fera l'objet de guerres et deviendra principalement un outil pour les riches.

Nous devons agir avec sagesse, mais aussi avec conviction. L'avènement de l'ère de l'intelligence est une évolution capitale qui s'accompagne de défis très complexes et aux enjeux extrêmement importants. L'histoire ne sera pas entièrement positive, mais le potentiel est tellement énorme que nous nous devons, ainsi qu'à l'avenir, de trouver la manière de gérer les risques qui se présentent à nous.

Je crois que l'avenir sera si brillant que personne ne pourra lui rendre justice en essayant de l'écrire maintenant ; une caractéristique déterminante de l'ère de l'intelligence sera la prospérité massive.

Même si cela se fera progressivement, des triomphes stupéfiants - réparer le climat, établir une colonie spatiale et découvrir toute la physique - finiront par devenir monnaie courante. Avec une intelligence presque illimitée et une énergie abondante - la capacité de générer de grandes idées et la capacité de les réaliser - nous pouvons faire beaucoup de choses.

Comme nous l'avons vu avec d'autres technologies, il y aura aussi des inconvénients, et nous devons commencer à travailler dès maintenant pour maximiser les avantages de l'IA tout en minimisant ses inconvénients. À titre d'exemple, nous nous attendons à ce que cette technologie entraîne des changements importants sur les marchés du travail (bons et mauvais) dans les années à venir, mais la plupart des emplois évolueront plus lentement qu'on ne le pense, et je ne crains pas que nous manquions de choses à faire (même si elles ne ressemblent pas à de « vrais emplois » pour nous aujourd'hui). Les gens ont un désir inné de créer et d'être utiles les uns aux autres, et l'IA nous permettra d'amplifier nos propres capacités comme jamais auparavant. En tant que société, nous serons de retour dans un monde en expansion et nous pourrons à nouveau nous concentrer sur les jeux à somme positive.

Bon nombre des emplois que nous occupons aujourd'hui auraient été considérés comme des pertes de temps insignifiantes par les gens d'il y a quelques centaines d'années, mais personne ne regarde vers le passé en regrettant de ne pas avoir été allumeur de réverbères. Si un allumeur de réverbères pouvait voir le monde d'aujourd'hui, il penserait que la prospérité qui l'entoure est inimaginable. Et si nous pouvions avancer d'une centaine d'années à partir d'aujourd'hui, la prospérité qui nous entoure nous semblerait tout aussi inimaginable.