Sam Altman, PDG d'OpenAI, prévoit que les avantages de l'IA ne seront peut-être pas largement répartis, et seront utilisés par les gouvernements pour contrôler leur population par la surveillance de masse

Sam Altman, PDG d'OpenAI, prévoit que les avantages de l'IA ne seront peut-être pas largement répartis, et seront utilisés par les gouvernements pour contrôler leur population par la surveillance de masse

Dans un récent essai publié sur son blog personnel, Sam Altman, le PDG d'OpenAI, a reconnu que les avantages de l'intelligence artificielle (IA) pourraient ne pas être largement répartis, proposant des idées non conventionnelles telles qu'un « budget de calcul » pour garantir un accès plus large à la technologie. Il y exprime également ses inquiétudes quant aux perturbations potentielles de l'équilibre des pouvoirs entre le capital et l'emploi dues aux progrès de l'IA, suggérant qu'une intervention précoce pourrait s'avérer nécessaire.

Samuel Harris Altman est un entrepreneur et investisseur américain surtout connu pour être le directeur général d'OpenAI depuis 2019 (il a été brièvement démis de ses fonctions puis réintégré en novembre 2023). Il est également président des sociétés d'énergie propre Oklo Inc. et Helion Energy. Sam Altman est considéré comme l'une des figures de proue du boom de l'IA et en janvier 2025, sa valeur nette était estimée à 1,1 milliard de dollars.

Pour rappel, Sam Altman avait précédemment pris des initiatives pour explorer des solutions potentielles aux bouleversements économiques induits par l'IA. L'une d'entre elles est son expérience sur le revenu de base universel, qui a consisté à évaluer l'impact de cette mesure sur les individus et les communautés. Cette expérience a notamment révélé les avantages prometteurs et les limites de cette approche face aux défis posés par l’automatisation.

Dans son nouvel essai, le PDG d'OpenAI, Sam Altman, a déclaré que l'entreprise était ouverte à l'idée d'un « budget de calcul », parmi d'autres idées qui peuvent paraitre « étranges », afin de « permettre à tout le monde sur Terre d'utiliser beaucoup d'IA » et de veiller à ce que les avantages de la technologie soient largement répartis.


Le contenu du billet de blog de Sam Altman est présenté ci-dessous :

[QUOTE]
Notre mission est de veiller à ce que l'AGI (intelligence artificielle générale) profite à l'ensemble de l'humanité.

Les systèmes qui commencent à pointer vers l'AGI* sont en train d'apparaître, et nous pensons donc qu'il est important de comprendre le moment dans lequel nous nous trouvons. L'AGI est un terme mal défini, mais d'une manière générale, nous l'entendons comme un système capable de résoudre des problèmes de plus en plus complexes, à hauteur d'homme, dans de nombreux domaines.

L'homme est un bâtisseur d'outils, doté d'une volonté inhérente de comprendre et de créer, ce qui permet d'améliorer le monde pour chacun d'entre nous. Chaque nouvelle génération s'appuie sur les découvertes des générations précédentes pour créer des outils encore plus performants : l'électricité, le transistor, l'ordinateur, l'internet et bientôt l'AGI.

Au fil du temps, par à-coups, la marche régulière de l'innovation humaine a permis d'atteindre des niveaux de prospérité inimaginables et d'améliorer presque tous les aspects de la vie des gens.

Dans un certain sens, l'AGI n'est qu'un outil de plus dans cet échafaudage de plus en plus haut du progrès humain que nous construisons ensemble. Dans un autre sens, c'est le début de quelque chose pour lequel il est difficile de ne pas dire « cette fois, c'est différent » ; la croissance économique devant nous semble étonnante, et nous pouvons maintenant imaginer un monde où nous guérissons toutes les maladies, où nous avons beaucoup plus de temps à consacrer à nos familles, et où nous pouvons réaliser pleinement notre potentiel créatif.

Dans une décennie, chacun sur terre sera peut-être capable d'accomplir plus que la personne la plus influente ne peut le faire aujourd'hui.

Le développement de l'IA continue de progresser rapidement. Voici trois observations sur l'économie de l'IA :

1. L'intelligence d'un modèle d'IA est à peu près égale au logarithme des ressources utilisées pour l'entraîner et le faire fonctionner. Ces ressources sont principalement le calcul d'entraînement, les données et le calcul d'inférence. Il semble que l'on puisse dépenser des sommes arbitraires et obtenir des gains continus et prévisibles ; les lois d'échelle qui prédisent cela sont précises sur de nombreux ordres de grandeur.

2. Le coût d'utilisation d'un niveau donné d'IA diminue d'environ 10 fois tous les 12 mois, et des prix plus bas entraînent une utilisation beaucoup plus importante. Vous pouvez le constater dans le coût des jetons entre GPT-4 début 2023 et GPT-4o mi-2024, où le prix par jeton a chuté d'environ 150 fois au cours de cette période. La loi de Moore a changé le monde à raison de 2 fois tous les 18 mois ; c'est incroyablement plus fort.

3. La valeur socio-économique de l'augmentation linéaire de l'intelligence est super-exponentielle par nature. En conséquence, nous ne voyons aucune raison pour que l'augmentation exponentielle des investissements s'arrête dans un avenir proche.

Si ces trois observations se confirment, les conséquences pour la société seront importantes.

Nous commençons maintenant à déployer des agents d'IA, qui finiront par ressembler à des collègues de travail virtuels.

Imaginons le cas d'un agent de génie logiciel, un agent dont nous prévoyons qu'il sera particulièrement important. Imaginons que cet agent soit un jour capable de faire la plupart des choses qu'un ingénieur logiciel d'une grande entreprise ayant quelques années d'expérience pourrait faire, pour des tâches d'une durée maximale de deux jours. Il n'aura pas les idées les plus novatrices, il nécessitera beaucoup de supervision et de direction de la part de l'homme, et il sera excellent dans certains domaines, mais étonnamment mauvais dans d'autres.

Imaginez cependant qu'il s'agisse d'un collègue virtuel réel, mais relativement jeune. Imaginez maintenant qu'il y en ait 1 000. Ou 1 million d'entre eux. Imaginez maintenant de tels agents dans tous les domaines du travail intellectuel.

À certains égards, l'IA pourrait s'avérer être comme le transistor sur le plan économique - une grande découverte scientifique qui évolue bien et qui s'infiltre dans presque tous les secteurs de l'économie. Nous ne pensons pas beaucoup aux transistors, ni aux entreprises de transistors, et les gains sont très largement répartis. Mais nous attendons de nos ordinateurs, téléviseurs, voitures, jouets et autres qu'ils fassent des miracles.

Le monde ne changera pas d'un seul coup, ce n'est jamais le cas. À court terme, la vie continuera à peu près de la même manière, et les gens de 2025 passeront la plupart de leur temps de la même manière qu'ils le faisaient en 2024. Nous continuerons à tomber amoureux, à fonder des familles, à nous disputer en ligne, à faire des randonnées dans la nature, etc.

Mais il est impossible d'ignorer l'avenir, et les changements à long terme de notre société et de notre économie seront considérables. Nous trouverons de nouvelles activités, de nouvelles façons d'être utiles les uns aux autres et de nouvelles façons d'être compétitifs, mais elles ne ressembleront peut-être pas beaucoup aux emplois d'aujourd'hui.

L'action, la volonté et la détermination seront probablement extrêmement précieuses. Décider correctement de ce qu'il faut faire et trouver comment naviguer dans un monde en constante évolution aura une valeur énorme ; la résilience et l'adaptabilité seront des compétences utiles à cultiver. L'AGI sera le plus grand levier jamais utilisé pour la volonté humaine et permettra aux individus d'avoir plus d'impact que jamais, et non moins.

Nous nous attendons à ce que l'impact de l'AGI soit inégal. Même si certaines industries ne changeront que très peu, le progrès scientifique sera probablement beaucoup plus rapide qu'il ne l'est aujourd'hui ; cet impact de l'AGI pourrait surpasser tout le reste.

Le prix de nombreux biens finira par chuter de manière spectaculaire (à l'heure actuelle, le coût de l'intelligence et le coût de l'énergie limitent beaucoup de choses), et le prix des produits de luxe et de quelques ressources intrinsèquement limitées, comme les terres, pourrait augmenter de manière encore plus spectaculaire.

D'un point de vue technique, la route devant nous semble assez claire. Mais la politique publique et l'opinion collective sur la manière dont nous devrions intégrer l'AGI dans la société comptent beaucoup ; l'une des raisons pour lesquelles nous lançons des produits précocement et fréquemment est de donner à la société et à la technologie le temps de coévoluer.

L'IA s'infiltrera dans tous les domaines de l'économie et de la société ; nous nous attendrons à ce que tout soit intelligent. Beaucoup d'entre nous s'attendent à devoir donner aux gens plus de contrôle sur la technologie que par le passé, y compris en l'ouvrant davantage, et acceptent qu'il y ait un équilibre entre la sécurité et l'autonomisation individuelle qui nécessitera des compromis.

Bien que nous ne voulions jamais être imprudents et qu'il y aura probablement des décisions majeures et des limitations liées à la sécurité de l'AGI qui seront impopulaires, sur le plan directionnel, à mesure que nous nous rapprochons de la réalisation de l'AGI, nous pensons qu'il est important de tendre davantage vers l'autonomisation individuelle ; l'autre voie probable que nous pouvons voir est l'utilisation de l'IA par des gouvernements autoritaires pour contrôler leur population par la surveillance de masse et la perte d'autonomie.

Il est essentiel de veiller à ce que les avantages de l'AGI soient largement répartis. L'impact historique du progrès technologique suggère que la plupart des paramètres qui nous intéressent (résultats sanitaires, prospérité économique, etc.) s'améliorent en moyenne et à long terme, mais l'augmentation de l'égalité ne semble pas déterminée par la technologie et il faudra peut-être trouver de nouvelles idées pour y parvenir.

En particulier, il semble que l'équilibre des pouvoirs entre le capital et le travail puisse facilement être rompu, ce qui pourrait nécessiter une intervention précoce. Nous sommes ouverts à des idées qui semblent étranges, comme l'octroi d'un « budget de calcul » pour permettre à tous les habitants de la Terre d'utiliser une grande quantité d'IA, mais nous voyons aussi de nombreuses façons de réduire le coût de l'intelligence au maximum pour obtenir l'effet désiré.

N'importe qui en 2035 devrait être capable de rassembler des capacités intellectuelles équivalentes à celles de n'importe qui en 2025 ; tout le...