IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Il y a 15 % de chances d'avoir une IA capable de construire une sphère de Dyson d'ici 2030 et 40 % d'ici 2040,
Selon l'ancien responsable de l'alignement des modèles de langage d'OpenAI

Le , par Mathis Lucas

8PARTAGES

6  0 
La sphère de Dyson est une technologie hypothétique censée permettre à une civilisation très avancée de capter la totalité, ou presque, de l'énergie d'une étoile afin de l'utiliser pour atteindre les prochains stades de son évolution. Le concept a fasciné et captivé l'imagination des scientifiques depuis des décennies, mais est actuellement bien au-delà de nos capacités technologiques. Cependant, Paul Christiano, l'ancien responsable de l'alignement des modèles de langage d'OpenAI, pense que l'IA pourrait nous aider à atteindre cet objectif. Le chercheur en IA a déclaré qu'il y a 15 % de chances d'avoir une IA capable de créer une sphère de Dyson d'ici 2030 et 40 % de chances d'ici 2040.

Alors que certains chercheurs restent prudents sur les possibilités qu'offre l'IA, d'autres se laissent aller aux prédictions les plus folles possible. Elon Musk, fondateur de la startup xAI, pense que l'arrivée d'une forme d'intelligence générale artificielle (IAG) pourrait supprimer la nécessité de travailler pour gagner sa vie. Sam Altman, PDG d'OpenAI, a laissé entendre que l'IAG pourrait remplacer les "humains médians", des propos ont fait l'objet de controverses. Récemment, c'est Paul Christiano, un ancien cadre d'OpenAI, qui a fait une prédiction qui a suscité un grand débat dans la communauté : l'IA pourrait être en mesure de créer une sphère de Dyson.

Du nom du célèbre physicien théoricien britanno-américain Freeman Dyson, la sphère de Dyson est une mégastructure hypothétique qui recouvre une grande partie ou la totalité de la surface d'une étoile. Le but est de collecter et d'exploiter de façon optimale toute l'énergie émise par l'étoile. L'énergie collectée pourrait ensuite être utilisée afin d'alimenter les besoins de la civilisation qui aura réussi cette prouesse, et la surface intérieure de la sphère pourrait être habitée ou utilisée à diverses fins. Voici une représentation concrète de la chose : imaginez toute l'énergie de notre Soleil disponible et exploitable par les humains. Que pourrions-nous en faire ?


Les possibilités semblent infinies, mais dans un premier temps, cela pourrait nous aider à résoudre la crise énergétique et réduire les coûts élevés des voyages spatiaux et interstellaires. Cette énergie presque inépuisable pourrait nous propulser vers des exoplanètes et pourrait potentiellement nous permettre de trouver des formes de vie extraterrestre. Le concept est purement théorique et actuellement hors de portée. La construction d'une sphère de Dyson introduit des défis d'ingénierie auxquels l'humanité n'a pas le début d'une solution. Mais Christiano pense que l'IA pourrait nous mettre sur des pistes sérieuses dans un avenir pas si lointain que ça.

Dans un entretien avec Dwarkesh Patel, l'animateur de Lunar Society Podcast, Christiano a déclaré : « […] je pense que c'est une sorte de propriété d'une civilisation qui dépend de beaucoup d'infrastructures physiques. Et par sphère de Dyson, j'entends, je ne sais pas, un milliard de fois plus d'énergie que toute la lumière solaire incidente sur Terre ou quelque chose comme ça. Je pense que je me demande le plus souvent quelle est la probabilité dans cinq ans, dix ans, etc. Je dirais donc 15 % de chances d'ici à 2030 et 40 % d'ici à 2040. Ce sont des chiffres qui datent d'il y a six ou neuf mois et que je n'ai pas revus depuis longtemps ».

Christiano laisse entendre lors de l'entretien que ces chiffres datent d'avant la sortie de GPT-4, considéré par OpenAI comme le grand modèle de langage (LLM) le plus puissant du marché. Ce qui signifie que ces chiffres pourraient bien avoir évolué depuis lors. Ses prédictions ont suscité des avis mitigés dans la communauté. Certains abondent dans son sens, tandis que d'autres affirment qu'il ne s'agit que d'une simple spéculation. « Nous ne construirons probablement jamais une sphère de Dyson. C'est un projet majeur pour seulement la production d'énergie d'un soleil. Et avec de tels progrès, il faut replanifier comme chaque semaine », écrit un critique.

D'autres pensent plutôt que Christiano fait référence à l'arrivée d'une forme de superintelligence. « Je ne vois pas très bien ce que ces prévisions signifient précisément. Atteindre l'ASI est une chose, avoir une sphère de Dyson en est une autre. Même l'IAG aurait probablement besoin d'un certain temps pour la construire. Je suis aussi optimiste que n'importe qui d'autre sur le sous-marin, mais je vois 0 % de chance d'avoir une sphère de Dyson en 2030. Je pense que Christiano fait référence à l'IAG qui existera simplement en 2030 », peut-on lire dans les commentaires. Lors de l'interview, l'ancien cadre d'OpenAI a donné plus de détails sur ses prédictions.

En répondant à la question demandant pourquoi il pense qu'il y a seulement 15 % de chances de voir apparaître une telle IA capable de créer une sphère de Dyson d'ici 2030, le chercheur a déclaré : « d'un côté, je me dis que les systèmes d'IA semblent très doués pour beaucoup de choses et qu'ils s'améliorent de plus en plus rapidement, de sorte qu'il est vraiment difficile de dire ce qu'ils ne peuvent pas faire ou ce qui les empêche d'agir. D'un autre côté, il n'y a même pas de preuve de principe à l'heure actuelle que les systèmes d'IA effectuent un travail cognitif très utile ». Christiano a déclaré que l'industrie ne pouvait pas être certaine sur la question :

« Nous n'avons pas de tendance que nous pourrions extrapoler en disant : "oui, vous avez fait telle chose cette année, vous allez faire telle autre chose". Vous allez faire ceci l'année prochaine. Et l'autre chose l'année suivante. Je pense qu'à l'heure actuelle, les barres d'erreur sont très larges en ce qui concerne les difficultés fondamentales, et six ans, ce n'est pas, je suppose, six ans et trois mois, ce n'est pas beaucoup de temps. Je pense donc que pour avoir une sphère de Dyson en 2030, il faudrait probablement une IA de niveau humain ou une IA capable de faire du travail humain dans environ 3 ans, 4 ans, quelque chose comme ça ».

En arrivant à créer une sphère de Dyson, l'humanité pourrait franchir d'autres étapes de l'évolution d'une civilisation telles que définies par l'astrophysicien russe Nikolaï Kardachev. L’échelle de Kardachev classe les civilisations de l'univers en fonction de leur consommation d'énergie. En appliquant l'échelle de Kardachev à l'humanité, nous avons les évolutions suivantes :

  • en consommant un jour toute l'énergie disponible sur Terre, l'humanité deviendra une civilisation de type I ;
  • lorsque l'humanité sera en mesure d'utiliser toute l'énergie rayonnée chaque seconde par le Soleil, en l'entourant d'une sphère de Dyson, elle deviendra une civilisation de type II ;
  • en colonisant notre galaxie (la Voie Lactée) pour exploiter l'énergie de toutes les étoiles de la même manière, l'humanité pourrait devenir une civilisation de type III.


Paul Christiano est l'ancien responsable de l'alignement des modèles de langage d'OpenAI. Il est considéré comme l'un des principaux experts en matière de recherche sur la sécurité de l'IA. Il a inventé l'apprentissage par renforcement à partir du feedback humain (RLHF) lorsqu'il dirigeait l'équipe chargée de l'alignement des modèles de langage chez OpenAI. Il dirige aujourd'hui un centre de recherche sur l'alignement. Des critiques appuyant le point de vue de Christiano estiment qu'il ne se trompe pas sur la question. Selon eux, les progrès remarquables qui ont eu lieu dans le domaine ces dernières années sont souvent relativisés par plusieurs personnes.

[tweet]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">Paul Christiano: when will an AI be able to build a Dyson sphere around The Sun?<br><br>- 15% chance by 2030<br>- 40% chance by 2040 <a href="https://t.co/k5FjpB4w2X">pic.twitter.com/k5FjpB4w2X</a></p>&mdash; Roko &#11036;&#128997;&#9208;&#65039; (@RokoMijic) <a href="https://twitter.com/RokoMijic/status/1719390649382772759?ref_src=twsrc%5Etfw">October 31, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>[/tweet]

Lors de l'interview, l'animateur a déclaré que Dario Amodei, PDG d'Anthropic, a un calendrier encore plus court. « Il convient de prendre toute prédiction avec un grain de sel, quelle que soit l'expertise de la personne qui l'émet. Toutefois, ce type de prédiction implique que le taux d'accélération du développement de l'IA est bien plus important que la plupart des gens ne le pensent. Je comprends qu'il dit simplement qu'il prédit que l'IA sera capable de le faire, et qu'il ne construit pas réellement la sphère de Dyson, mais il s'agit tout de même d'une prédiction absolument stupéfiante », note un critique. D'autres proposent qu'une telle IA serve à autre chose.

Pour certains critiques, une IA capable de construire une sphère de Dyson pourrait servir à d'autres choses ayant plus de valeur, comme le prolongement de la durée de vie. « Je ne me préoccupe pas d'une hypothétique sphère de Dyson pour l'instant, mais du prolongement de ma vie d'au moins quelques centaines d'années. Une IA capable de construire une sphère de Dyson serait très certainement aussi capable d'allonger massivement la durée de vie et l'espérance de vie, voire d'inverser et d'arrêter complètement le vieillissement. Il y a d'autres moyens d'exploiter toute l'énergie émise par notre Soleil », peut-on lire dans les commentaires.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous d'une IA capable de construire une sphère de Dyson ?
La prédiction de Paul Christiano est-elle réaliste ou cela relève-t-il de la science-fiction ?
L'humanité sera-t-elle un jour capable de construire une sphère de Dyson ?

Voir aussi

Sam Altman laisse entendre qu'il veut remplacer les « humains médians » par une Intelligence Artificielle Générale, des propos qui ont suscité la controverse

Une étude de Goldman Sachs affirme que l'IA pourrait automatiser 25 % des emplois actuels dans le monde, les économistes, les employés administratifs et les avocats devraient être les plus touchés

L'un des fondateurs de DeepMind pense qu'il y a une probabilité de 50 % que l'AGI existe d'ici 2028, certains estiment qu'il y a des chances que, l'AGI prenne le contrôle de l'humanité et la détruise

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Prox_13
Membre éprouvé https://www.developpez.com
Le 10/11/2023 à 16:35
Citation Envoyé par Mathis Lucas Voir le message
Il y a 15 % de chances d'avoir une IA capable de construire une sphère de Dyson d'ici 2030 et 40 % d'ici 2040 selon l'ancien responsable de l'alignement des modèles de langage d'OpenAI
Je suis extrêmement sceptique/frileux, lorsqu'une personne intéressée économiquement fait une prédiction dans son propre intérêt. Je préfère lorsqu'un consensus scientifique démontre à l'aide d'études qu'une croissance est a prévoir dans un sens, en prenant en compte les différentes possibilités dans le cas échéant.

Et puis concevoir une sphère de Dyson sur le plan théorique, ça ne me paraît pas complètement faramineux; Nous avons des modèles, des simulations bien plus complexes qui sont gérées par ordinateur actuellement.
Construire la sphère, donner des méthodes réalistes à suivre pour atteindre ce but ou découvrir des matériaux capables de soutenir une telle technologie me paraît plus impressionnant comme attentes d'une IA.

Après, est-ce un problème de relais de l'information ?



A méditer en attendant
7  0 
Avatar de Fagus
Membre expert https://www.developpez.com
Le 10/11/2023 à 18:35
Celle-là je l'avais pas vue venir... la dernière fois que j'ai joué avec ChatGPT, le programme ("AI" c'est prématuré) pouvait faire l'encyclopédie interactive, comme un moteur de recherche parlant, par contre jouer à chifoumi c'était au-delà de ses capacités. Ou juste, compter le nombre de lettres dans les mots d'une phrase ça marchait 2 fois sur 3.

Alors selon Paul Christiano, d'ici la fin de la décennie, il y a une chance non-nulle qu'on devienne une civilisation spatiale, capable de construire des usines dans l'espace, capable de minier des planètes entières du système solaire. (Parce que pour construire une machine de la taille du soleil, va falloir plus que se retrousser les manches.)

Admettons qu'on ait aujourd'hui une IA de niveau divin (omnisciente). Comment fabrique-t-on dans les délais les centrales énergétiques fantastiques pour envoyer dans l'espace la matière pour construire des usines spatiales et minier des planètes entières ?

Analogie : on aurait expliqué aux hommes de Cro-Magnon, au moins voire plus intelligents que nous (le QI moyen est en baisse), le secret de la centrale à fusion, à mon humble avis la construire en une dizaine d'années avec des bifaces, c'était pas gagné d'avance (déjà qu'on doit refaire les soudures de l'EPR faute de soudeurs compétents et d'encadrement compétent jusqu'au plus haut niveau au 1er jet).
7  0 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 10/11/2023 à 20:48
ou 100% de chance qu'une IA ce dise : a quoi bon sauver la race humaine, autant l'eradiquer c'est plus simple
7  1 
Avatar de StephCo
Membre à l'essai https://www.developpez.com
Le 13/11/2023 à 13:04
Recette de la sphère de Dyson en 2030 :
STEP 1 : rassembler 50 planètes et en extraire les ressources métalliques
WTF ?!... et merdeuu ....
5  0 
Avatar de mith06
Membre expérimenté https://www.developpez.com
Le 13/11/2023 à 8:28
Il sont en retard. Je travaille sur une IA qui créera un Empire Galactique ( 20.42% de change) d'ici de 2035 (En même temps que la fin des véhicules thermiques en Europe) .
Sphère de Dyson... petits joueur LOL.
3  0 
Avatar de skaarj
Membre régulier https://www.developpez.com
Le 11/11/2023 à 14:14
Faut déjà réussir à se rendre sur la Lune non avant de viser un tel projet ? Ah oui, il y a Mars avant aussi. Sacrés humains...
2  0 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 13/11/2023 à 9:22
sur le plan théorique il me semble qu'on sait déja faire une sphere de dyson.
sur le plan théorique on sait faire pleins de chose dingue et depuis très longtemps, depuis 1947 par exemple on sait voyager à 10% de la vitesse de la lumière (moteur orion).

moi sur le plan théorique je saurais faire un grand open world réaliste

dans la pratique, faire une sphere de dyson, faudrait pouvoir déplacer dans l'espace l'équivalent en masse de mercure. il faudrait donc pleins de vaisseaux avec beaucoup de carburant.
Le tout inutilement car.... on a pas besoin d'une sphère de Dyson. Une énergie infini et pas cher on sait faire, les centrales nucléaire au thorium à sels fondus la chine en a qui fonctionne déjà et ca marche tres bien.
2  0 
Avatar de rsuinux
Membre actif https://www.developpez.com
Le 11/11/2023 à 11:33
La seule chose qu'il a réussi, c'est de faire parler de lui et des prédictions foireuses.
C'est peut être un brillant gestionnaire de société voir un parfait connaisseur de l'IA, mais zéro en physique.
Bref, il a voulu faire le buzz et il a réussi.
1  0 
Avatar de agripp
Membre habitué https://www.developpez.com
Le 12/11/2023 à 10:56
Logique et critique...
Je ne sais si l'IA sera un jour capable de construire une sphère de Dyson... En revanche si elle est un jour capable d'allonger la durée de vie de l'homme de quelques siècles, la sphère de Dyson sera indispensable... A moins que l'IA ne soit capable de réguler en même temps la fécondité de l'ensemble des populations.
1  0 
Avatar de Nicolas___
Membre régulier https://www.developpez.com
Le 12/11/2023 à 13:36
Bonjour,
ce genres d'avancées me fait rire : un jour on aura un programme capable de prédire quelque chose d'hyper théorique car on l'entrainera en conséquence pour que dans 20 ans il donne enfin les prédictions que l'on veut qu'il donne ... et ?
Serait-il possible d'en faire une pour autant ? non
Est-ce que l'on pourrait au moins ressortir deux / trois informations utiles de tout se brouhaha théorique ? Vu la technologie de la sphère, pas vraiment (sauf peut être des scénarios de films).

Est-ce qu'il y a mieux à faire que ça pendant 20 ans ? Je dirais certainement !

En bref du bruit pour le grand public et un moyen de faire du $$$ pour des investisseurs
1  0