IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'énergie, et non la puissance de calcul, sera le premier goulot d'étranglement pour les progrès de l'IA
D'après Mark Zuckerberg

Le , par Anthony

10PARTAGES

3  0 
Lors d'un récent podcast, Mark Zuckerberg, PDG de Meta, a mis en évidence l'énergie comme étant un goulet d'étranglement critique pour les progrès de l'IA. Selon M. Zuckerberg, malgré les améliorations apportées à la production de GPU, les contraintes énergétiques restent importantes. La construction de clusters d'entraînement massifs nécessite une puissance immense et les obstacles réglementaires retardent encore plus les progrès, faisant des installations à grande échelle une entreprise de longue haleine. Toutefois, M. Zuckerberg a insisté sur la nécessité de surmonter ces goulets d'étranglement évolutifs sur la voie du progrès de l'IA.

L'intelligence artificielle (IA), dans son sens le plus large, est l'intelligence dont font preuve les machines, en particulier les systèmes informatiques. Il s'agit d'un domaine de recherche en informatique qui développe et étudie des méthodes et des logiciels permettant aux machines de percevoir leur environnement et d'utiliser l'apprentissage et l'intelligence pour prendre des mesures qui maximisent leurs chances d'atteindre des objectifs définis. Ces machines peuvent être appelées « IA ».

Citation Envoyé par Mark Zuckerberg
Ces dernières années, je pense qu'il y a eu un problème de production de GPU. Même les entreprises qui avaient les moyens de payer pour les GPU ne pouvaient pas nécessairement en produire autant qu'elles le voulaient en raison de toutes ces contraintes d'approvisionnement. Aujourd'hui, je pense que la situation s'améliore et qu'un certain nombre d'entreprises se disent : « Nous devrions investir beaucoup d'argent dans la construction de ces systèmes », et je pense que cela va durer un certain temps. Il y a une question de capital telle que : à quel moment cela ne vaut plus la peine d'investir, mais je pense qu'avant d'en arriver là, vous allez vous heurter à des contraintes en matière d'énergie.

C'est vrai, je ne pense pas que quelqu'un ait encore construit un cluster de formation unique d'un gigawatt. Je voudrais juste mettre les choses en perspective. Je pense qu'un gigawatt, c'est à peu près la taille d'une centrale nucléaire significative uniquement pour l'entraînement d'un modèle.

Et puis il y a ces aspects qui finissent par prendre du temps, comme l'obtention d'un permis d'exploitation de l'énergie qui est une fonction gouvernementale très réglementée. Et si l'on parle de construire de nouvelles grandes centrales électriques ou de grandes extensions et de construire des lignes de transmission qui traversent d'autres terrains privés ou publics, c'est une chose qui est très réglementée. Il s'agit donc d'un délai de plusieurs années, et si nous voulions mettre en place une installation massive pour alimenter tout cela, je pense qu'il s'agirait d'un projet à très long terme.

Je pense que nous pourrions probablement construire des clusters plus grands que ce que nous pouvons faire actuellement si nous pouvions obtenir l'énergie pour le faire, donc je pense qu'il est temps, mais cela dépend de l'ampleur des courbes exponentielles, et je pense qu'un certain nombre d'entreprises travaillent sur ce sujet.

Vous savez, à l'heure actuelle, je pense que beaucoup de centres de données sont de l'ordre de 50 mégawatts ou 100 mégawatts ou, pour les plus grands, de 150 mégawatts. Vous prenez donc un centre de données entier et vous le remplissez avec tout ce dont vous avez besoin pour la formation, et vous construisez le plus grand cluster possible. Je pense que c'est un peu ce que font un certain nombre d'entreprises. Mais quand vous commencez à construire un centre de données de 300 mégawatts, de 500 mégawatts ou un gigawatt, personne n'a encore construit un seul centre de données d'un gigawatt, donc je pense que cela arrivera, ce n'est qu'une question de temps, mais ce ne sera pas l'année prochaine. C'est l'une des choses les plus délicates au monde à planifier : lorsque vous avez une courbe exponentielle, combien de temps dure-t-elle ?

Je pense qu'il y a suffisamment de chances que cela continue pour que cela vaille la peine d'investir des dizaines ou des centaines de milliards de dollars dans la construction de l'infrastructure. On peut supposer que si cela continue, on obtiendra des choses vraiment extraordinaires qui feront des produits extraordinaires, mais je ne pense pas que quelqu'un dans l'industrie puisse vraiment vous dire que cela va continuer à se développer à ce rythme.

En général, dans l'histoire, il y a des goulots d'étranglement à certains moments, et maintenant il y a tellement d'énergie dans ce domaine que ces goulots d'étranglement seront peut-être éliminés assez rapidement. Mais je ne pense pas que ce soit quelque chose d'aussi magique que d'obtenir un certain niveau d'IA, un certain niveau de capital puis de l'investir et que tout d'un coup les modèles vont s'adapter, je pense qu'il y aura différents goulots d'étranglement en cours de route.
Et vous ?

Quel est votre avis sur le sujet ?
Pensez-vous que le point de vue de M. Zuckerberg est crédible ou pertinent ?

Voir aussi :

L'IA générative n'aura besoin que de deux centrales électriques pour maintenir ses applications en 2024, selon Sergey Edunov, cadre de Meta

Le PDG d'OpenAI, Sam Altman, a déclaré qu'une percée énergétique était nécessaire pour l'intelligence artificielle (IA) de demain, qui consommera beaucoup plus d'énergie que prévu

L'IA a besoin de tellement d'énergie que les vieilles centrales au charbon sont maintenues en service, alors que la demande en énergie des centres de données devrait tripler d'ici 2030

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de vivid
Membre régulier https://www.developpez.com
Le 14/05/2024 à 9:34
Nooooon pas possible et si il n'y avait que des problèmes énergétiques...
0  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 14/05/2024 à 10:08
Citation Envoyé par Anthony Voir le message
Quel est votre avis sur le sujet ?
D'un coté on nous demande de diminuer notre consommation d'énergie.
- se chauffer moins
- ne pas utiliser de climatisation
- voyager le moins possible
- privilégier les modes de transport alternatifs (covoiturage, transports en commun, marche, vélo)
- remplacer son véhicule thermique qui fonctionne très bien par un véhicule électrique neuf

De l'autre côté il y a l'industrie de l'IA qui demande de plus en plus d'énergie.
Il faudrait comparer les consommations d'énergie, mais si ça se trouve l'IA va consommer beaucoup plus que ce que consommait le minage de cryptomonnaie à son apogée, ça doit partir vite les GWh.

D'ailleurs, quand on parle d'un centre de données d'1 gigawatt est-ce que ça veut dire qu'en 1h il peut consommer 1 GWh ?

=====
J'espère que de nouveaux réacteurs nucléaires vont être rapidement fonctionnels, parce que la demande en électricité va augmenter et le prix du kWh est déjà trop élevé.
Les entreprises d'IA peuvent faire du greenwashing en achetant de l'énergie renouvelable (mais ça m'étonnerait parce que le kWh coute plus cher), ce qui rapporterait énormément d'argent aux entreprises qui produisent de l'énergie renouvelable, ce qui leur permettraient d'investir dans des panneaux solaires et des éoliennes et peut-être qu'à force le prix du kWh renouvelable baisserait un peu.

Ou alors les entreprises d'IA peuvent faire ça :
Microsoft songe à se doter de son propre réacteur nucléaire pour ses projets d’intelligence artificielle
0  0 
Avatar de calvaire
Expert confirmé https://www.developpez.com
Le 14/05/2024 à 11:19
Citation Envoyé par Ryu2000 Voir le message
D'un coté on nous demande de diminuer notre consommation d'énergie.
- se chauffer moins
- ne pas utiliser de climatisation
langue de bois, la vrai raison: on a fait de la merde pendant 20ans, on a rien fait pour produire plus d'énergie et répondre aux besoins (pas de nouvelle centrale nucléaire), on est des incapables et on fait des sanctions contre poutine pour faire bonne figure mais on achete du gaz russe à l'inde tres cher histoire de couler encore plus l'europe.

[QUOTE=Ryu2000;12023346
- privilégier les modes de transport alternatifs (covoiturage, transports en commun, marche, vélo)
- remplacer son véhicule thermique qui fonctionne très bien par un véhicule électrique neuf
[/QUOTE]

langue de bois, la vrai raison: Une voiture fiable ca coule l'économie, on a mis des normes écologique pour rendre les voitures merdique (adblue, fap) et forcer les gens a jeter leurs voiture fiable pour acheter ces merde tres cher (15000€ le 1er prix d'une thermique)
ou pire encore acheter une électrique à 30000€.
les français ont trop d'épargne et faut sauver l'industrie automobile.

seul truc pas prévu dans leur superbe plan: l'invasion des voiture chinoise

Citation Envoyé par Ryu2000 Voir le message
D'un coté on nous demande de diminuer notre consommation d'énergie.
- moins voyager
Ces gens tkt pas eux partent en voyage et se prive de rien, Hidalgo fait 3 fois le tour du monde en avion chaque année payé par le contribuable pour aller inaugurer le moindre arbre planté au japon ou en Polynésie ou autre endroit très sympa pour passer des vacances.
Pour son dernier voyage au Brésil, macron a offert à son custome un siège en avion 1ere classe.

Si écologiquement le costume de macron peut voyage en avion, je vois pas pourquoi je pourrais pas moi aussi voyager en avion...
0  0 
Avatar de L33tige
Membre expérimenté https://www.developpez.com
Le 16/05/2024 à 12:23
Citation Envoyé par Ryu2000 Voir le message
Le problème c'est que construire un réacteur nucléaire prend énormément de temps. Il aurait fallu anticiper que la demande en électricité allait augmenter, si des projets de construction de centrales nucléaires avaient commencé en 2000, aujourd'hui il y aurait de nouvelles centrales nucléaire.

À moins que les choses changent avec les mini-centrales. Bill Gates a créé la société TerraPower et peut-être que cette entreprise peut livrer des centrales plus rapidement.

On verra…
Libre aux gens de penser que l'avenir sera radieux, dans les faits ça fait 60 ans que tout est en régression, on à calqué nos modes de vie sur un business non viable.
0  0