Nvidia dévoile Eos, son supercalculateur d'IA le plus rapide, équipé de 4 608 GPU H100 dédiés à l'IA générative. Classé comme le neuvième supercalculateur le plus performant au monde, Eos est actuellement utilisé par Nvidia pour la recherche en IA interne. La machine intègre 576 systèmes DGX H100, totalisant 1 152 processeurs Intel Xeon Platinum 8480C et 4 608 GPU H100, offrant des performances impressionnantes de 121,4 FP64 PetaFLOPS et 18,4 FP8 ExaFLOPS pour le HPC et l'IA.[/B] Nvidia, le principal fabricant mondial de puces, s'est positionné comme le premier investisseur dans les start-ups d'intelligence artificielle, renforçant ainsi sa dominance en tant que fournisseur majeur de processeurs d'IA. La société basée dans la Silicon Valley a révélé avoir investi dans « plus de deux douzaines » d'entreprises cette année, couvrant divers secteurs, de nouvelles plateformes d'IA évaluées à plusieurs milliards de dollars à des start-ups plus petites œuvrant dans des domaines tels que les soins de santé et l'énergie.
Selon les données de Dealroom, Nvidia a participé à 35 opérations en 2023, soit près de six fois plus que l'année précédente, consolidant sa position en tant qu'investisseur à grande échelle le plus actif dans le secteur de l'IA. Cette activité a dépassé celle des grandes sociétés de capital-risque de la Silicon Valley. Les investissements, totalisant 872 millions de dollars sur neuf mois, ont été dirigés vers des entreprises utilisant les technologies de Nvidia.
La conception d'Eos, basée sur l'architecture DGX SuperPOD, est spécifiquement orientée vers les charges de travail d'IA et l'évolutivité, utilisant la technologie Mellanox Quantum-2 InfiniBand pour des vitesses de transfert de données cruciales jusqu'à 400 Gb/s. Le supercalculateur est accompagné d'une pile logicielle intégrée, facilitant le développement et le déploiement de l'IA. Bien que le coût d'Eos soit inconnu, la vidéo de présentation souligne la capacité de la machine à répondre aux projets d'IA les plus exigeants, soulignant l'expertise de Nvidia en la matière.
Derrière la vitrine technologique, des doutes subsistent sur l'impact réel
En dévoilant Eos, son dernier supercalculateur à l'échelle d'un centre de données, NVIDIA cherche à impressionner en mettant en avant l'architecture qui alimente les usines d'IA avancées. La vidéo présentée au public offre un aperçu du SuperPOD NVIDIA DGX à très grande échelle, vantant les percées réalisées par les développeurs de NVIDIA en matière d'IA grâce à une infrastructure informatique accélérée et des logiciels soi-disant entièrement optimisés.
Eos, construit avec 576 systèmes NVIDIA DGX H100, un réseau InfiniBand NVIDIA Quantum-2 et des logiciels, prétend fournir un total impressionnant de 18,4 exaflops de performances FP8 AI. Cependant, ces déclarations suscitent des interrogations quant à la véritable valeur ajoutée de cette puissance de calcul dans des applications concrètes.
Le nombre de GPU H100, soit 4 608 au total, est mis en avant comme une caractéristique phare d'Eos, prétendant ainsi que cette surabondance de puissance permettrait de gérer les plus grandes charges de travail d'IA. Cependant, la question de savoir si cette capacité colossale se traduira par des avancées significatives dans des domaines tels que la recherche pharmaceutique, les chatbots ou les simulations quantiques reste à démontrer.
La mention d'Eos comme une "vitrine" des technologies de NVIDIA utilisées à grande échelle laisse planer le doute sur l'objectivité de cette déclaration. Il est crucial de se demander si cette présentation ne sert pas simplement les intérêts promotionnels de l'entreprise plutôt que de fournir une évaluation réaliste de l'impact potentiel d'Eos dans le monde de l'IA.
Bien que la vidéo insiste sur le moment opportun d'Eos, affirmant que les gens changent le monde grâce à l'IA générative, des questions subsistent quant à la réelle nécessité d'une usine d'IA spécialement conçue. Les allégations selon lesquelles Eos peut aider à augmenter la capacité de construire des modèles d'IA à grande échelle semblent davantage relever du discours marketing que d'une véritable nécessité.
Enfin, le classement d'Eos en tant que neuvième supercalculateur le plus rapide au monde dans la liste TOP500 est présenté comme une prouesse, mais il est important de se demander dans quelle mesure cette position reflète réellement les avancées technologiques et l'efficacité opérationnelle d'Eos dans des environnements réels. Les affirmations concernant l'informatique accélérée, la mise en réseau avancée et les offres logicielles sophistiquées nécessitent un examen approfondi pour déterminer si Eos repousse réellement les limites de la technologie et de l'infrastructure de l'IA comme le prétend NVIDIA.
Décryptage de l'architecture avancée d'Eos par NVIDIA
L'architecture d'Eos est optimisée pour les charges de travail d'IA exigeant une interconnectivité à très faible latence et à haut débit sur un grand cluster de nœuds informatiques accélérés, ce qui en fait une solution idéale pour les entreprises cherchant à faire évoluer leurs capacités d'IA.
Basée sur la technologie NVIDIA Quantum-2 InfiniBand avec In-Network Computing, son architecture réseau prend en charge des vitesses de transfert de données allant jusqu'à 400 Gb/s, facilitant le mouvement rapide de grands ensembles de données essentiels pour l'entraînement de modèles d'IA complexes.
Au cœur d'Eos se trouve l'architecture révolutionnaire DGX SuperPOD alimentée par les systèmes DGX H100 de NVIDIA.
Cette architecture est conçue pour fournir aux domaines de l'IA et de l'informatique des systèmes complets étroitement intégrés capables de calculer à une échelle énorme. Alors que les entreprises et les développeurs du monde entier cherchent à exploiter la puissance de l'IA, Eos se présente comme une ressource essentielle, promettant d'accélérer le voyage vers des applications infusées par l'IA qui alimentent chaque organisation.
Enthousiasme technologique et préoccupations
La révélation du supercalculateur d'IA d'Eos par Nvidia ne manque pas de susciter l'admiration en raison de ses performances exceptionnelles, mais une approche critique est nécessaire pour évaluer les implications réelles de cette avancée technologique. Bien que les chiffres impressionnants de 121,4 FP64 PetaFLOPS et 18,4 FP8 ExaFLOPS pour le HPC et l'IA soient indéniablement remarquables, il est essentiel de se demander dans quelle mesure ces capacités se traduiront par des avancées significatives dans le domaine de l'intelligence artificielle.
Par ailleurs, la vidéo de présentation met en avant la capacité d'Eos à répondre aux projets d'IA les plus exigeants, mais le coût de cette technologie demeure un mystère. L'absence d'information sur le prix suscite des interrogations quant à l'accessibilité de cette technologie et à sa viabilité pour des applications plus larges. La décision apparente de Nvidia de ne pas utiliser les CPU AMD, malgré leur réputation de puissance, pourrait soulever des questions sur les choix de conception et la volonté d'explorer des alternatives potentiellement plus performantes.
Les avis des observateurs reflètent des préoccupations sur l'avenir de l'IA, avec des spéculations sur la possibilité de machines concevant des machines. Ces réflexions soulignent l'importance de ne pas simplement s'enthousiasmer pour les avancées technologiques, mais aussi d'anticiper et de réfléchir aux implications éthiques, sociales et économiques de telles avancées.
Source : Nvidia
Et vous ?
Quel est votre avis sur le sujet ? Est-ce vraiment nécessaire pour les entreprises de disposer d'une échelle de calcul aussi importante que celle offerte par Eos, compte tenu de sa puissance ? En quoi l'architecture révolutionnaire DGX SuperPOD au cœur d'Eos se distingue-t-elle réellement des autres solutions disponibles sur le marché, et quelles sont les répercussions potentielles sur le coût total de possession ?Voir aussi :
NVIDIA GTC : métavers, IA générative, voiture autonome, quelle est la perspective de NVIDIA sur ces sujets ? Entretien avec Jean-Charles Vasnier, Senior Manager Solution Architect Microsoft et Nvidia collaborent pour faciliter l'exécution de modèles d'IA sous Windows aux développeurs, avec des outils permettant de travailler localement avec des modèles d'IA volumineux Oracle s'empare de l'ensemble de la pile AI de Nvidia pour son Cloud, elle va déployer des dizaines de milliers de GPU NVIDIA supplémentaires, y compris les accélérateurs A100 et H100