Dell Technologies Inc. et Nvidia Corp. collaborent pour créer une usine d'IA pour la startup xAI d'Elon Musk. Michael Dell, PDG de Dell, a annoncé que cette usine Dell AI soutiendra Grok, le chatbot de xAI. En complément, Super Micro Computer fournira également des serveurs pour ce projet. Ainsi, xAI utilisera les serveurs Dell XE 9680, dont Dell a souligné la capacité à gérer des projets d'envergure, permettant un entraînement plus rapide des modèles d'IA.Cette annonce a eu un impact positif sur les actions de Dell, ainsi que sur celles de Super Micro et Nvidia. Pour répondre à la demande croissante en IA, Super Micro a récemment annoncé l'ajout de nouvelles installations dans la Silicon Valley. Parallèlement, Dell a vu une augmentation significative de ses ventes de serveurs équipés pour l'IA, démontrant l'intérêt croissant pour ces technologies.
En outre, des analystes estiment que l'accord de serveurs pour xAI pourrait valoir 3 milliards de dollars si le déploiement nécessite 100 000 GPU Nvidia H100. Lancée par Musk en 2023 en réponse à OpenAI, xAI a récemment levé 6 milliards de dollars, atteignant une valorisation de 18 milliards de dollars. Confirmant cette collaboration, Michael Dell a déclaré : « Nous construisons une usine Dell AI avec Nvidia pour alimenter Grok pour xAI. » Elon Musk a ajouté que Dell assemblera la moitié des superordinateurs dans le bâtiment de xAI. Par ailleurs, la Greater Memphis Chamber a confirmé que xAI recherchait un emplacement pour son superordinateur dans le Tennessee.
We’re building a Dell AI factory with @nvidia to power @grok for @xai @elonmusk pic.twitter.com/2aTYLtCBup
— Michael Dell (@MichaelDell) June 19, 2024
Le sénateur Bill Hagerty a exprimé son enthousiasme en déclarant : « Je suis ravi d'accueillir xAI au Tennessee et félicite Elon Musk pour cette initiative passionnante. Cet investissement renforce notre position de leader en technologies avancées et en IA, capable de résoudre des problèmes complexes en science et sécurité. Ce projet maintiendra le Tennessee à la pointe de l'IA à un moment crucial pour cette discipline en plein essor. »
Grok vise à aider les utilisateurs à accéder rapidement à des informations pertinentes, à analyser des données et à stimuler la créativité en générant de nouvelles idées. Bien qu'il soit encore à un stade de développement préliminaire, Grok a pour ambition de soutenir la recherche, l'innovation et l'acquisition de connaissances à l'échelle mondiale. Pour propulser Grok, xAI a développé Grok-1, un modèle de langage sophistiqué. En quatre mois, l'équipe a mis au point ce modèle de 63 milliards de paramètres, en se concentrant principalement sur le raisonnement et la programmation. Construit avec une infrastructure personnalisée basée sur Kubernetes, Rust et JAX pour l'entraînement et l'inférence, Grok-1 a été optimisé pour garantir fiabilité et efficacité.
Cependant, les performances de Grok semblent décliner rapidement, surtout en termes de précision dans ses réponses. Il ne s'agit pas simplement d'erreurs mineures, mais d'inexactitudes flagrantes, notamment lorsque le chatbot a propagé des informations erronées sur des événements mondiaux majeurs. Récemment, Grok a relayé de nombreuses fausses informations sur une éclipse solaire, titrant notamment : « Comportement étrange du soleil : Experts perplexes ». Dans l'article, le chatbot d'Elon Musk déclarait que « le soleil avait présenté un comportement inhabituel, suscitant confusion et inquiétude parmi le grand public ».
L'article mentionne également que malgré les préoccupations croissantes du public, « aucune déclaration officielle ou explication des autorités scientifiques n'a été faite concernant l'état actuel du soleil ». Il est évident pour les scientifiques qu'une éclipse solaire, observée par des millions de personnes en Amérique du Nord le 8 avril dernier, n'a rien de mystérieux et ne nécessite pas d'explications farfelues. Grok aurait relayé ces affirmations étranges en s'appuyant sur des plaisanteries et des spéculations de personnes se demandant simplement où le soleil avait bien pu passer.
En termes de performances, Grok-1 a obtenu d'excellents résultats sur plusieurs benchmarks standards d'apprentissage automatique, mesurant ses capacités mathématiques et de raisonnement. Le tableau suivant compare les performances de Grok-1 par rapport à d'autres modèles de langage sur ces benchmarks :
Grok-1 a surpassé tous les autres modèles de sa catégorie, y compris ChatGPT-3.5 et Inflection-1, sur ces benchmarks, seuls les modèles plus avancés comme GPT-4, formés avec des volumes de données et des ressources plus importants, ont surpassé Grok-1. Lors d'une évaluation humaine basée sur l'examen national de mathématiques du lycée hongrois de 2023, qui a suivi l'entraînement de Grok-1, le modèle a obtenu un score de 59 %, comparé à 55 % pour Claude-2 et inférieur à 68 % pour GPT-4.
L'acquisition de GPU Nvidia par xAI a été un sujet controversé ces dernières semaines
Au début du mois, Musk a confirmé qu'il avait donné la priorité aux commandes de 12 000 GPU H100, d'une valeur d'environ 500 millions de dollars, passées par Tesla, société cotée en bourse, à xAI, société privée. Il semble que la décision ait été prise pour des raisons logistiques, Musk affirmant que Tesla n'aurait pas pu utiliser les GPU même si elle l'avait voulu, car elle n'avait pas d'endroit où les déployer.
Given the pace of technology improvement, it’s not worth sinking 1GW of power into H100s.
— Elon Musk (@elonmusk) June 2, 2024
The @xAI 100k H100 liquid-cooled training cluster will be online in a few months.
Next big step would probably be ~300k B200s with CX8 networking next summer.
Mais alors qu'Elon semble miser à fond sur Nvidia pour accélérer le développement du chatbot Grok de xAI, la situation chez Tesla est moins claire. Le constructeur automobile a déployé un grand nombre de GPU Nvidia pour développer son programme de conduite autonome, mais il serait également en train de développer un système de supercalculateur entièrement personnalisé appelé Dojo, que nous avons examiné en profondeur précédemment.
L'année dernière, Tesla a déclaré qu'elle dépenserait plus d'un milliard de dollars pour ses superordinateurs Dojo. Mais il semble que l'enthousiasme de Musk pour Dojo se soit estompé au cours de l'année écoulée. Interrogé sur le système lors d’une conférence sur les résultats de Tesla en janvier, Musk a tergiversé sur le sujet, disant aux investisseurs de « considérer Dojo comme un projet à long terme » et qu'il « couvrait ses risques » avec d'importantes commandes de GPU Nvidia.
Réussite assurée ou incertitudes à venir : les enjeux de l'usine d'IA de Dell et Nvidia pour xAI
La collaboration entre Dell Technologies Inc. et Nvidia Corp. pour créer une usine d'IA pour la startup xAI d'Elon Musk est une initiative ambitieuse et stratégique dans le domaine de l'intelligence artificielle. En combinant l'expertise de Dell en infrastructure informatique et les capacités de Nvidia en GPU, cette alliance a le potentiel de créer une infrastructure robuste et performante pour soutenir le développement de Grok, le chatbot d'xAI. En complément, Super Micro Computer fournira également des serveurs, renforçant encore cette infrastructure technologique.
L'annonce de cette collaboration a eu un impact immédiat et positif sur les actions de Dell, Super Micro et Nvidia, soulignant l'enthousiasme des investisseurs pour ce projet. Super Micro a récemment annoncé l'ajout de nouvelles installations dans la Silicon Valley pour répondre à la demande croissante en IA. Parallèlement, Dell a vu une augmentation significative de ses ventes de serveurs équipés pour l'IA, démontrant l'intérêt croissant pour ces technologies.
Cependant, il est crucial de considérer les défis potentiels associés à ce projet. L'un des principaux points de critique est l'utilisation des données de Twitter pour former Grok et d'autres produits xAI. Bien que Twitter soit une riche source de données conversationnelles, il est essentiel de diversifier les sources d'entraînement pour inclure des données d'experts de haute qualité. La formation uniquement sur des données de Twitter pourrait limiter la robustesse et la précision du modèle, rendant nécessaire l'inclusion d'autres sources fiables et bien documentées pour améliorer les capacités de Grok.
De plus, certains analystes estiment que l'accord de serveurs pour xAI pourrait valoir 3 milliards de dollars si le déploiement nécessite 100 000 GPU Nvidia H100. Cependant, cette estimation doit être prise avec prudence, car le succès du projet dépendra de la capacité de Dell et Nvidia à intégrer leurs technologies de manière fluide et efficace. Toute inefficacité ou problème d'intégration pourrait nuire à la crédibilité de cette collaboration.
Il est également important de noter les préoccupations éthiques et financières entourant xAI et Elon Musk. Certains actionnaires de Tesla sont mécontents, affirmant que Musk a détourné des ressources de Tesla vers xAI, ce qui pourrait affaiblir la position concurrentielle de Tesla. Cette situation soulève des questions sur la gestion des priorités et des ressources entre les différentes entreprises de Musk, et sur l'impact potentiel sur les actionnaires et les investisseurs.
La collaboration entre Dell, Nvidia et Super Micro pour soutenir xAI est prometteuse et pourrait avoir un impact significatif sur le secteur de l'IA. Toutefois, la réussite de ce projet dépendra de l'intégration technologique, de la gestion des attentes et de la capacité de xAI à innover dans un marché compétitif. Si ces défis sont relevés avec succès, cette initiative pourrait marquer une étape importante dans l'avancement des technologies d'intelligence artificielle. Néanmoins, les préoccupations éthiques et les critiques sur la stratégie d'entraînement de l'IA doivent être prises en compte pour garantir un développement responsable et efficace.
Source : Michael Dell, CEO of Dell, in a post X
Et vous ?
Quel est votre avis sur le sujet ? Quelles garanties Dell et Nvidia peuvent-elles offrir concernant la sécurité et la confidentialité des données traitées par cette usine d'IA pour xAI ? Comment Dell et Nvidia pourraient-ils assurer que les opérations de xAI restent indépendantes et intègres, malgré les inquiétudes grandissantes concernant la gestion des priorités au sein des diverses entreprises d'Elon Musk ?Voir aussi :
xAI dévoile son chatbot d'IA Grok 1.5 avec un "raisonnement amélioré" qui accroit ses performances en codage et en mathématiques, mais il reste à la traîne par rapport à OpenAI et à Anthropic L'entreprise xAI d'Elon Musk présente Grok 1.5 Vision Preview. Il serait capable de "comprendre" et traiter des infos visuelles telles que des graphiques, des photographies ou des captures d'écran Le chatbot d'IA Grok d'Elon Musk continue d'inventer des infox basées sur les blagues des utilisateurs de X et commet des erreurs « stupides », ce qui amplifie la désinformation sur la plateforme