Intel a créé le plus grand ordinateur neuromorphique au monde, un dispositif destiné à imiter le fonctionnement du cerveau humain. L'entreprise espère qu'il sera capable d'exécuter des modèles d'intelligence artificielle plus sophistiqués que les ordinateurs conventionnels, mais les experts estiment qu'il y a des obstacles techniques à surmonter avant que l'appareil puisse rivaliser avec l'état de l'art, et encore moins le dépasser.Intel a annoncé aujourd'hui la construction du plus grand système neuromorphique au monde. Sous le nom de code Hala Point, ce système neuromorphique à grande échelle, initialement déployé aux Sandia National Laboratories, utilise le processeur Loihi 2 d'Intel, vise à soutenir la recherche sur l'intelligence artificielle (IA) future inspirée du cerveau, et s'attaque aux défis liés à l'efficacité et à la durabilité de l'IA d'aujourd'hui. Hala Point fait progresser le système de recherche à grande échelle de première génération d'Intel, Pohoiki Springs, grâce à des améliorations architecturales permettant de multiplier par 10 la capacité des neurones et par 12 les performances.
"Le coût informatique des modèles d'IA actuels augmente à un rythme insoutenable. L'industrie a besoin d'approches fondamentalement nouvelles capables de s'adapter. C'est pourquoi nous avons développé Hala Point, qui combine l'efficacité de l'apprentissage profond avec de nouvelles capacités d'apprentissage et d'optimisation inspirées du cerveau. Nous espérons que la recherche avec Hala Point fera progresser l'efficacité et l'adaptabilité des technologies d'IA à grande échelle", a déclaré Mike Davies, directeur du Neuromorphic Computing Lab chez Intel Labs.
Que fait-il ?
Hala Point est le premier système neuromorphique à grande échelle à démontrer une efficacité de calcul de pointe sur des charges de travail d'IA courantes. La caractérisation montre qu'il peut prendre en charge jusqu'à 20 quadrillions d'opérations par seconde, soit 20 pétaops, avec une efficacité supérieure à 15 billions d'opérations 8 bits par seconde et par watt (TOPS/W) lors de l'exécution de réseaux neuronaux profonds conventionnels. Ces performances rivalisent avec les niveaux atteints par les architectures basées sur les unités de traitement graphique (GPU) et les unités centrales de traitement (CPU), voire les dépassent. Les capacités uniques de Hala Point pourraient permettre un futur apprentissage continu en temps réel pour des applications d'IA telles que la résolution de problèmes scientifiques et d'ingénierie, la logistique, la gestion des infrastructures des villes intelligentes, les grands modèles de langage (LLM) et les agents d'IA.
Comment sera-t-il utilisé ?
Les chercheurs des laboratoires nationaux Sandia prévoient d'utiliser Hala Point pour la recherche informatique avancée à l'échelle du cerveau. L'organisation se concentrera sur la résolution de problèmes de calcul scientifique dans les domaines de la physique des dispositifs, de l'architecture informatique, de l'informatique et de l'informatisation.
"Travailler avec Hala Point améliore la capacité de notre équipe Sandia à résoudre des problèmes de calcul et de modélisation scientifique. Mener des recherches avec un système de cette taille nous permettra de suivre l'évolution de l'IA dans des domaines allant du commerce à la défense en passant par la science fondamentale", a déclaré Craig Vineyard, chef de l'équipe Hala Point aux Sandia National Laboratories.
Actuellement, Hala Point est un prototype de recherche qui permettra d'améliorer les capacités des futurs systèmes commerciaux. Intel prévoit que ces enseignements conduiront à des avancées pratiques, telles que la capacité des LLM à apprendre continuellement à partir de nouvelles données. De telles avancées promettent de réduire de manière significative la charge de formation insoutenable des déploiements d'IA à grande échelle.
Pourquoi est-il important ?
Les tendances récentes en matière de mise à l'échelle des modèles d'apprentissage profond à des billions de paramètres ont mis en évidence les défis redoutables en matière de durabilité de l'IA et ont souligné la nécessité d'innover aux niveaux les plus bas de l'architecture matérielle. L'informatique neuromorphique est une approche fondamentalement nouvelle qui s'appuie sur des connaissances neuroscientifiques intégrant la mémoire et le calcul avec un parallélisme très granulaire pour minimiser le mouvement des données. Dans les résultats publiés lors de la conférence internationale sur l'acoustique, la parole et le traitement des signaux (ICASSP) de ce mois d'avril, Loihi 2 a démontré des gains de plusieurs ordres de grandeur en termes d'efficacité, de vitesse et d'adaptabilité des charges de travail émergentes à petite échelle.
Par rapport à son prédécesseur, Pohoiki Springs, et grâce à de nombreuses améliorations, Hala Point apporte désormais des gains de performance et d'efficacité neuromorphiques aux modèles d'apprentissage profond conventionnels courants, notamment ceux qui traitent des charges de travail en temps réel telles que la vidéo, la parole et les communications sans fil. Par exemple, Ericsson Research applique Loihi 2 pour optimiser l'efficacité des infrastructures de télécommunications, comme cela a été souligné lors du Mobile World Congress de cette année.
À propos de Hala Point
Les processeurs neuromorphiques Loihi 2, qui constituent la base de Hala Point, appliquent des principes informatiques inspirés du cerveau, tels que les réseaux de neurones à pointes (SNN) asynchrones et basés sur les événements, la mémoire et l'informatique intégrées, et les connexions éparses et changeant continuellement, afin d'obtenir des gains de l'ordre de la magnitude en termes de consommation d'énergie et de performance. Les neurones communiquent directement entre eux plutôt que de passer par la mémoire, ce qui réduit la consommation d'énergie globale.
Hala Point intègre 1 152 processeurs Loihi 2 produits sur un nœud de traitement Intel 4 dans un châssis de centre de données de six unités de la taille d'un four à micro-ondes. Le système prend en charge jusqu'à 1,15 milliard de neurones et 128 milliards de synapses répartis sur 140 544 cœurs de traitement neuromorphique, consommant au maximum 2 600 watts d'énergie. Il comprend également plus de 2 300 processeurs x86 intégrés pour les calculs auxiliaires.
Hala Point intègre les canaux de traitement, de mémoire et de communication dans une structure massivement parallélisée, offrant un total de 16 pétaoctets par seconde (PB/s) de bande passante de mémoire, 3,5 PB/s de bande passante de communication inter-noyaux et 5 téraoctets par seconde (TB/s) de bande passante de communication inter-puces. Le système peut traiter plus de 380 billions de synapses de 8 bits et plus de 240 billions d'opérations sur les neurones par seconde.
Appliqué à des modèles de réseaux de neurones à pointes bio-inspirés, le système peut exécuter sa pleine capacité de 1,15 milliard de neurones 20 fois plus vite qu'un cerveau humain et jusqu'à 200 fois plus vite à une capacité plus faible. Bien que Hala Point ne soit pas destiné à la modélisation neuroscientifique, sa capacité en neurones est à peu près équivalente à celle du cerveau d'un hibou ou du cortex d'un singe capucin.
Les systèmes basés sur Loihi peuvent effectuer des inférences d'IA et résoudre des problèmes d'optimisation en utilisant 100 fois moins d'énergie à des vitesses jusqu'à 50 fois plus rapides que les architectures CPU et GPU conventionnelles. En exploitant une connectivité éparse jusqu'à 10:1 et une activité événementielle, les premiers résultats obtenus sur Hala Point montrent que le système peut atteindre une efficacité de réseau neuronal profond de 15 TOPS/W sans nécessiter la collecte des données d'entrée par lots, une optimisation courante pour les GPU qui retarde considérablement le traitement des données arrivant en temps réel, telles que les vidéos provenant de caméras. Bien qu'il s'agisse encore de recherches, les futurs LLM neuromorphiques capables d'apprentissage continu pourraient permettre d'économiser des gigawattheures d'énergie en éliminant la nécessité d'un réentraînement périodique avec des ensembles de données de plus en plus volumineux.
Prochaines étapes
La livraison de Hala Point au Sandia National Labs marque le premier déploiement d'une nouvelle famille de systèmes de recherche neuromorphiques à grande échelle qu'Intel prévoit de partager avec ses collaborateurs de recherche. La poursuite du développement permettra aux applications informatiques neuromorphiques de surmonter les contraintes de puissance et de latence qui limitent le déploiement en temps réel des capacités d'IA dans le monde réel.
En collaboration avec un écosystème de plus de 200 membres de la communauté de recherche neuromorphique d'Intel (INRC), comprenant des groupes universitaires de premier plan, des laboratoires gouvernementaux, des institutions de recherche et des entreprises du monde entier, Intel s'efforce de repousser les limites de l'IA inspirée par le cerveau et de faire progresser cette technologie des prototypes de recherche aux produits commerciaux de pointe dans les années à venir.
Source : "Intel Builds World’s Largest Neuromorphic System to Enable More Sustainable AI" (Intel)
Et vous ?
Qu'en pensez-vous ? Trouvez-vous cette initiative d'Intel crédible ou pertinente ?Voir aussi :
La technologie des puces ressemblant à un cerveau pourrait faciliter les tâches d'IA à faible consommation, comme la reconnaissance vocale Intel lance son processeur neuromorphique de nouvelle génération, qui imite le fonctionnement des neurones