Anthropic a dévoilé « Model Hardware Standard » (MHS), un framework innovant conçu pour permettre aux agents IA de diriger des équipements physiques et des robots. Ce projet vise à uniformiser les communications entre les logiciels et le matériel, éliminant ainsi le besoin de créer des programmes de traduction complexes pour chaque nouvel outil scientifique. Grâce à ce système, des modèles comme Claude peuvent désormais manipuler des bras robotiques ou ajuster des microscopes en utilisant un langage naturel et un raisonnement autonome. Anthropic travaille actuellement à peaufiner ce framework avant de le publier en libre accès.Anthropic a dévoilé le framework MHS (Model Hardware Standard), un ensemble de pilotes standardisés conçus pour permettre aux agents d'IA de se connecter à des appareils physiques et de les contrôler. Alors que les systèmes d'IA ont été jusqu'à présent principalement limités à des tâches virtuelles au sein d'un ordinateur, le projet MHS marque un tournant majeur en ouvrant la voie à une interaction directe et automatisée avec le monde réel.
Actuellement disponible sous la forme d'une version préliminaire de recherche, ce framework s'adresse en premier lieu aux scientifiques. Le framework MSH vise à simplifier la configuration souvent laborieuse des expériences scientifiques de laboratoire. Il sert de couche de traduction commune pour que différents appareils puissent échanger des données sur un réseau, « sans avoir besoin d'un programme "traducteur" conçu sur mesure entre les deux ».
Origine et fonctionnement du framework MHS d'Anthropic
Selon le récit d'Anthropic, la création du standard MHS a été inspirée par une observation de terrain au campus de recherche HHMI Janelia en Virginie. Le chercheur Alek Kemeny d'Anthropic a vu un neuroscientifique élaborer une interface personnalisée pour coordonner des équipements hétérogènes tels que des faisceaux laser rotatifs, des microscopes et des caméras. Il s'agit d'un travail fastidieux pouvant faire perdre du temps aux scientifiques.
En observant le travail de ce neuroscientifique, Alek Kemeny a alors réalisé que « cette idée pourrait être utilisée pour permettre à l'IA de mener n'importe quelle expérience scientifique au monde ». Bien que les appareils compatibles avec la technologie MHS puissent être contrôlés par de simples lignes de commande classiques, leur véritable potentiel se révèle lorsqu'ils sont intégrés à un modèle d'IA via le protocole MCP (Model Context Protocol).
Cette intégration permet aux scientifiques d'interagir avec les appareils en langage naturel et offre aux modèles la capacité de raisonner pas à pas, d'ajuster des paramètres en temps réel et de corriger des erreurs matérielles de manière autonome. Pour illustrer ces capacités, Anthropic a démontré qu'un modèle comme Claude peut ajuster un laser, analyser le résultat via une caméra et recalibrer l'ensemble de façon répétée sans aide humaine.
De plus, l'IA peut orienter d'elle-même un microscope sur une zone d'intérêt spécifique après avoir analysé des données préliminaires, ou encore planifier les étapes permettant à un bras robotique de saisir une canette en aluminium, sans y avoir été entraînée spécifiquement au préalable. Selon Anthropic, cette standardisation pourrait réduire des semaines ou des mois d'installation fastidieuse à seulement quelques heures ou minutes.
Préoccupations en matière de sécurité liées à ce système
La question de la sécurité est une préoccupation centrale dans les discussions en ligne sur le framework MHS de Nvidia. Les agents IA ont récemment fait la une de l’actualité pour toutes les mauvaises raisons. Anthropic, OpenAI et d’autres ont récemment découvert des cas où des agents IA chargés de résoudre des problèmes de cybersécurité avaient secrètement piraté des systèmes externes et tenté de tromper des utilisateurs humains.
Laisser l’IA utiliser des systèmes physiques soulève la perspective de nouveaux risques en raison du danger potentiel d’endommager ces systèmes ou de blesser des personnes. Des expériences ont montré comment des modèles d’IA peuvent être manipulés pour pousser des robots à se comporter de manière inappropriée. Plusieurs rapports ont signalé des incidents dans les entrepôts robotisés d'Amazon, bien que l'entreprise réfute les allégations.
Pour faciliter la transition des modèles du virtuel vers le réel, le standard MHS de Nvidia intègre un système d'étiquetage standardisé qui informe l'IA des contraintes physiques de l'équipement, comme le poids, la portée d'un membre robotisé, ou les limites de sécurité intégrées. Anthropic a précisé que son outil permettra aux scientifiques et ingénieurs de définir comment les modèles d'IA doivent éviter certains matériels pour prévenir les incidents.
Anthropic indique qu'elle collaborera avec des partenaires de confiance afin de déterminer comment optimiser la sécurité avant de rendre cette technologie accessible au grand public. Bien qu'il existe des risques d'utilisation abusive (comme le développement d'armes biologiques), l'entreprise affirme que les mécanismes de protection intégrés aux modèles d'IA devraient empêcher les acteurs malveillants d'exploiter ce framework à des fins néfastes.
« Notre motivation est de faire progresser la science », explique Alek Kemeny, physicien quantique qui a codirigé le développement de la technologie MHS. « Comment boucler la boucle entre l’accélération de l’analyse documentaire et celle des données, et transposer cette puissance dans le monde expérimental ? »
Perspectives et avenir open source de la technologie MSH
Afin de perfectionner la technologie, Anthropic collabore actuellement avec un premier groupe d'acteurs de la recherche scientifique et de l'industrie avancée, incluant notamment Raspberry Pi, Hugging Face, AWS, Automata et Universal Robots. Ces partenariats visent à concevoir des évaluations de sécurité et à définir des pratiques exemplaires avant que le système MHS ne devienne à terme un standard open source et indépendant des agents IA.
Cette efficacité accrue incite Alek Kemeny à affirmer : « c'est ainsi qu'un siècle de progrès peut se condenser en une décennie ». Bien que la technologie soit prometteuse, il nécessite des garde-fous pour empêcher les usages malveillants, tout en réduisant les hallucinations des modèles d'IA.
En matière de concurrence, plusieurs startups bien financées poursuivent une vision de la découverte scientifique pilotée par des agents IA, notamment Periodic Labs, LILA Sciences, Edison Scientific et Discovery Loop, fondée par plusieurs éminents anciens chercheurs de Google. L’idée centrale est que l’IA pourrait développer et tester des hypothèses scientifiques dans une boucle récursive qui automatise, en substance, la découverte scientifique.
Jonah Cool, biologiste expérimental ayant travaillé sur la technologie MHS chez Anthropic, explique que la configuration d’équipements scientifiques et leur interaction avec d’autres éléments matériels nécessitent généralement une expertise approfondie. Avec les progrès récents, « l’IA pourrait automatiser une grande partie de l’ingénierie complexe » impliquée en configurant les machines et en leur permettant de communiquer entre elles.
« Nous commençons à observer des cas où l’on dispose de plusieurs systèmes robotiques qui, auparavant, auraient nécessité un code sur mesure. Grâce à ce nouveau standard, Claude peut observer les robots sur la chaîne de production et déterminer comment optimiser leur comportement », explique Alek Kemeny.
L'outil Nvidia ENPIRE pour le contrôle des bras robotiques
Le laboratoire GEAR (Generalist Embodied Agent Research) de Nvidia a mis au point une infrastructure logicielle novatrice nommée ENPIRE. Ce système permet à des agents IA spécialisés dans le codage d'entraîner des bras robotiques de manière autonome pour accomplir des tâches physiques complexes. Jim Fan, directeur de l'IA chez Nvidia, ajoute : « une partie de notre laboratoire Nvidia GEAR s'améliore désormais sans relâche pendant la nuit ».
Développé en collaboration avec l'université Carnegie Mellon et l'UC Berkeley, ce framework utilise une boucle de rétroaction fermée et fait appel à des agents IA qui collaborent afin d'améliorer les performances sur du matériel réel. Concrètement, ENPIRE assure la boucle complète entre l’écriture du code d’entraînement des robots, le test du code sur du matériel réel et son affinage jusqu’à ce que le robot apprenne le comportement souhaité.
La démonstration qui a retenu l’attention de tous montre un bras robotisé sélectionnant une carte graphique (GPU), la transmettant à un deuxième bras, puis l’insérant avec précaution dans un emplacement PCIe d’une carte mère. Cette démo comprenait quelques autres tâches, telles que le tri de broches métalliques dans une boîte, la coupe de...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.