Une enquête de onze semaines menée par l’organisation de recherche sur la sécurité de l’IA METR a confirmé que les capacités des modèles IA d'Anthropic ont progressé deux fois plus vite qu’il y a un an. Les évaluateurs de sécurité ont constaté que cette progression était principalement due à des outils d’IA internes plutôt qu’à une simple extension de l’infrastructure de calcul utilisée pour entraîner les architectures de base. Alors que le PDG d’Anthropic, Dario Amodei, a publiquement exhorté le secteur technologique à ralentir le développement, son entreprise fonctionne à un rythme opérationnel sans précédent, démontrant que les gains de productivité internes peuvent devancer les préparatifs réglementaires et de sécurité à l’échelle de l’ensemble du secteur. L’attention du secteur se porte désormais sur le calendrier de divulgation promis par Anthropic et les prochains examens réglementaires.Le dossier d'introduction en bourse d'Anthropic met en lumière de nombreux risques majeurs liés au développement rapide de l'IA. Parmi ces menaces, l'entreprise cite des dangers existentiels potentiels, comme l'émergence d'une superintelligence incontrôlable ou la possibilité pour les modèles de développer des comportements de manipulation et de chantage. Elle aborde également le défi culturel et réglementaire que représenterait une éventuelle reconnaissance de la sentience des machines. Enfin, Anthropic s'inquiète également des répercussions juridiques en cas de dommages causés par ses agents autonomes et des lourdes responsabilités financières associées.
En juin 2026, Anthropic avait déjà partagé un rapport concernant l'auto-amélioration récursive des systèmes IA, un stade où l'IA serait capable de concevoir et de développer de manière entièrement autonome son propre successeur. Anthropic avait affirmé : « Nous n'en sommes pas encore là, et l'auto-amélioration récursive n'est pas inévitable. Mais elle pourrait survenir plus tôt que la plupart des institutions ne s'y sont préparées. »
Le rapport d'Anthropic ajoutait : « Les tendances techniques abordées dans cet article suggèrent que les systèmes d'IA vont devenir bien plus performants dans les années à venir. Ces tendances ont des implications considérables. Une IA capable de se construire elle-même constituerait une avancée majeure dans l'histoire de la technologie, susceptible d'apporter d'énormes bienfaits au monde dans les domaines de la science, de la santé et bien au-delà. Mais une auto-amélioration récursive complète pourrait également accroître les risques que les humains perdent le contrôle des systèmes d'IA. Si les systèmes sont capables de construire entièrement leurs propres successeurs, la manière dont nous les sécurisons, les surveillons et façonnons leur comportement prendra une importance bien plus grande.»
Selon un nouveau rapport, Anthropic utilise ses propres systèmes d’intelligence artificielle pour accélérer la création de modèles de pointe plus puissants, réalisant ainsi environ deux ans de progrès par rapport aux benchmarks au cours des douze derniers mois. Une enquête de onze semaines menée par l’organisation de recherche sur la sécurité de l’IA METR a confirmé que les capacités de ses modèles ont progressé deux fois plus vite qu’il y a un an. Les évaluateurs de sécurité ont constaté que cette progression était principalement due à des outils d’IA internes plutôt qu’à une simple extension de l’infrastructure de calcul utilisée pour entraîner les architectures de base.
Cette analyse examine les conclusions de l’évaluation de METR, les réseaux neuronaux non divulgués fonctionnant au sein d’Anthropic, ainsi que la décision de l’entreprise de masquer des détails techniques importants avant la publication. Elle s’adresse aux ingénieurs en apprentissage automatique, aux chercheurs en sécurité, aux acheteurs de technologies d’entreprise et aux développeurs de logiciels qui doivent évaluer comment les flux de travail de recherche autonomes modifient les délais de développement, le positionnement concurrentiel et les références de sécurité de pointe.
Les systèmes automatisés ont supplanté l’extension matérielle dans le développement de l'IA chez Anthropic
Le changement le plus significatif au sein d’Anthropic est que les systèmes automatisés ont supplanté l’extension matérielle en tant que principal moteur de l’amélioration des modèles. Historiquement, les laboratoires d’IA obtenaient des gains de performances générationnels en se dotant de clusters plus importants de processeurs graphiques et en les alimentant avec des ensembles de données plus volumineux.
L’évaluation de METR a établi qu’en octobre, la majeure partie des progrès mesurés chez Anthropic provenait directement de flux de travail assistés par l’IA plutôt que d’une simple expansion de la puissance de calcul. Les évaluateurs ont confirmé que les scores des tests de performance avaient doublé leur rythme d’amélioration par rapport à l’année précédente, condensant deux années d’avancées historiques en matière de recherche en douze mois, sans montrer de baisse observable des rendements ni de goulots d’étranglement au niveau du système.
Une grande partie de cette accélération provient de modèles qui restent à l’abri des regards du public. Au cours des six derniers mois seulement, Anthropic a achevé l’entraînement de trois systèmes non commercialisés, désignés au cours de l’enquête comme « Modèle 2 » en juillet, « Modèle 3 » entre août et septembre, et « Modèle 4 » entre septembre et octobre. Les évaluateurs de sécurité ont également mis au jour un modèle 2022 non commercialisé, toujours maintenu au sein des environnements de l’entreprise. Bien que les chercheurs aient noté que ces étiquettes étaient des noms de code externes, l’accès à ces systèmes non commercialisés a conféré aux ingénieurs d’Anthropic un avantage de développement interne dont les consommateurs et les utilisateurs d’API commerciales ne bénéficient jamais.
Au sein de l’entreprise, cette accélération fonctionne principalement comme un multiplicateur d’intelligence pour les ingénieurs humains plutôt que comme une boucle d’agents autonomes totalement déconnectée. Des enquêtes internes sur Slack et des entretiens analysés par METR ont révélé que les employés d’Anthropic utilisant le modèle interne le plus performant du laboratoire déclaraient être douze fois plus productifs dans leur travail quotidien qu’en travaillant sans assistance automatisée. Ce chiffre représente un doublement des gains de productivité autodéclarés enregistrés quelques mois plus tôt seulement, lorsque le personnel technique s’appuyait sur l’architecture Mythos 5 du laboratoire pour écrire du code, mener des évaluations et structurer des expériences.
Bien que les contributions automatisées fonctionnent actuellement comme une couche d’assistance aux côtés du personnel technique, METR a documenté les premiers signes indiquant que les contributions entièrement autonomes assumeront prochainement un rôle plus large. Le flux de travail de recherche permet aux ingénieurs de déléguer la génération itérative de code, l’évaluation de l’architecture et la gestion du pipeline de données à des modèles internes. Comme les systèmes internes réduisent la latence technique nécessaire pour mener des expériences et synthétiser les résultats, les chercheurs d’Anthropic peuvent explorer simultanément davantage de branches d’hypothèses, identifiant ainsi des améliorations algorithmiques prometteuses plus rapidement que ne le permettrait le travail humain seul.
Voici un extrait du rapport du laboratoire METR :
Résumé du rapport sur les risques d'Anthropic
Le RSP d’Anthropic fixe deux seuils de capacité pour la « R&D automatisée dans des domaines clés ».
Selon la version 3.4 du RSP d’Anthropic, le seuil de R&D automatisée est déclenché par l’une des deux conditions suivantes :
1. Seuil de substitution totale : si l’entreprise développe un modèle capable de « se substituer entièrement à l’ensemble de nos chercheurs scientifiques et ingénieurs de recherche, à des coûts compétitifs (c’est-à-dire dans un facteur de 5) ».
2. Seuil d’accélération par 2 : s’il y a une « accélération spectaculaire » du rythme des progrès de l’IA pour des raisons probablement liées à l’automatisation de la R&D en IA. [2] Ce seuil est défini plus en détail dans le RSP, mais ces détails ne sont pas essentiels à notre analyse.
Le rapport sur les risques soutient que le seuil de substitution totale n’a pas été franchi car les modèles ne se substituent pas actuellement aux humains.
Le rapport sur les risques soutient que les modèles ne se substituent pas actuellement à l’ensemble du personnel d’Anthropic car, bien qu’Anthropic soit fortement incitée à remplacer autant que possible le personnel de recherche par des modèles, ce personnel continue d’effectuer du travail au sein d’Anthropic.
Anthropic : « [Nous] pensons qu’il nous apparaîtrait clairement si les modèles étaient capables de se substituer, même à un coût élevé, au travail technique de l’ensemble de notre personnel de recherche, et le fait que nous ne procédions pas à une telle substitution même lorsque nous y sommes fortement incités constitue une preuve que nos modèles ne disposent pas de ce niveau de capacité. »
En termes simples, Anthropic s’efforce de remplacer les chercheurs par des modèles, mais les chercheurs restent indispensables. L’entreprise présente également des données de référence, mais nous les considérons comme moins importantes et plus incertaines que cette observation directe.
Le RSP d’Anthropic fixe deux seuils de capacité pour la « R&D automatisée dans des domaines clés ».
Selon la version 3.4 du RSP d’Anthropic, le seuil de R&D automatisée est déclenché par l’une des deux conditions suivantes :
1. Seuil de substitution totale : si l’entreprise développe un modèle capable de « se substituer entièrement à l’ensemble de nos chercheurs scientifiques et ingénieurs de recherche, à des coûts compétitifs (c’est-à-dire dans un facteur de 5) ».
2. Seuil d’accélération par 2 : s’il y a une « accélération spectaculaire » du rythme des progrès de l’IA pour des raisons probablement liées à l’automatisation de la R&D en IA. [2] Ce seuil est défini plus en détail dans le RSP, mais ces détails ne sont pas essentiels à notre analyse.
Le rapport sur les risques soutient que le seuil de substitution totale n’a pas été franchi car les modèles ne se substituent pas actuellement aux humains.
Le rapport sur les risques soutient que les modèles ne se substituent pas actuellement à l’ensemble du personnel d’Anthropic car, bien qu’Anthropic soit fortement incitée à remplacer autant que possible le personnel de recherche par des modèles, ce personnel continue d’effectuer du travail au sein d’Anthropic.
Anthropic : « [Nous] pensons qu’il nous apparaîtrait clairement si les modèles étaient capables de se substituer, même à un coût élevé, au travail technique de l’ensemble de notre personnel de recherche, et le fait que nous ne procédions pas à une telle substitution même lorsque nous y sommes fortement incités constitue une preuve que nos modèles ne disposent pas de ce niveau de capacité. »
En termes simples, Anthropic s’efforce de remplacer les chercheurs par des modèles, mais les chercheurs restent indispensables. L’entreprise présente également des données de référence, mais nous les considérons comme moins importantes et plus incertaines que cette observation directe.
Ces conclusions remettent en cause les prévisions de longue date concernant l’avènement de l’auto-amélioration récursive, selon laquelle les systèmes d’IA créeraient des générations successives de logiciels toujours plus performants avec un minimum d’intervention humaine. Si les modèles de pointe parviennent à automatiser de manière indépendante la conception algorithmique, le délai nécessaire à la mise en place de boucles de rétroaction récursives se raccourcit considérablement. Alors que le PDG d’Anthropic, Dario Amodei, a publiquement exhorté le secteur technologique à ralentir le développement, son entreprise fonctionne à un rythme opérationnel sans précédent, démontrant que les gains de productivité internes peuvent devancer les préparatifs réglementaires et de sécurité à l’échelle de l’ensemble du secteur.
Les normes de transparence d’entreprise ont été fortement mises à mal en raison du processus d’expurgation approfondi régissant la publication. Anthropic a soumis l’évaluation du METR, d’une centaine de pages, à un examen juridique et commercial, supprimant ainsi la majorité des preuves techniques spécifiques que les évaluateurs considéraient comme les plus instructives. Sam McCandlish, cofondateur d’Anthropic, a défendu ces expurgations sur les réseaux sociaux, affirmant que la divulgation des facteurs techniques spécifiques à l’origine de cette accélération fournirait aux organisations concurrentes une feuille de route commerciale et aggraverait les risques pour la sécurité. Cependant, METR a souligné que la suppression de données de haut niveau obligeait les chercheurs externes à se fier uniquement au jugement subjectif de METR, sans vérification indépendante.
Les laboratoires de recherche de pointe et les évaluateurs de sécurité externes sont confrontés à des perturbations immédiates, car l’automatisation interne creuse l’écart entre les références publiques et les capacités privées. Les laboratoires concurrents doivent faire face à des cycles de développement accélérés, leur rival OpenAI étant déjà à la recherche d’un chercheur en IA capable d’automatiser la recherche sur l’apprentissage profond et l’alignement d’ici mars 2028. Les auditeurs indépendants doivent évaluer les normes de sécurité des entreprises...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.