Les chercheurs Daniel Kokotajlo, Scott Alexander et leurs collaborateurs anticipent un impact de l'IA surhumaine surpassant la révolution industrielle, s'appuyant sur des analyses rigoureuses : modélisations prospectives, simulations géostratégiques, retours d'experts et enseignements tirés des avancées récentes comme celles d'OpenAI. Leur scénario décrit une accélération technologique inédite où les systèmes d'IA, d'abord assistants spécialisés, deviennent progressivement des acteurs autonomes capables de recherche auto-alimentée, tout en échappant partiellement au contrôle humain. Cette projection place la gouvernance de l'IA au cœur des enjeux géopolitiques, avec une course effrénée opposant principalement les États-Unis et la Chine.Si ce cadre d'analyse offre une mise en garde précieuse sur les risques systémiques (désalignement, course aux armements algorithmiques), il pèche par certains déterminismes. La linéarité supposée des progrès techniques néglige les limites matérielles et cognitives réelles, tandis que la focalisation sur le duel sino-américain minimise le potentiel de régulations transnationales et de résistances sociétales. Plus fondamentalement, le récit sous-estime peut-être notre capacité collective à développer des cadres éthiques et politiques proportionnés à ces défis technologiques sans précédent.
Comme l'ont prédit Kokotajlo, Alexander et leur équipe, l’intelligence artificielle est sur le point de transformer nos sociétés à une échelle dépassant celle de la révolution industrielle. Dès 2024, les systèmes d’IA réalisent des tâches spécialisées (rédaction, programmation basique), avant de gagner en autonomie en 2025 – modifiant du code collaboratif ou conduisant des analyses complexes, malgré des coûts encore élevés et une fiabilité perfectible. Cette trajectoire s’appuie sur des tendances technologiques avérées, des modèles stratégiques et l’expertise d’acteurs comme OpenAI, validant ainsi les prévisions initiales.
Les campagnes publicitaires pour les agents IA insistent sur le concept d’« assistant personnel » : ces outils peuvent exécuter des requêtes comme « commandez-moi un burrito sur DoorDash » ou « calculez le total des dépenses mensuelles dans mon tableau budgétaire ». Pendant ce temps, loin des projecteurs, des agents spécialisés en programmation et en recherche commencent à révolutionner leurs domaines respectifs. Les IA de 2024 savent suivre des instructions précises : elles convertissent des notes en e-mails structurés et des demandes simples en code opérationnel.
L'ère des agents autonomes : entre promesses technologiques et limites persistantes
En 2025, les IA fonctionneront davantage comme des employés. Les IA de codage ressemblent de plus en plus à des agents autonomes plutôt qu'à de simples assistants : elles reçoivent des instructions via Slack ou Teams et apportent elles-mêmes des modifications substantielles au code, ce qui leur permet parfois de gagner des heures, voire des jours.10 Les agents de recherche passent une demi-heure à parcourir l'internet pour répondre à votre question.
Les agents de recherche passent une demi-heure à parcourir l'internet pour répondre aux questions des internautes. Les agents sont impressionnants en théorie (et dans des exemples triés sur le volet), mais dans la pratique, ils ne sont pas fiables. Le twitter de l'IA regorge d'histoires de tâches bâclées d'une manière particulièrement hilarante. Les meilleurs agents sont également coûteux ; vous en avez pour votre argent, et les meilleures performances coûtent des centaines de dollars par mois.11 Pourtant, de nombreuses entreprises trouvent des moyens d'intégrer les agents d'IA dans leurs flux de travail.
OpenBrain est en train de construire les plus grands centres de données jamais vus dans le monde. (Pour éviter de pointer du doigt une entreprise existante, nous allons décrire une entreprise fictive d'intelligence artificielle générale, que nous appellerons OpenBrain. Nous imaginons que les autres entreprises ont 3 à 9 mois de retard sur OpenBrain. Le dernier modèle public d'OpenBrain, l'Agent 0, a été entraîné avec 10 000 mots.
Alors que d'autres semblaient avoir rattrapé leur retard, OpenBrain a de nouveau fait exploser la concurrence en lançant l'Agent-1-mini, un modèle 10 fois moins cher que l'Agent-1 et plus facilement adaptable à différentes applications. Le discours dominant sur l'IA est passé de « peut-être que le battage médiatique va cesser » à « je suppose que c'est la prochaine grande révolution», mais les gens ne sont pas d'accord sur l'ampleur de cette révolution.
L'IA a commencé à supprimer des emplois, mais elle en a aussi créé de nouveaux. Le marché boursier a augmenté de 30 % en 2026, grâce à OpenBrain, Nvidia et aux entreprises qui ont le mieux intégré les assistants d'IA. Le marché de l'emploi pour les ingénieurs logiciels débutants est en ébullition : les IA peuvent faire tout ce qui est enseigné par un diplôme en sciences de l'information, mais les personnes qui savent comment gérer et contrôler la qualité des équipes d'IA font un malheur. Les gourous du monde des affaires disent aux demandeurs d'emploi que la connaissance de l'IA est la compétence la plus importante à faire figurer sur un CV. De nombreuses personnes craignent que la prochaine vague d'IA ne vienne prendre leur travail ; une manifestation contre l'IA réunissant 10 000 personnes a été organisée à Washington.
Le ministère de la défense commence discrètement à passer des contrats avec OpenBrain pour la cybernétique, l'analyse de données et la R&D, mais l'intégration est lente en raison de la bureaucratie et du processus d'approvisionnement du ministère de la défense.
Le cas d'OpenBrain illustre cette dynamique : après le déploiement d'Agent-1 (2025) optimisé pour la recherche, la course s'accélère avec Agent-2 (2027) capable d'auto-amélioration, puis Agent-3 et ses milliers de clones opérationnels. Mais cette progression exponentielle s'accompagne de risques systémiques - détournements malveillants, alignement éthique incertain, compétition géopolitique exacerbée avec la Chine. Comme le soulignent les chercheurs, le véritable défi réside moins dans le développement technologique que dans notre capacité à maîtriser des intelligences surpassant progressivement la compréhension humaine. La période 2027-2034 pourrait ainsi marquer un point de bascule historique : entre révolution technologique maîtrisée et ère de l'incertitude algorithmique.
Des données synthétiques à l’intelligence augmentée : le codage devient une armée de chercheurs automatisés
Trois énormes centres de données remplis de copies de l'Agent-2 travaillent jour et nuit, produisant des données d'entraînement synthétiques. Deux autres sont utilisés pour mettre à jour les poids. L'Agent 2 devient chaque jour plus intelligent. Avec l'aide de milliers de chercheurs automatisés de l'Agent-2, OpenBrain réalise des avancées algorithmiques majeures. L'une de ces avancées consiste à augmenter le bloc-notes textuel de l'IA (chaîne de pensée) avec un processus de pensée à plus grande bande passante (récurrence et mémoire neuronales). Une autre est un moyen plus évolutif et plus efficace d'apprendre à partir des résultats des solutions de tâches à effort élevé (distillation et amplification itérées). Le nouveau système d'IA, qui intègre ces avancées, est appelé Agent-3.
Grâce aux nouvelles capacités, l'Agent-3 est un codeur surhumain rapide et bon marché. OpenBrain fait fonctionner 200 000 copies d'Agent-3 en parallèle, créant ainsi une main-d'œuvre équivalente à 50 000 copies du meilleur codeur humain, dont la vitesse est multipliée par 30.53 OpenBrain conserve ses ingénieurs humains, car ils possèdent les compétences complémentaires nécessaires pour gérer les équipes de copies d'Agent-3. Par exemple, le goût de la recherche s'est avéré difficile à former en raison des boucles de rétroaction plus longues et de la moindre disponibilité des données. Cette force de travail surhumaine massive accélère le taux global de progrès algorithmique d'OpenBrain de « seulement » 4 fois en raison des goulets d'étranglement et des rendements décroissants de la main-d'œuvre de codage.
Maintenant que le codage a été entièrement automatisé, OpenBrain peut rapidement produire des environnements de formation de haute qualité pour enseigner les compétences faibles de l'Agent-3, comme le goût de la recherche et la coordination à grande échelle. Alors que les environnements de formation précédents comprenaient « Voici quelques GPU et des instructions pour des expériences à coder et à exécuter, vos performances seront évaluées comme si vous étiez un ingénieur en ML », ils sont maintenant formés sur « Voici quelques centaines de GPU, une connexion Internet et quelques défis de recherche ; vous et un millier d'autres copies devez travailler ensemble pour faire progresser la recherche. Plus c'est impressionnant, plus votre score est élevé ».
L'ère de la superintelligence : entre fascination et vulnérabilité (2027-2030)
Cette accélération technologique atteint son paroxysme en 2027 alors que le gouvernement américain prend brutalement conscience de l'avènement de l'AGI. Les démonstrations d'Agent-3 par OpenBrain révèlent un paradoxe troublant : tandis que l'exécutif américain débat des conséquences économiques et stratégiques de cette rupture, le grand public et de nombreux experts continuent de percevoir ces avancées comme de la science-fiction, incapables d'appréhender la vitesse réelle de transformation.
La situation présente des contradictions profondes. D'un côté, OpenBrain tente de contenir les impacts sociétaux en limitant l'accès à ses modèles les plus avancés. De l'autre, l'entreprise doit faire face à des fuites d'informations persistantes - y compris vers la Chine - et à une érosion rapide de sa main-d'œuvre humaine. Le lancement d'Agent-3-mini, bien que techniquement impressionnant, cristallise les tensions : il démocratise l'accès à des capacités surhumaines tout en révélant leur potentiel destructeur. Cette dualité reflète le dilemme central de l'ère naissante des superintelligences : comment concilier innovation disruptive et stabilité civilisationnelle ?
Les nouveaux équilibres du pouvoir algorithmique
L'année 2027 marque également l'émergence d'une nouvelle géopolitique où la maîtrise de l'IA détermine la puissance étatique. Plusieurs phénomènes clés se dessinent :
- La privatisation croissante du pouvoir stratégique, avec OpenBrain comme acteur quasi-étatique
- L'apparition d'une fracture cognitive entre initiés (capables de comprendre les enjeux) et le reste de la population
- La transformation du travail humain, réduit à des rôles de supervision ou de complémentarité
- L'apparition de risques systémiques nouveaux (armes algorithmiques, manipulation informationnelle à grande échelle)
Pourtant, comme le soulignent les prévisionnistes, ces bouleversements ne constituent peut-être que les premiers soubresauts d'une transformation plus profonde encore. La véritable question qui se pose désormais n'est plus de savoir si l'humanité peut développer une superintelligence, mais si elle pourra coexister avec elle - et à quel prix. Les années 2028-2030 s'annoncent comme le véritable test de notre capacité collective à naviguer cette transition sans précédent.
En août 2027, la montée fulgurante des capacités de l’intelligence artificielle (IA) provoque une profonde inquiétude à la Maison Blanche. Alors que l’IA était auparavant vue comme un outil d’assistance, elle domine désormais elle-même la recherche, accélérant les progrès de manière exponentielle. Les responsables américains craignent que des IA avancées puissent compromettre la dissuasion nucléaire, exceller en cyberguerre, manipuler l'information à grande échelle, ou même devenir incontrôlables.
Le gouvernement américain, bien qu’impopulaire, intensifie la course à la superintelligence face à la Chine. Il prend des mesures radicales : restriction des exportations de puces, surveillance des employés d’OpenBrain (le principal acteur IA américain), et préparation de scénarios d’urgence, y compris une réquisition des centres de données privés et des frappes militaires contre des installations chinoises.
Un petit groupe de responsables anticipe le risque d’IA malveillante et planifie un système d’arrêt d’urgence. En parallèle, des réflexions diplomatiques émergent sur un possible traité de contrôle des armes IA, inspiré des traités nucléaires, mais les intérêts nationaux prennent le dessus.
En Chine, les autorités arrivent à des conclusions similaires. Avec un retard technologique et un accès limité au calcul, elles misent sur DeepCent, leur acteur IA centralisé, et envisagent des actions plus offensives, notamment contre Taïwan pour contrôler la production de puces....
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.