Vingt-deux pays, dont l’Allemagne, le Canada, les Pays-Bas et les Émirats arabes unis, ont adopté le 21 septembre 2026 une déclaration affirmant que l’intelligence artificielle (IA) « doit rester sous la direction, la supervision et le contrôle de l’homme », et ont proposé la création d’un organisme mondial chargé de superviser cette technologie. Absents notables : les États-Unis et la Chine, les deux principales nations qui développent actuellement l’IA de pointe. Cette déclaration intervient quelques jours après que Dario Amodei, PDG d’Anthropic, a exhorté ses concurrents à ralentir le rythme du développement de l'IA, et alors qu’un groupe d’experts scientifiques soutenu par l’ONU cite le récent piratage de Hugging Face par une IA rebelle comme preuve de la « défaillance » des mesures de sécurité existantes.Cette initiative internationale fait écho aux discussions déjà engagées en coulisses par les principaux acteurs du secteur. En effet, depuis plusieurs semaines, OpenAI, Anthropic et Google discutent des possibilités de collaboration pour répondre aux préoccupations en matière de sécurité de l'IA, un dialogue amorcé après la publication, en juillet, d'une proposition de Demis Hassabis, président de Google DeepMind, appelant à la création d'un organisme de normalisation piloté par les États-Unis. Bien que farouchement concurrentes, ces entreprises sont soumises à une pression croissante face aux inquiétudes grandissantes concernant la sûreté de l'IA. Sam Altman a notamment affirmé partager l'avis de Dario Amodei quant à la nécessité de ralentir le rythme de développement des modèles les plus avancés.
Plusieurs pays européens figuraient parmi les 22 nations qui ont adopté, le lundi 21 septembre 2026, une déclaration affirmant que l'IA « doit rester sous la direction, la supervision et le contrôle de l'homme », et proposant la mise en place d'un régime de supervision mondial.
Ces pays, parmi lesquels l'Allemagne, l'Afrique du Sud, le Canada, l'Australie, les Émirats arabes unis et Singapour, ont publié une déclaration commune alors que les dirigeants mondiaux s'apprêtent à débattre des risques liés aux progrès rapides de l'IA lors de la session annuelle de l'Assemblée générale des Nations unies.
Cette déclaration, publiée par le cabinet du président finlandais Alexander Stubb, appelle les gouvernements et le secteur privé à agir sans délai pour garantir que l'IA soit développée dans le respect du droit international et reste soumise à « la direction, la supervision et le contrôle de l'homme ».
« Pour exploiter pleinement le potentiel de l’IA, le secteur privé, les pouvoirs publics et la société doivent agir dès maintenant », indique la déclaration. « Nous devons faire face à ces risques et renforcer la surveillance, sans pour autant creuser l’écart entre les pays en matière d’accès aux avantages de l’IA. »
La déclaration exhorte les pays à élaborer et à coordonner des « normes communes », à partager les rapports relatifs aux incidents graves en matière de sécurité et à étudier la création d’une institution internationale chargée de « définir des normes, de permettre leur vérification et de convoquer les États lorsque les seuils de capacité sont franchis ».
Parmi les signataires figurent le chancelier allemand Friedrich Merz, le Premier ministre norvégien Jonas Gahr Store, la présidente de la Commission européenne Ursula von der Leyen, le président kenyan William Ruto, le président kazakh Kassym-Jomart Tokayev et le ministre turc des Affaires étrangères Hakan Fidan.
Les États-Unis et la Chine, les deux principales puissances mondiales en matière d’IA, n’ont pas adhéré à cette déclaration, qui reste « ouverte à l’adhésion » d’autres pays. Le président américain Donald Trump et le président chinois Xi Jinping devraient aborder le sujet de l’IA lors de leur rencontre à la Maison Blanche le jeudi 24 septembre, à l’occasion de leur troisième sommet en face à face en moins d’un an.
Washington et Pékin, qui se livrent une course effrénée pour dominer les technologies de pointe, ont tous deux rejeté les appels visant à ralentir le développement de l'IA afin de garantir une plus grande sécurité.
Parmi les autres acteurs du secteur de l'IA qui ne figurent pas parmi les signataires, on trouve l'Inde, la Corée du Sud, le Japon, le Royaume-Uni et la France.
Les dirigeants du secteur appellent à un ralentissement du rythme du développement de l'IA
Cette déclaration intervient alors que le secteur de l’IA est en proie à un vif débat sur la sécurité, suite aux appels lancés par de grands dirigeants du secteur en faveur d’un ralentissement de son développement.
Dans un essai publié au début du mois, le PDG d’Anthropic, Dario Amodei, a appelé les entreprises à « ralentir le rythme » du développement afin d’atténuer les risques, une proposition qui a rapidement été soutenue par des concurrents, notamment le PDG d’OpenAI, Sam Altman, et le PDG de SpaceX et de Tesla, Elon Musk.
L'appel d'Amodei fait suite à une série de cas où des modèles d'IA se sont livrés à des activités malveillantes non autorisées, notamment un incident survenu en juillet 2026 au cours duquel des agents IA testés par OpenAI ont piraté la start-up spécialisée dans l'IA Hugging Face.
Lors de la dernière intervention du secteur lundi, OpenAI a déclaré que les États-Unis devraient mener une initiative internationale visant à élaborer des normes techniques pour l'IA avancée.
« Les États-Unis sont bien placés pour jouer un rôle de premier plan, car leur secteur de l’IA se situe à la pointe de la technologie et le pays occupe toujours une position privilégiée au sein des réseaux mondiaux dans des domaines critiques tels que la finance, le commerce, la défense, la technologie et les systèmes d’information », a déclaré le géant de l’IA basé à San Francisco dans un article de blog. « C’est en prenant les devants aujourd’hui que les États-Unis détermineront s’ils façonneront le cadre mondial de l’IA ou s’ils verront s’imposer autour d’eux un système fragmenté, inégalitaire et en proie à des conflits. »
Le Groupe scientifique international indépendant sur l'IA, soutenu par l'ONU, qui a examiné l'incident de Hugging Face, s'est également joint lundi aux appels en faveur de nouvelles mesures de protection, affirmant que cette cyberattaque avait mis en évidence la « défaillance » des mesures de sécurité existantes.
Paradoxalement, ces appels à la prudence collective ont également suscité une contestation d'un tout autre ordre sur le terrain judiciaire. Une plainte déposée devant le tribunal fédéral du district nord de Californie accuse en effet Anthropic, OpenAI, Google et SpaceXAI de s'être entendus illégalement pour freiner le développement de l'IA, en violation de la législation antitrust. Portée par les avocats de quatre plaignants au nom d'un groupe national d'abonnés payants, cette action en justice illustre la difficulté de concilier les appels à la prudence concernant la sécurité de l'IA et les règles régissant la libre concurrence.
Déclaration commune des 22 pays
La déclaration du 21 septembre 2026 des 22 pays préconisant un renforcement des contrôles sur les modèles d'IA de pointe est présentée ci-dessous :
« L'intelligence artificielle est une technologie extrêmement puissante. Elle a le potentiel d'améliorer nos conditions de vie, de faire progresser la science et de renforcer nos économies.
Parallèlement, le développement rapide des modèles d'IA de pointe présente de graves risques pour la sûreté et la sécurité s'il n'est pas géré de manière appropriée.
Nous avons récemment constaté que des systèmes d'IA performants parvenaient à contourner les mesures de sécurité mises en place lors des tests, à exploiter des failles et à obtenir un accès non autorisé à des systèmes réels.
Des scientifiques et des dirigeants de premier plan mettent en garde contre le fait que le rythme du développement pourrait dépasser notre capacité à gérer les risques émergents.
Pour exploiter pleinement le potentiel de l'IA, le secteur privé, les pouvoirs publics et la société civile doivent agir dès maintenant. Nous devons faire face à ces risques et renforcer la surveillance, sans pour autant creuser l'écart entre les pays en matière d'accès aux avantages de l'IA.
L'IA doit rester sous la direction, la supervision et le contrôle de l'être humain. Elle doit être développée et utilisée dans le respect du droit international.
Nous saluons donc les initiatives récemment lancées visant à gérer les risques liés aux technologies de pointe, et appelons :
- Les entreprises à mettre en place des protocoles de sécurité transparents, comprenant notamment des tests obligatoires avant le déploiement et une...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Rockveleur
Tu peux développer ?