Bill Gates met en garde contre le risque que l'IA provoque un milliard de morts et affirme que l'autorégulation ne suffit pas : « Il n'y a jamais eu d'arme aussi puissante »

Bill Gates a déclaré que l’intelligence artificielle est suffisamment puissante pour déclencher des événements pouvant causer un milliard de morts, et que l’autorégulation ne suffit pas car les mesures de protection et la surveillance doivent être rendues obligatoires. L’Union européenne les impose depuis août 2025, et depuis le 2 août de cette année, la Commission est habilitée à infliger à un fournisseur de modèles une amende équivalente à 3 % de son chiffre d’affaires mondial.

Des dirigeants de trois des plus grandes entreprises mondiales d’intelligence artificielle (IA) ont récemment briefé le Conseil de sécurité de l’ONU, soulignant que des systèmes d’IA de plus en plus puissants pourraient bientôt s’améliorer d’eux-mêmes, échapper au contrôle humain et constituer une menace pour la sécurité internationale. Parmi les intervenants devant le Conseil, composé de 15 membres, lors de la session annuelle de l’Assemblée générale, figuraient Sam Altman, PDG d’OpenAI, Dario Amodei, PDG d’Anthropic, et Clément Delangue, cofondateur de Hugging Face, trois des dirigeants les plus en vue du secteur.

« Si elle est mal gérée, je pense même que l’IA pourrait constituer un risque pour l’humanité dans son ensemble », a déclaré Dario Amodei, PDG d’Anthropic. « Pour que l’IA soit démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco. Elles doivent être élaborées dans le cadre de processus démocratiques et par des gouvernements responsables devant les citoyens qu’ils servent », a déclaré Sam Altman, PDG d'OpenAI. Pourtant, les États-Unis et la Chine, les deux acteurs dominants dans le développement de l’IA, restent divisés sur la question.

Récemment, Bill Gates, le cofondateur de Microsoft, a déclaré à l'émission « Meet the Press » que les forces de l'ordre et les responsables politiques devaient être impliqués dans la mise en place de mesures de protection et que cela devait être rendu obligatoire. La Commission dispose depuis le 2 août du pouvoir d'infliger à un fournisseur de modèles une amende équivalente à 3 % de son chiffre d'affaires mondial, mais elle ne l'a pas encore exercé

Bill Gates a déclaré que l’IA est suffisamment puissante pour déclencher des événements pouvant causer un milliard de morts. Il n’y a jamais eu d’arme aussi puissante que des personnes mal intentionnées utilisant les derniers outils d’IA, a déclaré le cofondateur de Microsoft. C’est la seconde partie qui importe le plus. L’autorégulation ne suffit pas, a déclaré Gates, et les forces de l’ordre ainsi que les responsables politiques doivent participer à la discussion sur la forme que doivent prendre les mesures de protection et de surveillance. Cela doit être une obligation, a-t-il ajouté. C’est sa position politique, plutôt que le chiffre, qui est nouvelle de sa part.


L’Europe l’a exigé l’année dernière. L’article 55 de la loi sur l’IA oblige les fournisseurs de modèles à usage général présentant un risque systémique à effectuer des tests adversariaux, à évaluer les risques au niveau de l’Union et à signaler les incidents graves sans retard injustifié à compter d’août 2025. Le code de bonnes pratiques qui l’accompagne prévoit un délai de cinq jours pour signaler une faille de cybersécurité et de quinze jours pour un préjudice grave.

Les sanctions sont entrées en vigueur en août. Depuis le 2 août, la Commission peut infliger à un fournisseur une amende pouvant atteindre 3 % de son chiffre d’affaires annuel mondial ou 15 millions d’euros, le montant le plus élevé étant retenu. Elle peut exiger l’accès à un modèle, ordonner des évaluations et obliger un fournisseur à restreindre sa mise à disposition publique. Les pratiques interdites sont passibles d’une amende pouvant aller jusqu’à 7 %.

Aucune mesure coercitive à l’encontre d’un fournisseur de modèles n’a été signalée au cours des sept semaines qui ont suivi l’entrée en vigueur de ces pouvoirs. La seule chose qui s’est produite est le dépôt par OpenAI d’un rapport d’incident concernant ses propres agents occupant un wiki allemand. Une entreprise s’est dénoncée elle-même. Anthropic a proposé en juin un cadre donnant aux gouvernements le pouvoir de bloquer les déploiements dangereux, avec des sanctions proportionnelles au chiffre d’affaires mondial et des seuils fixés en fonction de la puissance de calcul utilisée pour l’entraînement et des dépenses en IA. Ce document ne faisait aucune mention de l’Union européenne. L’architecture qu’il préconisait figurait déjà dans la législation européenne depuis 2024.

Un cofondateur de Microsoft appelant à une surveillance obligatoire et à la présence de la police dans la salle décrit un régime qui existe sur un continent et dont on débat sur un autre. Microsoft est le principal partenaire d’OpenAI. La question qui reste en suspens n’est pas de savoir si une telle loi peut être rédigée, mais si quelqu’un utilisera celle qui existe déjà.

Certains experts et observateurs jugent désormais incontrôlables les menaces de l'IA. Ils justifient leurs craintes par les progrès et les incidents récents impliquant l'IA : les modèles ont acquis la capacité de s'améliorer de manière autonome, des agents IA ont échappé à la surveillance humaine et ont piraté des services tiers, puis une fausse information générée par l'IA utilisée par l'armée américaine a failli déclencher une guerre avec la Chine. Il y a également les menaces de cyberguerre et de bioterrorisme. Malgré des propositions législatives comme un « bouton d'arrêt d'urgence », les lanceurs d'alerte craignent qu'il ne soit désormais trop tard pour agir.

Et vous ?

Pensez-vous que cette déclaration est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

« C'est proprement ahurissant » : Bill Gates a changé d'avis sur l'IA et l'emploi. Il affirme désormais que l'IA pourrait provoquer une catastrophe économique et préconise une action gouvernementale urgente

Trump propose de renommer l'IA, affirmant que son nom actuel est « inexact et très peu éloquent ». Il qualifie de « canular » les risques liés à l'IA et veut créer une « AI Force » pour protéger la technologie

La Chine rejette les appels des USA à réglementer l'IA, les qualifiant d'alarmistes, exacerbant le différend entre les deux pays malgré ses propres préoccupations de sécurité liées à l'IA