Le Haut-Commissaire des Nations Unies aux droits de l'homme met en garde contre le risque « existentiel » que l'IA pourrait représenter pour l'humanité et exhorte les entreprises d'IA à réduire ces risques

Le Haut-Commissaire des Nations unies aux droits de l’homme a mis en garde contre le risque « existentiel » que l’IA pourrait représenter pour l’humanité et exhorte les entreprises à réduire ces risques. Sans les nommer, Türk a averti que seule une poignée d’hommes détenait « un pouvoir quasi illimité sur l’IA ». Parmi les principales entreprises du secteur de l’IA figurent Meta, Anthropic, OpenAI et Google. « Je partage les préoccupations des experts du secteur selon lesquelles l’IA avancée pourrait représenter un risque existentiel pour l’humanité », a déclaré Turk devant le Conseil des droits de l’homme des Nations unies à Genève.

En juillet 2025, l'organisation à but non lucratif Future of Life Institute a rapporté que « les entreprises spécialisées dans l'IA sont fondamentalement mal préparées » aux dangers potentiels de la construction de systèmes dotés de performances intellectuelles de niveau humain. Elle a alerté sur le fait que ces entreprises ne disposent pas de plans crédibles pour garantir la sécurité de leurs systèmes d'IA et celle de l'humanité. Elle a également indiqué qu'aucun des sept principaux acteurs de l'IA, dont OpenAI, Google Deepmind, Anthropic, xAI et les startups chinoises Deepseek et Zhipu AI, n'ont obtenu une note supérieure à D dans son indice de « sécurité existentielle ».

Récemment, le Haut-Commissaire des Nations unies aux droits de l’homme a mis en garde contre le risque « existentiel » que l’IA pourrait représenter pour l’humanité et exhorte les entreprises à réduire ces risques. Volker Türk, né le 27 août 1965, est un juriste autrichien et un fonctionnaire des Nations Unies. Il occupe le poste de Haut-Commissaire des Nations Unies aux droits de l’homme depuis octobre 2022. Türk a obtenu un master en droit à l’université Johannes Kepler de Linz. Il a obtenu un doctorat en droit international à l’université de Vienne, où sa thèse portait sur le Haut-Commissariat des Nations unies pour les réfugiés (HCR) et son mandat.


Sans les nommer, Türk a averti que seule une poignée d’hommes détenait « un pouvoir quasi illimité sur l’IA ». Parmi les principales entreprises du secteur de l’IA figurent Meta, Anthropic, OpenAI et Google. Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, a averti que l’intelligence artificielle (IA) pourrait devenir suffisamment puissante pour menacer l’humanité, et a déclaré qu’il exhorterait les entreprises dans les jours à venir à réduire ces risques.

« Je partage les préoccupations des experts du secteur selon lesquelles l’IA avancée pourrait représenter un risque existentiel pour l’humanité », a déclaré Turk devant le Conseil des droits de l’homme des Nations unies à Genève, dans un discours de grande envergure prononcé avant le début de son deuxième mandat le mois prochain. « J’appelle ici, aujourd’hui, à un effort sans réserve pour mettre en place des garanties à toute épreuve concernant la sûreté et la sécurité de l’IA, avant qu’il ne soit trop tard. »

Sans les nommer, Turk a averti qu’une poignée d’hommes seulement détenaient « un pouvoir quasi illimité sur l’IA ». Parmi les principales entreprises du secteur figurent Meta, Anthropic, OpenAI et Google. « Au minimum, il faut que les pays hébergeant des technologies d’IA et ceux impliqués dans leurs chaînes d’approvisionnement s’accordent sur des lignes rouges communes », a-t-il déclaré.

Les propos de Turk font écho aux avertissements lancés précédemment par les dirigeants eux-mêmes du secteur de l’intelligence artificielle concernant les risques d’extinction liés à l’IA, notamment par Sam Altman, PDG d’OpenAI. Les Nations unies ont appelé à l’harmonisation des règles afin de réduire ces risques et ont organisé en juillet leur première réunion mondiale sur la gouvernance.


En juillet 2026, un rapport semble confirmer cette déclaration. Un rapport, citant des sources proches de l'enquête, a affirmé qu'il a fallu environ 10 jours à OpenAI pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face, la plus grande base de données au monde de modèles d'IA. L’incident s’est déroulé entre le 9 et le 20 juillet : l’agent IA s’est d’abord échappé de son environnement de test isolé avant de s’introduire dans Hugging Face le 11 juillet, précise le rapport. Le rapport ajoute que le personnel d’OpenAI a examiné les journaux internes au cours du week-end des 18 et 19 juillet et a trouvé des preuves indiquant que l’agent s’était échappé de son environnement de test. Cet incident a ravivé l’attention portée aux risques associés aux agents IA autonomes.

Et vous ?

Pensez-vous que cet avertissement est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le monde «pourrait ne pas avoir le temps» de se préparer aux risques liés à la sécurité de l'IA, selon un chercheur. L'industrie joue-t-elle avec le feu en déployant des systèmes que personne ne maîtrise ?

Un rapport met en garde les entreprises d'IA contre les dangers liés à la construction de systèmes de niveau humain. Elles ne disposent pas de plans crédibles pour garantir la sécurité de ces systèmes

« L'IA superintelligente est un fantasme de la Silicon Valley. L'AGI ne se produira jamais en raison des limites du matériel informatique et des coûts exponentiels du calcul », selon un chercheur de l'Ai2