Un rapport des Nations unies propose que l'organisme international supervise le premier effort véritablement mondial de surveillance et de gouvernance de l'intelligence artificielle. Le rapport, élaboré par l'organe consultatif de haut niveau sur l'IA du secrétaire général des Nations unies, recommande la création d'un organe similaire au Groupe d'experts intergouvernemental sur l'évolution du climat afin de recueillir des informations actualisées sur l'IA et ses risques.
Le rapport appelle à un nouveau dialogue politique sur l'IA afin que les 193 membres des Nations unies puissent discuter des risques et convenir d'actions. Il recommande également aux Nations unies de prendre des mesures pour permettre aux nations les plus pauvres, en particulier celles du Sud, de tirer parti de l'IA et de contribuer à sa gouvernance.
Il s'agirait notamment de créer un fonds pour l'IA afin de soutenir des projets dans ces pays, d'établir des normes en matière d'IA et des systèmes de partage de données, et de créer des ressources telles que des formations pour aider les pays à gérer l'IA. Certaines des recommandations du rapport pourraient être facilitées par le Pacte mondial pour le numérique, un plan existant visant à combler les fossés numériques et de données entre les nations. Enfin, le rapport suggère la création d'un bureau de l'IA au sein des Nations unies chargé de coordonner les efforts existants au sein de l'ONU pour atteindre les objectifs du rapport.
Pour mémoire, l'ONU explique que : « L’objectif du Pacte numérique mondial est d’établir un cadre mondial inclusif, essentiel pour que l’on puisse mener une action multipartite et combler les fossés liés au numérique, aux données et à l’innovation. Ce Pacte doit définir des principes, des objectifs et des actions visant à promouvoir un avenir numérique ouvert, libre et sûr pour tout le monde, centré sur l’être humain, ancré dans les droits humains universels et permettant d’atteindre les objectifs de développement durable ».
Quelques recommandations du groupe de travail
Concertation sur les mesures à prendre en matière de gouvernance de l’IA
Envoyé par Groupe de travail ONU
Envoyé par Groupe de travail ONU
Envoyé par Groupe de travail ONU
Les propositions de l'ONU reflètent le vif intérêt des décideurs politiques du monde entier pour la réglementation de l'IA
« La communauté internationale reconnaît que l'IA présente à la fois des inconvénients, des risques et des opportunités », déclare Alondra Nelson, professeur à l'Institute for Advanced Study, qui a siégé à l'organe consultatif de l'ONU sur recommandation de la Maison Blanche et du département d'État.
Les capacités remarquables démontrées par les grands modèles de langage et les chatbots ces dernières années ont suscité l'espoir d'une révolution de la productivité économique, mais ont également incité certains experts à mettre en garde contre le développement trop rapide de l'IA, qui pourrait bientôt devenir difficile à contrôler. Peu de temps après l'apparition de ChatGPT, de nombreux scientifiques et entrepreneurs ont signé une lettre appelant à une pause de six mois dans le développement de la technologie afin que les risques puissent être évalués.
Parmi les préoccupations plus immédiates, citons le potentiel de l'IA à automatiser la désinformation, à générer des vidéos et des sons truqués, à remplacer massivement les travailleurs et à exacerber les biais algorithmiques de la société à l'échelle industrielle. « Il y a un sentiment d'urgence et les gens pensent que nous devons travailler ensemble », explique Nelson.
Les propositions de l'ONU reflètent le vif intérêt des décideurs politiques du monde entier pour la réglementation de l'IA afin d'atténuer ces risques. Mais elles interviennent également alors que les grandes puissances, en particulier les États-Unis et la Chine, se disputent la direction d'une technologie qui promet d'avoir d'énormes avantages économiques, scientifiques et militaires, et que ces nations définissent leur propre vision de la manière dont l'IA devrait être utilisée et contrôlée.
En mars, les États-Unis ont présenté à l'ONU une résolution appelant les États membres à favoriser le développement d'une « IA sûre, sécurisée et digne de confiance ». En juillet, la Chine a présenté sa propre résolution qui mettait l'accent sur la coopération dans le développement de l'IA et sur la diffusion de la technologie. Tous les États membres de l'ONU ont signé les deux accords.
« L'IA fait partie de la concurrence entre les États-Unis et la Chine, et il y a donc peu de choses sur lesquelles ils vont s'entendre », explique Joshua Meltzer, expert à l'Institut Brookings, un groupe de réflexion de Washington. Selon lui, les principales différences portent sur les normes et les valeurs que l'IA devrait incarner et sur les protections de la vie privée et des données personnelles.
Les divergences de vues entre les pays riches sur l'IA provoquent déjà des fissures sur le marché
L'Union européenne a introduit des réglementations radicales en matière d'IA, assorties de contrôles de l'utilisation des données, qui ont incité certaines entreprises américaines à limiter la disponibilité de leurs produits dans l'Union européenne.
L'approche non interventionniste adoptée par le gouvernement américain a conduit la Californie à proposer ses propres règles en matière d'IA. Les versions antérieures de ces règles ont été critiquées par les entreprises d'IA basées dans ce pays, qui les jugeaient trop onéreuses, notamment en ce qui concerne l'obligation pour les entreprises de rendre compte de leurs activités au gouvernement, ce qui a entraîné une édulcoration des règles.
Meltzer ajoute que l'IA évolue à un rythme si rapide que les Nations unies ne seront pas en mesure de gérer seules la coopération mondiale. « Il est clair que l'ONU a un rôle important à jouer dans la gouvernance de l'IA, mais elle doit faire partie d'une sorte d'architecture distribuée », dans laquelle les nations individuelles travaillent aussi directement, dit-il. « Il s'agit d'une technologie qui évolue rapidement, et l'ONU n'est clairement pas en mesure de la gérer ».
Le rapport de l'ONU cherche à établir un terrain d'entente entre les États membres en soulignant l'importance des droits de l'homme. « L'ancrage de l'analyse en termes de droits de l'homme est très convaincant », déclare Chris Russell, professeur à l'Université d'Oxford, au Royaume-Uni, qui étudie la gouvernance internationale de l'IA. « Cela donne au travail une base solide dans le droit international, un mandat très large et un accent sur les préjudices concrets subis par les personnes ».
Conclusion
En traitant l’IA avec la même urgence que le changement climatique, l’ONU espère instaurer une gouvernance mondiale capable de gérer les défis et les opportunités de cette technologie émergente. Cette approche proactive pourrait non seulement atténuer les risques associés à l’IA, mais aussi garantir que ses avantages soient partagés de manière équitable à travers le monde.
Sources : Organe consultatif de haut niveau sur l'intelligence artificielle, Pacte numérique mondial, ONU (1, 2)
Et vous ?
Voyez-vous des parallèles entre les défis posés par l’IA et ceux posés par le changement climatique ? Si oui, lesquels ?
Comment l’éducation et la sensibilisation du public peuvent-elles contribuer à une meilleure gouvernance de l’IA ?
Pensez-vous que les entreprises technologiques devraient être plus réglementées pour garantir une utilisation responsable de l’IA ?
Quels rôles les organisations internationales, comme l’ONU, devraient-elles jouer dans la régulation de l’IA ?
Comment pouvons-nous garantir que les avantages de l’IA soient partagés équitablement entre les pays développés et en développement ?