L’Organisation des Nations Unies (ONU) a récemment publié un rapport soulignant la nécessité de traiter l’intelligence artificielle (IA) avec la même urgence que le changement climatique. Cette initiative vise à instaurer une gouvernance mondiale de l’IA pour en maximiser les avantages tout en minimisant les risques. Le rapport, produit par le Haut Conseil Consultatif du Secrétaire Général de l’ONU sur l’IA, recommande la création d’un organe similaire au Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC). Cet organe aurait pour mission de recueillir des informations actualisées sur l’IA et ses risques.Un rapport des Nations unies propose que l'organisme international supervise le premier effort véritablement mondial de surveillance et de gouvernance de l'intelligence artificielle. Le rapport, élaboré par l'organe consultatif de haut niveau sur l'IA du secrétaire général des Nations unies, recommande la création d'un organe similaire au Groupe d'experts intergouvernemental sur l'évolution du climat afin de recueillir des informations actualisées sur l'IA et ses risques.
Le rapport appelle à un nouveau dialogue politique sur l'IA afin que les 193 membres des Nations unies puissent discuter des risques et convenir d'actions. Il recommande également aux Nations unies de prendre des mesures pour permettre aux nations les plus pauvres, en particulier celles du Sud, de tirer parti de l'IA et de contribuer à sa gouvernance.
Il s'agirait notamment de créer un fonds pour l'IA afin de soutenir des projets dans ces pays, d'établir des normes en matière d'IA et des systèmes de partage de données, et de créer des ressources telles que des formations pour aider les pays à gérer l'IA. Certaines des recommandations du rapport pourraient être facilitées par le Pacte mondial pour le numérique, un plan existant visant à combler les fossés numériques et de données entre les nations. Enfin, le rapport suggère la création d'un bureau de l'IA au sein des Nations unies chargé de coordonner les efforts existants au sein de l'ONU pour atteindre les objectifs du rapport.
Pour mémoire, l'ONU explique que : « L’objectif du Pacte numérique mondial est d’établir un cadre mondial inclusif, essentiel pour que l’on puisse mener une action multipartite et combler les fossés liés au numérique, aux données et à l’innovation. Ce Pacte doit définir des principes, des objectifs et des actions visant à promouvoir un avenir numérique ouvert, libre et sûr pour tout le monde, centré sur l’être humain, ancré dans les droits humains universels et permettant d’atteindre les objectifs de développement durable ».
Quelques recommandations du groupe de travail
Concertation sur les mesures à prendre en matière de gouvernance de l’IA
Envoyé par Groupe de travail ONU
Nous recommandons la création d’un groupe scientifique international indépendant sur l’IA, composé de divers experts multidisciplinaires du domaine, participant à titre personnel et sur la base du volontariat. Soutenu par le bureau de l’IA dont la création est proposée au Secrétariat et par d’autres organismes des Nations Unies concernés, en partenariat avec d’autres organisations internationales compétentes, le mandat du groupe comprendrait les éléments suivants :
- La publication d’un rapport annuel examinant les capacités, les possibilités, les risques et les incertitudes liés à l’IA ainsi que les domaines de consensus scientifique sur les tendances technologiques et les domaines dans lesquels des travaux de recherche supplémentaires doivent être menés ;
- La production de dossiers de recherche thématiques trimestriels sur les domaines dans lesquels l’IA pourrait contribuer à la réalisation des objectifs de développement durable, qui seraient axés sur les domaines d’intérêt général susceptibles d’être négligés ;
- La publication de rapports ad hoc sur de nouvelles questions, en particulier l’apparition de nouveaux risques ou de lacunes majeures dans le paysage de la gouvernance.
Envoyé par Groupe de travail ONU
Nous recommandons la création d’un fonds mondial pour l’IA afin de réduire la fracture en la matière. Géré par une structure de gouvernance indépendante, le fonds recevrait des contributions financières et des ressources en nature de sources publiques et privées, qui seraient allouées, notamment par l’intermédiaire du réseau de développement des capacités, pour faciliter l’accès aux outils de l’IA en vue de favoriser la réalisation des objectifs de développement durable au niveau local, notamment :
- Des ressources de calcul mises en commun pour l’entraînement et la mise au point de modèles par les développeurs d’IA des pays qui ne disposent pas des capacités locales adéquates ou des moyens de se les procurer ;
- Des dispositifs expérimentaux et des outils d’analyse comparative et d’essai visant à généraliser les meilleures pratiques en matière de développement de modèles sûrs et fiables et de gouvernance des données ;
- Des solutions de gouvernance, de sûreté et d’interopérabilité applicables à l’échelle mondiale ;
- Des ensembles de données et des travaux de recherche sur la manière dont les données et les modèles pourraient être combinés afin de mettre en œuvre des projets liés aux objectifs de développement durable ;
- Un référentiel de modèles d’IA et d’ensembles de données conservés aux fins de la réalisation des objectifs de développement durable
Envoyé par Groupe de travail ONU
Nous recommandons la création d’un bureau de l’IA au Secrétariat, qui relèverait du Secrétaire général. Sa structure devrait être légère et agile et s’appuyer, dans la mesure du possible, sur
les entités de l’ONU existantes. Agissant comme le « ciment » qui soutient et catalyse les propositions contenues dans le présent rapport, en partenariat et en interface avec d’autres processus et organismes, le bureau aurait le mandat suivant :
- Soutenir le groupe scientifique international, la concertation, l’échange de normes, le réseau de développement des capacités et, dans la mesure où cela est nécessaire, le fonds mondial et le cadre mondial de données sur l’IA ;
- Sensibiliser diverses parties prenantes, notamment les entreprises technologiques, la société civile et le milieu universitaire, aux questions qui se posent en matière d’IA ;
- Conseiller le Secrétaire général sur les questions liées à l’IA, en coordination avec d’autres parties concernées du système des Nations Unies, afin de fournir une réponse à l’échelle du système.
Les propositions de l'ONU reflètent le vif intérêt des décideurs politiques du monde entier pour la réglementation de l'IA
« La communauté internationale reconnaît que l'IA présente à la fois des inconvénients, des risques et des opportunités », déclare Alondra Nelson, professeur à l'Institute for Advanced Study, qui a siégé à l'organe consultatif de l'ONU sur recommandation de la Maison Blanche et du département d'État.
Les capacités remarquables démontrées par les grands modèles de langage et les chatbots ces dernières années ont suscité l'espoir d'une révolution de la productivité économique, mais ont également incité certains experts à mettre en garde contre le développement trop rapide de l'IA, qui pourrait bientôt devenir difficile à contrôler. Peu de temps après l'apparition de ChatGPT, de nombreux scientifiques et entrepreneurs ont signé une lettre appelant à une pause de six mois dans le développement de la technologie afin que les risques puissent être évalués.
Parmi les préoccupations plus immédiates, citons le potentiel de l'IA à automatiser la désinformation, à générer des vidéos et des sons truqués, à remplacer massivement les travailleurs et à exacerber les biais algorithmiques de la société à l'échelle industrielle. « Il y a un sentiment d'urgence et les gens pensent que nous devons travailler ensemble », explique Nelson.
Les propositions de l'ONU reflètent le vif intérêt des décideurs politiques du monde entier pour la réglementation de l'IA afin d'atténuer ces risques. Mais elles interviennent également alors que les grandes puissances, en particulier les États-Unis et la Chine, se disputent la direction d'une technologie qui promet d'avoir d'énormes avantages économiques, scientifiques et militaires, et que ces nations définissent leur propre vision de la manière dont l'IA devrait être utilisée et contrôlée.
En mars, les États-Unis ont présenté à l'ONU une résolution appelant les États membres à favoriser le développement d'une « IA sûre, sécurisée et digne de confiance ». En juillet, la Chine a présenté sa propre résolution qui mettait l'accent sur la coopération dans le développement de l'IA et sur la diffusion de la technologie. Tous les États membres de l'ONU ont signé les deux accords.
« L'IA fait partie de la concurrence entre les États-Unis et la Chine, et il y a donc peu de choses sur lesquelles ils vont s'entendre », explique Joshua Meltzer, expert à l'Institut Brookings, un groupe de réflexion de Washington. Selon lui, les principales différences portent sur les normes et les valeurs que l'IA devrait incarner et sur les protections de la vie privée et des données personnelles.
Les divergences de vues entre les pays riches sur l'IA provoquent déjà des fissures sur le marché
L'Union européenne a introduit des réglementations radicales en matière d'IA, assorties de contrôles de l'utilisation des données, qui ont incité certaines entreprises américaines à limiter la disponibilité de leurs produits dans l'Union européenne.
L'approche non interventionniste adoptée par le gouvernement américain a conduit la Californie à proposer ses propres règles en matière d'IA. Les versions antérieures de ces règles ont été critiquées par les entreprises d'IA basées dans ce pays, qui les jugeaient trop onéreuses, notamment en ce qui concerne l'obligation pour les entreprises de rendre compte de leurs activités au gouvernement, ce qui a entraîné une édulcoration des règles.
Meltzer ajoute que l'IA évolue à un rythme si rapide que les Nations unies ne seront pas en mesure de gérer seules la coopération mondiale. « Il est clair que l'ONU a un rôle important à jouer dans la gouvernance de l'IA, mais elle doit faire partie d'une sorte d'architecture distribuée », dans laquelle les nations individuelles travaillent aussi directement, dit-il. « Il s'agit d'une technologie qui évolue rapidement, et l'ONU n'est clairement pas en mesure de la gérer ».
Le rapport de l'ONU cherche à établir un terrain d'entente entre les États membres en soulignant l'importance des droits de l'homme. « L'ancrage de l'analyse en termes de droits de l'homme est très convaincant », déclare Chris Russell, professeur à l'Université d'Oxford, au Royaume-Uni, qui étudie la gouvernance internationale de l'IA. « Cela donne au travail une base solide dans le droit international, un mandat très large et un accent sur les préjudices concrets subis par les personnes ».
Conclusion
En traitant l’IA avec la même urgence que le changement climatique, l’ONU espère instaurer une gouvernance mondiale capable de gérer les défis et les opportunités de cette technologie émergente. Cette approche proactive pourrait non seulement atténuer les risques associés à l’IA, mais aussi garantir que ses avantages soient partagés de manière équitable à travers le monde.
Sources : Organe consultatif de haut niveau sur l'intelligence artificielle, Pacte numérique mondial, ONU (1, 2)
Et vous ?
Voyez-vous des parallèles entre les défis posés par l’IA et ceux posés par le changement climatique ? Si oui, lesquels ? Comment l’éducation et la sensibilisation du public peuvent-elles contribuer à une meilleure gouvernance de l’IA ? Pensez-vous que les entreprises technologiques devraient être plus réglementées pour garantir une utilisation responsable de l’IA ? Quels rôles les organisations internationales, comme l’ONU, devraient-elles jouer dans la régulation de l’IA ? Comment pouvons-nous garantir que les avantages de l’IA soient partagés équitablement entre les pays développés et en développement ? 
?
voilà qui est très, très intéressant.