L’Organisation des Nations Unies (ONU) a récemment publié un rapport soulignant la nécessité de traiter l’intelligence artificielle (IA) avec la même urgence que le changement climatique. Cette initiative vise à instaurer une gouvernance mondiale de l’IA pour en maximiser les avantages tout en minimisant les risques. Le rapport, produit par le Haut Conseil Consultatif du Secrétaire Général de l’ONU sur l’IA, recommande la création d’un organe similaire au Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC). Cet organe aurait pour mission de recueillir des informations actualisées sur l’IA et ses risques.Un rapport des Nations unies propose que l'organisme international supervise le premier effort véritablement mondial de surveillance et de gouvernance de l'intelligence artificielle. Le rapport, élaboré par l'organe consultatif de haut niveau sur l'IA du secrétaire général des Nations unies, recommande la création d'un organe similaire au Groupe d'experts intergouvernemental sur l'évolution du climat afin de recueillir des informations actualisées sur l'IA et ses risques.
Le rapport appelle à un nouveau dialogue politique sur l'IA afin que les 193 membres des Nations unies puissent discuter des risques et convenir d'actions. Il recommande également aux Nations unies de prendre des mesures pour permettre aux nations les plus pauvres, en particulier celles du Sud, de tirer parti de l'IA et de contribuer à sa gouvernance.
Il s'agirait notamment de créer un fonds pour l'IA afin de soutenir des projets dans ces pays, d'établir des normes en matière d'IA et des systèmes de partage de données, et de créer des ressources telles que des formations pour aider les pays à gérer l'IA. Certaines des recommandations du rapport pourraient être facilitées par le Pacte mondial pour le numérique, un plan existant visant à combler les fossés numériques et de données entre les nations. Enfin, le rapport suggère la création d'un bureau de l'IA au sein des Nations unies chargé de coordonner les efforts existants au sein de l'ONU pour atteindre les objectifs du rapport.
Pour mémoire, l'ONU explique que : « L’objectif du Pacte numérique mondial est d’établir un cadre mondial inclusif, essentiel pour que l’on puisse mener une action multipartite et combler les fossés liés au numérique, aux données et à l’innovation. Ce Pacte doit définir des principes, des objectifs et des actions visant à promouvoir un avenir numérique ouvert, libre et sûr pour tout le monde, centré sur l’être humain, ancré dans les droits humains universels et permettant d’atteindre les objectifs de développement durable ».
Quelques recommandations du groupe de travail
Concertation sur les mesures à prendre en matière de gouvernance de l’IA
Envoyé par Groupe de travail ONU
Nous recommandons la création d’un groupe scientifique international indépendant sur l’IA, composé de divers experts multidisciplinaires du domaine, participant à titre personnel et sur la base du volontariat. Soutenu par le bureau de l’IA dont la création est proposée au Secrétariat et par d’autres organismes des Nations Unies concernés, en partenariat avec d’autres organisations internationales compétentes, le mandat du groupe comprendrait les éléments suivants :
- La publication d’un rapport annuel examinant les capacités, les possibilités, les risques et les incertitudes liés à l’IA ainsi que les domaines de consensus scientifique sur les tendances technologiques et les domaines dans lesquels des travaux de recherche supplémentaires doivent être menés ;
- La production de dossiers de recherche thématiques trimestriels sur les domaines dans lesquels l’IA pourrait contribuer à la réalisation des objectifs de développement durable, qui seraient axés sur les domaines d’intérêt général susceptibles d’être négligés ;
- La publication de rapports ad hoc sur de nouvelles questions, en particulier l’apparition de nouveaux risques ou de lacunes majeures dans le paysage de la gouvernance.
Envoyé par Groupe de travail ONU
Nous recommandons la création d’un fonds mondial pour l’IA afin de réduire la fracture en la matière. Géré par une structure de gouvernance indépendante, le fonds recevrait des contributions financières et des ressources en nature de sources publiques et privées, qui seraient allouées, notamment par l’intermédiaire du réseau de développement des capacités, pour faciliter l’accès aux outils de l’IA en vue de favoriser la réalisation des objectifs de développement durable au niveau local, notamment :
- Des ressources de calcul mises en commun pour l’entraînement et la mise au point de modèles par les développeurs d’IA des pays qui ne disposent pas des capacités locales adéquates ou des moyens de se les procurer ;
- Des dispositifs expérimentaux et des outils d’analyse comparative et d’essai visant à généraliser les meilleures pratiques en matière de développement de modèles sûrs et fiables et de gouvernance des données ;
- Des solutions de gouvernance, de sûreté et d’interopérabilité applicables à l’échelle mondiale ;
- Des ensembles de données et des travaux de recherche sur la manière dont les données et les modèles pourraient être combinés afin de mettre en œuvre des projets liés aux objectifs de développement durable ;
- Un référentiel de modèles d’IA et d’ensembles de données conservés aux fins de la réalisation des objectifs de développement durable
Envoyé par Groupe de travail ONU
Nous recommandons la création d’un bureau de l’IA au Secrétariat, qui relèverait du Secrétaire général. Sa structure devrait être légère et agile et s’appuyer, dans la mesure du possible, sur
les entités de l’ONU existantes. Agissant comme le « ciment » qui soutient et catalyse les propositions contenues dans le présent rapport, en partenariat et en interface avec d’autres processus et organismes, le bureau aurait le mandat suivant :
- Soutenir le groupe scientifique international, la concertation, l’échange de normes, le réseau de développement des capacités et, dans la mesure où cela est nécessaire, le fonds mondial et le cadre mondial de données sur l’IA ;
- Sensibiliser diverses parties prenantes, notamment les entreprises technologiques, la société civile et le milieu universitaire, aux questions qui se posent en matière d’IA ;
- Conseiller le Secrétaire général sur les questions liées à l’IA, en coordination avec d’autres parties concernées du système des Nations Unies, afin de fournir une réponse à l’échelle du système.
Les propositions de l'ONU reflètent le vif intérêt des décideurs politiques du monde entier pour la réglementation de l'IA
« La communauté internationale reconnaît que l'IA présente à la fois des inconvénients, des risques et des opportunités », déclare Alondra Nelson, professeur à l'Institute for Advanced Study, qui a siégé à l'organe consultatif de l'ONU sur recommandation de la Maison Blanche et du département d'État.
Les capacités remarquables démontrées par les grands modèles de langage et les chatbots ces dernières années ont suscité l'espoir d'une révolution de la productivité économique, mais ont également incité certains experts à mettre en garde contre le développement trop rapide de l'IA, qui pourrait bientôt devenir difficile à contrôler. Peu de temps après l'apparition de ChatGPT, de nombreux scientifiques et entrepreneurs ont signé une lettre appelant à une pause de six mois dans le développement de la technologie afin que les risques puissent être évalués.
Parmi les préoccupations plus immédiates, citons le potentiel de l'IA à automatiser la désinformation, à générer des vidéos et des sons truqués, à remplacer massivement les travailleurs et à exacerber les biais algorithmiques de la société à l'échelle industrielle. « Il y a un sentiment d'urgence et les gens pensent que nous devons travailler ensemble », explique Nelson.
Les propositions de l'ONU reflètent le vif intérêt des décideurs politiques du monde entier pour la réglementation de l'IA afin d'atténuer ces risques. Mais elles interviennent également alors que les grandes puissances, en particulier les États-Unis et la Chine, se disputent la direction d'une technologie qui promet d'avoir d'énormes avantages économiques, scientifiques et militaires, et que ces nations définissent leur propre vision de la manière dont l'IA devrait être utilisée et contrôlée.
En mars, les États-Unis ont présenté à l'ONU une résolution appelant les États membres à favoriser le développement d'une « IA sûre, sécurisée et digne de confiance ». En juillet, la Chine a présenté sa propre résolution qui mettait l'accent sur la coopération dans le développement de l'IA et sur la diffusion de la technologie. Tous les États...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
espèrent...
?
voilà qui est très, très intéressant.
