IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'ONU veut traiter l'IA avec la même urgence que le changement climatique : l'organisme voudrait instaurer une gouvernance mondiale de l'IA
Pour en maximiser les avantages tout en minimisant les risques

Le , par Stéphane le calme

7PARTAGES

3  0 
L’Organisation des Nations Unies (ONU) a récemment publié un rapport soulignant la nécessité de traiter l’intelligence artificielle (IA) avec la même urgence que le changement climatique. Cette initiative vise à instaurer une gouvernance mondiale de l’IA pour en maximiser les avantages tout en minimisant les risques. Le rapport, produit par le Haut Conseil Consultatif du Secrétaire Général de l’ONU sur l’IA, recommande la création d’un organe similaire au Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC). Cet organe aurait pour mission de recueillir des informations actualisées sur l’IA et ses risques.

Un rapport des Nations unies propose que l'organisme international supervise le premier effort véritablement mondial de surveillance et de gouvernance de l'intelligence artificielle. Le rapport, élaboré par l'organe consultatif de haut niveau sur l'IA du secrétaire général des Nations unies, recommande la création d'un organe similaire au Groupe d'experts intergouvernemental sur l'évolution du climat afin de recueillir des informations actualisées sur l'IA et ses risques.

Le rapport appelle à un nouveau dialogue politique sur l'IA afin que les 193 membres des Nations unies puissent discuter des risques et convenir d'actions. Il recommande également aux Nations unies de prendre des mesures pour permettre aux nations les plus pauvres, en particulier celles du Sud, de tirer parti de l'IA et de contribuer à sa gouvernance.

Il s'agirait notamment de créer un fonds pour l'IA afin de soutenir des projets dans ces pays, d'établir des normes en matière d'IA et des systèmes de partage de données, et de créer des ressources telles que des formations pour aider les pays à gérer l'IA. Certaines des recommandations du rapport pourraient être facilitées par le Pacte mondial pour le numérique, un plan existant visant à combler les fossés numériques et de données entre les nations. Enfin, le rapport suggère la création d'un bureau de l'IA au sein des Nations unies chargé de coordonner les efforts existants au sein de l'ONU pour atteindre les objectifs du rapport.

Pour mémoire, l'ONU explique que : « L’objectif du Pacte numérique mondial est d’établir un cadre mondial inclusif, essentiel pour que l’on puisse mener une action multipartite et combler les fossés liés au numérique, aux données et à l’innovation. Ce Pacte doit définir des principes, des objectifs et des actions visant à promouvoir un avenir numérique ouvert, libre et sûr pour tout le monde, centré sur l’être humain, ancré dans les droits humains universels et permettant d’atteindre les objectifs de développement durable ».

Quelques recommandations du groupe de travail

Concertation sur les mesures à prendre en matière de gouvernance de l’IA

Citation Envoyé par Groupe de travail ONU
Nous recommandons la création d’un groupe scientifique international indépendant sur l’IA, composé de divers experts multidisciplinaires du domaine, participant à titre personnel et sur la base du volontariat. Soutenu par le bureau de l’IA dont la création est proposée au Secrétariat et par d’autres organismes des Nations Unies concernés, en partenariat avec d’autres organisations internationales compétentes, le mandat du groupe comprendrait les éléments suivants :
  1. La publication d’un rapport annuel examinant les capacités, les possibilités, les risques et les incertitudes liés à l’IA ainsi que les domaines de consensus scientifique sur les tendances technologiques et les domaines dans lesquels des travaux de recherche supplémentaires doivent être menés ;
  2. La production de dossiers de recherche thématiques trimestriels sur les domaines dans lesquels l’IA pourrait contribuer à la réalisation des objectifs de développement durable, qui seraient axés sur les domaines d’intérêt général susceptibles d’être négligés ;
  3. La publication de rapports ad hoc sur de nouvelles questions, en particulier l’apparition de nouveaux risques ou de lacunes majeures dans le paysage de la gouvernance.
Fonds mondial pour l’IA

Citation Envoyé par Groupe de travail ONU
Nous recommandons la création d’un fonds mondial pour l’IA afin de réduire la fracture en la matière. Géré par une structure de gouvernance indépendante, le fonds recevrait des contributions financières et des ressources en nature de sources publiques et privées, qui seraient allouées, notamment par l’intermédiaire du réseau de développement des capacités, pour faciliter l’accès aux outils de l’IA en vue de favoriser la réalisation des objectifs de développement durable au niveau local, notamment :
  1. Des ressources de calcul mises en commun pour l’entraînement et la mise au point de modèles par les développeurs d’IA des pays qui ne disposent pas des capacités locales adéquates ou des moyens de se les procurer ;
  2. Des dispositifs expérimentaux et des outils d’analyse comparative et d’essai visant à généraliser les meilleures pratiques en matière de développement de modèles sûrs et fiables et de gouvernance des données ;
  3. Des solutions de gouvernance, de sûreté et d’interopérabilité applicables à l’échelle mondiale ;
  4. Des ensembles de données et des travaux de recherche sur la manière dont les données et les modèles pourraient être combinés afin de mettre en œuvre des projets liés aux objectifs de développement durable ;
  5. Un référentiel de modèles d’IA et d’ensembles de données conservés aux fins de la réalisation des objectifs de développement durable
Bureau de l’IA au Secrétariat

Citation Envoyé par Groupe de travail ONU

Nous recommandons la création d’un bureau de l’IA au Secrétariat, qui relèverait du Secrétaire général. Sa structure devrait être légère et agile et s’appuyer, dans la mesure du possible, sur
les entités de l’ONU existantes. Agissant comme le « ciment » qui soutient et catalyse les propositions contenues dans le présent rapport, en partenariat et en interface avec d’autres processus et organismes, le bureau aurait le mandat suivant :
  1. Soutenir le groupe scientifique international, la concertation, l’échange de normes, le réseau de développement des capacités et, dans la mesure où cela est nécessaire, le fonds mondial et le cadre mondial de données sur l’IA ;
  2. Sensibiliser diverses parties prenantes, notamment les entreprises technologiques, la société civile et le milieu universitaire, aux questions qui se posent en matière d’IA ;
  3. Conseiller le Secrétaire général sur les questions liées à l’IA, en coordination avec d’autres parties concernées du système des Nations Unies, afin de fournir une réponse à l’échelle du système.

Les propositions de l'ONU reflètent le vif intérêt des décideurs politiques du monde entier pour la réglementation de l'IA

« La communauté internationale reconnaît que l'IA présente à la fois des inconvénients, des risques et des opportunités », déclare Alondra Nelson, professeur à l'Institute for Advanced Study, qui a siégé à l'organe consultatif de l'ONU sur recommandation de la Maison Blanche et du département d'État.

Les capacités remarquables démontrées par les grands modèles de langage et les chatbots ces dernières années ont suscité l'espoir d'une révolution de la productivité économique, mais ont également incité certains experts à mettre en garde contre le développement trop rapide de l'IA, qui pourrait bientôt devenir difficile à contrôler. Peu de temps après l'apparition de ChatGPT, de nombreux scientifiques et entrepreneurs ont signé une lettre appelant à une pause de six mois dans le développement de la technologie afin que les risques puissent être évalués.

Parmi les préoccupations plus immédiates, citons le potentiel de l'IA à automatiser la désinformation, à générer des vidéos et des sons truqués, à remplacer massivement les travailleurs et à exacerber les biais algorithmiques de la société à l'échelle industrielle. « Il y a un sentiment d'urgence et les gens pensent que nous devons travailler ensemble », explique Nelson.

Les propositions de l'ONU reflètent le vif intérêt des décideurs politiques du monde entier pour la réglementation de l'IA afin d'atténuer ces risques. Mais elles interviennent également alors que les grandes puissances, en particulier les États-Unis et la Chine, se disputent la direction d'une technologie qui promet d'avoir d'énormes avantages économiques, scientifiques et militaires, et que ces nations définissent leur propre vision de la manière dont l'IA devrait être utilisée et contrôlée.

En mars, les États-Unis ont présenté à l'ONU une résolution appelant les États membres à favoriser le développement d'une « IA sûre, sécurisée et digne de confiance ». En juillet, la Chine a présenté sa propre résolution qui mettait l'accent sur la coopération dans le développement de l'IA et sur la diffusion de la technologie. Tous les États membres de l'ONU ont signé les deux accords.

« L'IA fait partie de la concurrence entre les États-Unis et la Chine, et il y a donc peu de choses sur lesquelles ils vont s'entendre », explique Joshua Meltzer, expert à l'Institut Brookings, un groupe de réflexion de Washington. Selon lui, les principales différences portent sur les normes et les valeurs que l'IA devrait incarner et sur les protections de la vie privée et des données personnelles.


Les divergences de vues entre les pays riches sur l'IA provoquent déjà des fissures sur le marché

L'Union européenne a introduit des réglementations radicales en matière d'IA, assorties de contrôles de l'utilisation des données, qui ont incité certaines entreprises américaines à limiter la disponibilité de leurs produits dans l'Union européenne.

L'approche non interventionniste adoptée par le gouvernement américain a conduit la Californie à proposer ses propres règles en matière d'IA. Les versions antérieures de ces règles ont été critiquées par les entreprises d'IA basées dans ce pays, qui les jugeaient trop onéreuses, notamment en ce qui concerne l'obligation pour les entreprises de rendre compte de leurs activités au gouvernement, ce qui a entraîné une édulcoration des règles.

Meltzer ajoute que l'IA évolue à un rythme si rapide que les Nations unies ne seront pas en mesure de gérer seules la coopération mondiale. « Il est clair que l'ONU a un rôle important à jouer dans la gouvernance de l'IA, mais elle doit faire partie d'une sorte d'architecture distribuée », dans laquelle les nations individuelles travaillent aussi directement, dit-il. « Il s'agit d'une technologie qui évolue rapidement, et l'ONU n'est clairement pas en mesure de la gérer ».

Le rapport de l'ONU cherche à établir un terrain d'entente entre les États membres en soulignant l'importance des droits de l'homme. « L'ancrage de l'analyse en termes de droits de l'homme est très convaincant », déclare Chris Russell, professeur à l'Université d'Oxford, au Royaume-Uni, qui étudie la gouvernance internationale de l'IA. « Cela donne au travail une base solide dans le droit international, un mandat très large et un accent sur les préjudices concrets subis par les personnes ».

Conclusion

En traitant l’IA avec la même urgence que le changement climatique, l’ONU espère instaurer une gouvernance mondiale capable de gérer les défis et les opportunités de cette technologie émergente. Cette approche proactive pourrait non seulement atténuer les risques associés à l’IA, mais aussi garantir que ses avantages soient partagés de manière équitable à travers le monde.

Sources : Organe consultatif de haut niveau sur l'intelligence artificielle, Pacte numérique mondial, ONU (1, 2)

Et vous ?

Voyez-vous des parallèles entre les défis posés par l’IA et ceux posés par le changement climatique ? Si oui, lesquels ?
Comment l’éducation et la sensibilisation du public peuvent-elles contribuer à une meilleure gouvernance de l’IA ?
Pensez-vous que les entreprises technologiques devraient être plus réglementées pour garantir une utilisation responsable de l’IA ?
Quels rôles les organisations internationales, comme l’ONU, devraient-elles jouer dans la régulation de l’IA ?
Comment pouvons-nous garantir que les avantages de l’IA soient partagés équitablement entre les pays développés et en développement ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 23/09/2024 à 17:34
L'ONU se propose donc d'organiser un "machin" qui ne sert à rien comme c'est déjà le cas pour...

... Le réchauffement de la planète: On a droit à des rapports du GIEC et des conférences annuelles organisées à tous les coins de la planète que des pseudo-décideurs décident de rejoindre avec leur avion personnel sans que soit prise la moindre décision pour résoudre le problème

... La résolution des conflits avec des prises de décision dont les pays concernés se "foutent" royalement

... La résolution de crise avec des envois de troupes de casques bleus qui ne servent à rien quand ce n'est pas pour ajouter des crises à la crise (exemple les troupes de l'ONU à Haïti responsables de déclenchement d’épidémies ou encore les troupes qui séparent le Sud Liban du Nord d’Israël dont la seule activité est de compter les tirs de part et d'autre qui passent au -dessus de leur tête)
3  0 
Avatar de Jules34
Membre émérite https://www.developpez.com
Le 23/09/2024 à 14:56
Mouais... ça va vraiment devenir une calamité alors. L'ONU a pas la réputation de transformer en or ce qu'elle touche, ni de régler les problèmes. Pourquoi des gens payés autant résoudraient les problèmes qui les rendent riches ?

Le réchauffement climatique j'en soupe depuis tout gosse, la seule chose qu'ils ont trouvés c'est les voitures électriques et des montagnes de pile au lithium, encore plus de déchets. Mais ils jouent les clowns, entre deux vols d'avions, pour que nous on partent en vacance à vélo et qu'ils se gardent la bonne viande pendant qu'on mange des insectes dans des mobilhome tout en étant prélevé à 75% sur le peu de richesse qu'on produit (j'exagère).

Réguler l'IA... ce sera juste une façade. On ne régule pas la propagande, la subversion et la manipulation. Ce qui fait peur c'est que tout le monde à compris qu'avec l'IA la réalité du mensonge allait devenir encore plus prégnante dans nos sociétés déjà bien manipulées. Exemple au sommet de l'exécutif : Barnier à pas annoncé son gouvernement qu'on a compris que ce serait une mascarade Maconnienne ad nauseam jusqu'en 2027 qui appliquerait les consignes d'Ursula VDL. Rien ne change ! Et pour que rien ne change, tout doit changer.
1  0 
Avatar de Fluxgraveon
Membre habitué https://www.developpez.com
Le 23/09/2024 à 15:26
pour en maximiser les avantages tout en minimisant les risques
Effectivement (ha ! les petites lettres ...), cela a à voir avec le business, c'est étonnant quoique il est maintenant impossible de tricher.
En fait, c'est de leur propre gouvernance dont il s'agit voilà qui est très, très intéressant.
1  0 
Avatar de chrtophe
Responsable Systèmes https://www.developpez.com
Le 23/09/2024 à 16:29
L'ONU veut traiter l'IA avec la même urgence que le changement climatique
Ah ben on est sauvé alors.
0  0