L'Assemblée générale des Nations Unies a adopté jeudi à l'unanimité la première résolution mondiale sur l'intelligence artificielle qui encourage les pays à sauvegarder les droits de l'homme, à protéger les données personnelles et à surveiller les risques liés à l'IA. La résolution non contraignante, proposée par les États-Unis et co-parrainée par la Chine et plus de 120 autres pays, préconise également le renforcement des politiques de confidentialité. « Aujourd'hui, les 193 membres de l'Assemblée générale des Nations Unies ont parlé d'une seule voix et ont choisi ensemble de gouverner l'intelligence artificielle plutôt que de la laisser nous gouverner », a déclaré l'ambassadrice des États-Unis auprès des Nations Unies, Linda Thomas-Greenfield.La résolution appelle les États membres à collaborer pour créer un cadre réglementaire qui garantisse que l’IA sera utilisée de manière à respecter la vie privée, à promouvoir la sécurité et à prévenir les abus. Elle encourage également le partage des connaissances et des meilleures pratiques en matière d’IA entre les nations, afin de réduire le fossé numérique et de favoriser une croissance inclusive.
Étant un accord non contraignant et donc sans effet, la résolution semble largement populaire dans l’industrie de l’IA. Sur X, le vice-président et président de Microsoft, Brad Smith, a écrit : « Nous soutenons pleinement l'adoption par l'ONU de la résolution globale sur l'IA. Le consensus atteint aujourd'hui marque une étape cruciale vers l'établissement de garde-fous internationaux pour le développement éthique et durable de l'IA, garantissant que cette technologie répond aux besoins de chacun. »
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">We fully support the <a href="https://twitter.com/UN?ref_src=twsrc%5Etfw">@UN</a>'s adoption of the comprehensive AI resolution. The consensus reached today marks a critical step towards establishing international guardrails for the ethical and sustainable development of AI, ensuring this technology serves the needs of everyone.</p>— Brad Smith (@BradSmi) <a href="https://twitter.com/BradSmi/status/1770854291521126617?ref_src=twsrc%5Etfw">March 21, 2024</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
La résolution, intitulée « Saisir les opportunités offertes par des systèmes d'intelligence artificielle sûrs, sécurisés et fiables pour le développement durable », est le résultat de trois mois de négociations, et les parties prenantes impliquées semblent satisfaites du niveau de coopération internationale. « Nous naviguons sur des eaux agitées avec une technologie en évolution rapide, ce qui signifie qu'il est plus important que jamais de naviguer à la lumière de nos valeurs », a déclaré un haut responsable de l'administration américaine, soulignant l'importance de cette « première document de consensus véritablement mondial sur l'IA ».
À l'ONU, l'adoption par consensus signifie que tous les membres conviennent d'adopter la résolution sans vote. « Le consensus est atteint lorsque tous les États membres s'accordent sur un texte, mais cela ne signifie pas qu'ils sont tous d'accord sur chaque élément d'un projet de document », écrit l'ONU dans une FAQ trouvée en ligne. « Ils peuvent accepter d'adopter un projet de résolution sans vote, mais avoir néanmoins des réserves sur certaines parties du texte ».
Plusieurs gouvernements dans le monde s'intéressent à l'impact des IA depuis le boom de l'IA générative avec ChatGPT
L'initiative s'inscrit dans une série d'efforts déployés par les gouvernements du monde entier pour influencer la trajectoire de développement de l'IA suite au lancement de ChatGPT et de GPT-4, et à l'énorme battage médiatique suscité par certains membres de l'industrie technologique lors d'une campagne publique mondiale menée l'année dernière. Les critiques craignent que l’IA puisse saper les processus démocratiques, amplifier les activités frauduleuses ou contribuer à d’importantes suppressions d’emplois, entre autres problèmes. La résolution vise à faire face aux dangers associés à l’application irresponsable ou malveillante des systèmes d’IA, qui, selon l’ONU, pourraient mettre en danger les droits de l’homme et les libertés fondamentales.
La résistance de pays comme la Russie et la Chine était attendue, et les responsables américains ont reconnu la présence de « beaucoup de conversations animées » au cours du processus de négociation. Cependant, ils ont également souligné un engagement réussi avec ces pays et d’autres généralement en désaccord avec les États-Unis sur diverses questions, en se mettant d’accord sur un projet de résolution qui cherchait à maintenir un équilibre délicat entre la promotion du développement et la sauvegarde des droits de l’homme.
Les conclusions de l'ONU
L’Assemblée générale a également reconnu le potentiel des systèmes d’IA pour accélérer et permettre les progrès vers la réalisation des 17 objectifs de développement durable. C'est la première fois que l'Assemblée adopte une résolution sur la réglementation de ce domaine émergent. Le conseiller américain à la sécurité nationale aurait déclaré plus tôt ce mois-ci que l’adoption représenterait un « pas en avant historique » pour une utilisation sûre de l’IA.
Mêmes droits, en ligne et hors ligne
L’Assemblée a appelé tous les États membres et parties prenantes « à s’abstenir ou à cesser d’utiliser des systèmes d’intelligence artificielle qui sont impossibles à exploiter conformément au droit international des droits de l’homme ou qui présentent des risques indus pour la jouissance des droits de l’homme ». « Les mêmes droits dont jouissent les personnes hors ligne doivent également être protégés en ligne, y compris tout au long du cycle de vie des systèmes d’intelligence artificielle », affirme-t-elle.
L’Assemblée a également exhorté tous les États, le secteur privé, la société civile, les organismes de recherche et les médias à élaborer et à soutenir des approches et des cadres de réglementation et de gouvernance liés à une utilisation sûre, sécurisée et fiable de l’IA.
Réduire la fracture numérique
L'Assemblée a en outre reconnu les « niveaux variables » de développement technologique entre et au sein des pays, et que les pays en développement sont confrontés à des défis uniques pour suivre le rythme rapide de l'innovation. Elle a exhorté les États membres et les parties prenantes à coopérer avec les pays en développement et à les soutenir afin qu’ils puissent bénéficier d’un accès inclusif et équitable, réduire la fracture numérique et accroître la culture numérique.
Espoir pour d'autres secteurs
S'exprimant avant l'adoption, Linda Thomas-Greenfield, ambassadrice et représentante permanente des États-Unis auprès de l'ONU, a présenté le projet de résolution.
Elle a exprimé l’espoir que « le dialogue inclusif et constructif qui a conduit à cette résolution servirait de modèle pour les conversations futures sur les défis de l’IA dans d’autres domaines, par exemple en ce qui concerne la paix et la sécurité et l’utilisation militaire responsable de l’autonomie de l’IA ».
Mme Thomas-Greenfield a noté que la résolution visait à amplifier le travail déjà effectué par l'ONU, notamment l'Union internationale des télécommunications (UIT), l'Organisation des Nations Unies pour l'éducation, la science et la culture (UNESCO) et le Conseil des droits de l'homme.
« Nous souhaitons que cela complète les futures initiatives de l’ONU, notamment les négociations en vue d’un pacte numérique mondial et le travail de l’organe consultatif de haut niveau du Secrétaire général sur l’intelligence artificielle », a-t-elle déclaré.
Ce n'est pas le premier accord international multiétatique sur l'IA
Le nouvel accord de l’ONU est peut-être le premier accord « mondial », dans le sens où tous les pays de l’ONU y participent, mais ce n’est pas le premier accord international multiétatique sur l’IA. Cet honneur semble revenir à la Déclaration de Bletchley signée en novembre par les 28 pays participant au premier sommet sur l'IA au Royaume-Uni. La France en fait partie.
Envoyé par Déclaration de Bletchley
Nous affirmons que, même si la sécurité doit être prise en compte tout au long du cycle de vie de l'IA, les acteurs développant des capacités d'IA de pointe, en particulier les systèmes d'IA qui sont inhabituellement puissants et potentiellement dangereux, ont une responsabilité particulièrement forte pour garantir la sécurité de ces systèmes d'IA, notamment par le biais de systèmes. pour des tests de sécurité, par le biais d'évaluations et d'autres mesures appropriées. Nous encourageons tous les acteurs concernés à assurer une transparence et une responsabilité adaptées au contexte concernant leurs plans visant à mesurer, surveiller et atténuer les capacités potentiellement nuisibles et les effets associés qui peuvent en résulter, en particulier pour prévenir les abus et les problèmes de contrôle, ainsi que l'amplification d'autres risques.
Dans le contexte de notre coopération et pour éclairer l’action aux niveaux national et international, notre programme de lutte contre les risques liés à l’IA aux frontières se concentrera sur :
Dans le contexte de notre coopération et pour éclairer l’action aux niveaux national et international, notre programme de lutte contre les risques liés à l’IA aux frontières se concentrera sur :
- identifier les risques de sécurité de l’IA d’intérêt commun, construire une compréhension scientifique et factuelle commune de ces risques et maintenir cette compréhension à mesure que les capacités continuent de croître, dans le contexte d’une approche mondiale plus large pour comprendre l’impact de l’IA dans nos sociétés.
- en élaborant des politiques respectives basées sur les risques dans nos pays pour garantir la sécurité à la lumière de ces risques, en collaborant le cas échéant tout en reconnaissant que nos approches peuvent différer en fonction des circonstances nationales et des cadres juridiques applicables. Cela comprend, outre une transparence accrue de la part des acteurs privés développant des capacités d’IA de pointe, des mesures d’évaluation appropriées, des outils de test de sécurité et le développement de capacités pertinentes du secteur public et de la recherche scientifique.
Sources : résolution des nations unies, FAQ ONU, Bletchley Declaration
Et vous ?
Quels sont les principaux avantages et risques de l’intelligence artificielle pour notre société ? Comment pouvons-nous garantir que l’utilisation de l’IA respecte les droits de l’homme et la vie privée ? Quelles mesures devraient être prises pour prévenir les abus potentiels de l’IA dans des domaines sensibles comme la surveillance ou l’armement ? De quelle manière les pays en développement peuvent-ils être soutenus pour accéder aux bénéfices de l’IA tout en évitant d’agrandir le fossé numérique ? Comment la coopération internationale peut-elle être renforcée pour réguler l’IA de manière équitable et inclusive ? Quel rôle les citoyens ordinaires devraient-ils jouer dans la gouvernance de l’IA ? 
