Le secrétaire général de l’ONU, Antonio Guterres, a soutenu lundi une proposition de certains dirigeants de l’intelligence artificielle pour la création d’un organe de surveillance international de l’IA comme l’Agence internationale de l’énergie atomique (AIEA).António Guterres a déclaré qu'un tel modèle pourrait être « très intéressant », mais a noté que « seuls les États membres peuvent le créer, pas le Secrétariat des Nations Unies ». L'AIEA, basée à Vienne, a été créée en 1957 et promeut l'utilisation sûre, sécurisée et pacifique des technologies nucléaires tout en surveillant d'éventuelles violations du Traité de non-prolifération (TNP). Elle compte 176 États membres.
La prolifération de la haine et des mensonges sur les plateformes numériques et la menace que l'intelligence artificielle puisse devenir un « monstre » incontrôlé exigent une action mondiale coordonnée, à commencer par un code de conduite pour les gouvernements, les entreprises technologiques et les annonceurs qui promeut la vérité et protège les droits de l'homme, selon une déclaration du secrétaire général de l'ONU.
Antonio Guterres a déclaré qu'il prévoyait de nommer un conseil consultatif scientifique dans quelques jours et un conseil consultatif sur l'intelligence artificielle en septembre pour préparer les initiatives que l'ONU pourrait prendre. Il a déclaré qu'il réagirait favorablement à une nouvelle agence de l'ONU sur l'intelligence artificielle et a suggéré comme modèle l'Agence internationale de l'énergie atomique, qui est basée sur la connaissance et dispose de certains pouvoirs de réglementation.
Guterres a déclaré lors d'une conférence de presse qu'il prévoyait de mener de larges consultations sur les principes du Code de conduite des Nations Unies pour l'intégrité de l'information sur les plateformes numériques, qu'il publiera avant le Sommet de l'avenir des Nations Unies de l'année prochaine.
Il a exprimé l'espoir que le code sera largement soutenu, mais lorsqu'on lui a demandé si les gouvernements et les entreprises technologiques étaient disposés à prendre des mesures pour rendre l'espace numérique plus sûr, il a répondu : « C'est la question que je me pose ».
« Nous avons affaire à une entreprise qui génère des profits énormes, et nous avons aussi affaire dans certaines situations à des gouvernements qui ne respectent pas entièrement les droits de l'homme, c'est donc une bataille constante - et dans cette bataille constante, nous devons mobiliser tous ceux qui sont attachés à l'intégrité de l'information sur les plateformes numériques », a-t-il déclaré.
Heidi Beirich, cofondatrice du Projet mondial contre la haine et l'extrémisme, a convenu que même si c'est une étape positive que l'ONU appelle à des solutions internationales à ce problème mondial, son code de conduite ne sera probablement pas suffisant pour arrêter le torrent d'informations fausses et haineuses en ligne.
« Le fait est que les codes volontaires, y compris les propres conditions de service des entreprises sur ces questions, n'ont pas réussi à les maîtriser », a déclaré Beirich. « Le problème pour l'ONU est qu'ils ne peuvent pas faire ce qu'il semble devoir faire pour régler ce problème, qui est essentiellement une législation ».
Guterres a déclaré que de nombreuses initiatives étaient en cours, notamment une loi et un code de conduite dans l'Union européenne pour ses 27 pays membres et un sommet britannique sur la sécurité de l'IA à l'automne. D'autres gouvernements étudient également des formes de réglementation. Mais il a dit qu'il y a une opinion selon laquelle la réglementation n'est pas facile parce que les choses évoluent très rapidement, et qu'une approche globale est donc nécessaire.
Guterres a déclaré qu'un problème clé est que le modèle commercial de l'entreprise technologique donne la priorité à l'engagement plutôt qu'à la confidentialité, à la vérité et aux droits de l'homme. Il a déclaré que les entreprises technologiques doivent comprendre que des profits massifs ne peuvent être créés « au détriment d'un modèle d'engagement qui passe avant toute autre considération ».
Le chef de l'ONU a déclaré que le code de conduite ne sera pas une solution, « mais il sera mondial » et il permettra aux gouvernements, aux entreprises technologiques, aux annonceurs et autres « de s'engager sur ce qui doit être fait pour garantir ou au moins pour promouvoir sérieusement l'intégrité de l'information sur les plateformes numériques ».
Le secrétaire général de l'ONU, Antonio Guterres
Discours du secrétaire général de l'ONU
Les nouvelles technologies évoluent à une vitesse fulgurante, tout comme les menaces qui les accompagnent. Les sonnettes d'alarme concernant la dernière forme d'intelligence artificielle (IA) - l'IA générative - sont assourdissantes, et elles sont plus fortes de la part des développeurs qui l'ont conçue. Ces scientifiques et experts ont appelé le monde à agir, déclarant l'IA comme une menace existentielle pour l'humanité au même titre que le risque de guerre nucléaire.
Nous devons prendre ces avertissements au sérieux. Notre proposition de Pacte numérique mondial, Nouvel agenda pour la paix et Accord sur la gouvernance mondiale de l'IA offrira des solutions multilatérales fondées sur les droits de l'homme.
Mais l'avènement de l'IA générative ne doit pas nous distraire des dommages que la technologie numérique cause déjà à notre monde. La prolifération de la haine et des mensonges dans l'espace numérique cause de graves dommages à l'échelle mondiale - maintenant. Elle alimente les conflits, la mort et la destruction - maintenant. Elle menace la démocratie et les droits de l'homme — maintenant. Cela sape la santé publique et l'action climatique - maintenant.
Lorsque les médias sociaux ont émergé il y a une génération, les plateformes numériques ont été adoptées comme de nouvelles façons passionnantes de se connecter. Et, en effet, ils ont soutenu les communautés en temps de crise, élevé les voix marginalisées et aidé à mobiliser les mouvements mondiaux pour la justice raciale et l'égalité des sexes. Les plateformes de médias sociaux ont aidé les Nations Unies à impliquer les gens du monde entier dans notre quête de paix, de dignité et de droits de l'homme sur une planète saine. Mais aujourd'hui, cette même technologie est souvent une source de peur, pas d'espoir.
Les plateformes numériques sont utilisées à mauvais escient pour subvertir la science et propager la désinformation et la haine à des milliards de personnes. Certaines de nos propres missions de maintien de la paix et opérations d'aide humanitaire des Nations Unies ont été ciblées, ce qui rend leur travail encore plus dangereux.
Cette menace mondiale claire et actuelle exige une action mondiale claire et coordonnée.
Notre note d'orientation sur l'intégrité de l'information sur les plateformes numériques propose un cadre pour une réponse internationale [concertée]. Ses propositions visent à créer des garde-fous pour aider les gouvernements à se rassembler autour de lignes directrices qui promeuvent les faits, tout en exposant les complots et les mensonges et en sauvegardant la liberté d'expression et d'information. Et pour aider les entreprises technologiques à résoudre des problèmes éthiques et juridiques difficiles et à construire des modèles commerciaux basés sur un écosystème d'informations sain.
Les gouvernements ont parfois eu recours à des mesures drastiques - y compris des fermetures et des interdictions générales d'Internet - qui n'ont aucune base légale et enfreignent les droits de l'homme. Partout dans le monde, certaines entreprises technologiques ont fait beaucoup trop peu, trop tard pour empêcher leurs plateformes de contribuer à la violence et à la haine.
Les recommandations de ce mémoire visent à rendre l'espace numérique plus sûr et plus inclusif tout en protégeant vigoureusement les droits de l'homme.
Ils éclaireront un Code de conduite des Nations Unies pour l'intégrité de l'information sur les plateformes numériques que nous développons avant le Sommet du futur de l'année prochaine. Le Code de conduite sera un ensemble de principes que nous espérons que les gouvernements, les plateformes numériques et les autres parties prenantes appliqueront volontairement.
Les propositions contenues dans cette note d'orientation, en préparation du Code de conduite, incluent :
- un engagement des gouvernements, des entreprises technologiques et d'autres parties prenantes à s'abstenir d'utiliser, de soutenir ou d'amplifier la désinformation et les discours de haine à quelque fin que ce soit ;
- un engagement des gouvernements à garantir un paysage médiatique libre, viable, indépendant et pluriel, avec de solides protections pour les journalistes ;
- l'application cohérente de politiques et de ressources par les plateformes numériques du monde entier pour éliminer les doubles standards qui permettent aux discours de haine et à la désinformation de prospérer dans certaines langues et certains pays, alors qu'ils sont empêchés plus efficacement dans d'autres ;
- des protocoles convenus pour une réponse rapide des gouvernements et des plateformes numériques lorsque les enjeux sont les plus importants - en période de conflit et de fortes tensions sociales ;
- et un engagement des plateformes numériques pour s'assurer que tous les produits tiennent compte de la sécurité, de la confidentialité et de la transparence.
Cela comprend des mesures urgentes et immédiates pour garantir que toutes les applications d'IA sont sûres, sécurisées, responsables et éthiques, et conformes aux obligations en matière de droits de l'homme.
Le mémoire propose que les entreprises technologiques s'engagent à s'éloigner des modèles commerciaux préjudiciables qui privilégient l'engagement au-dessus des droits de l'homme, de la vie privée et de la sécurité. Il suggère que les annonceurs - qui sont profondément impliqués dans la monétisation et la diffusion de contenus préjudiciables - devraient assumer la responsabilité de l'impact de leurs dépenses. Il reconnaît la nécessité d'un changement fondamental dans les structures d'incitation.
La désinformation et la haine ne doivent pas générer une exposition maximale et des profits massifs.
Le mémoire suggère que les utilisateurs - y compris les jeunes qui sont particulièrement vulnérables - devraient avoir plus d'influence sur les décisions politiques, et il propose que les plateformes numériques s'engagent en faveur de la transparence des données. Les utilisateurs doivent pouvoir accéder à leurs propres données. Les chercheurs devraient avoir accès aux vastes quantités de données générées par les plateformes numériques, tout en respectant la vie privée des utilisateurs.
J'espère que cette note d'orientation sera une contribution utile aux discussions en amont du Sommet du futur.
Nous comptons sur un large engagement et des contributions solides de toutes les parties prenantes alors que nous travaillons à l'élaboration d'un code de conduite des Nations Unies pour l'intégrité de l'information sur les plateformes numériques.
Nous n'avons pas un instant à perdre et je vous remercie de votre attention et de votre présence.
Source : ONU
Et vous ?
Que pensez-vous de l’idée d’un organe de surveillance mondial de l’IA comme l’agence nucléaire ? Quels sont les principaux défis et opportunités liés à la gouvernance de l’IA ? Quel rôle l’ONU peut-elle jouer pour promouvoir une utilisation éthique et responsable de l’IA ? 
Envoyé par Mathis Lucas
