IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'ONU adopte la première résolution mondiale sur l'IA, appelant à la création d'un cadre réglementaire
Pour que l'IA soit utilisée de manière à respecter la vie privée et à prévenir les abus

Le , par Stéphane le calme

18PARTAGES

9  1 
L'Assemblée générale des Nations Unies a adopté jeudi à l'unanimité la première résolution mondiale sur l'intelligence artificielle qui encourage les pays à sauvegarder les droits de l'homme, à protéger les données personnelles et à surveiller les risques liés à l'IA. La résolution non contraignante, proposée par les États-Unis et co-parrainée par la Chine et plus de 120 autres pays, préconise également le renforcement des politiques de confidentialité. « Aujourd'hui, les 193 membres de l'Assemblée générale des Nations Unies ont parlé d'une seule voix et ont choisi ensemble de gouverner l'intelligence artificielle plutôt que de la laisser nous gouverner », a déclaré l'ambassadrice des États-Unis auprès des Nations Unies, Linda Thomas-Greenfield.

La résolution appelle les États membres à collaborer pour créer un cadre réglementaire qui garantisse que l’IA sera utilisée de manière à respecter la vie privée, à promouvoir la sécurité et à prévenir les abus. Elle encourage également le partage des connaissances et des meilleures pratiques en matière d’IA entre les nations, afin de réduire le fossé numérique et de favoriser une croissance inclusive.

Étant un accord non contraignant et donc sans effet, la résolution semble largement populaire dans l’industrie de l’IA. Sur X, le vice-président et président de Microsoft, Brad Smith, a écrit : « Nous soutenons pleinement l'adoption par l'ONU de la résolution globale sur l'IA. Le consensus atteint aujourd'hui marque une étape cruciale vers l'établissement de garde-fous internationaux pour le développement éthique et durable de l'IA, garantissant que cette technologie répond aux besoins de chacun. »

La résolution, intitulée « Saisir les opportunités offertes par des systèmes d'intelligence artificielle sûrs, sécurisés et fiables pour le développement durable », est le résultat de trois mois de négociations, et les parties prenantes impliquées semblent satisfaites du niveau de coopération internationale. « Nous naviguons sur des eaux agitées avec une technologie en évolution rapide, ce qui signifie qu'il est plus important que jamais de naviguer à la lumière de nos valeurs », a déclaré un haut responsable de l'administration américaine, soulignant l'importance de cette « première document de consensus véritablement mondial sur l'IA ».

À l'ONU, l'adoption par consensus signifie que tous les membres conviennent d'adopter la résolution sans vote. « Le consensus est atteint lorsque tous les États membres s'accordent sur un texte, mais cela ne signifie pas qu'ils sont tous d'accord sur chaque élément d'un projet de document », écrit l'ONU dans une FAQ trouvée en ligne. « Ils peuvent accepter d'adopter un projet de résolution sans vote, mais avoir néanmoins des réserves sur certaines parties du texte ».


Plusieurs gouvernements dans le monde s'intéressent à l'impact des IA depuis le boom de l'IA générative avec ChatGPT

L'initiative s'inscrit dans une série d'efforts déployés par les gouvernements du monde entier pour influencer la trajectoire de développement de l'IA suite au lancement de ChatGPT et de GPT-4, et à l'énorme battage médiatique suscité par certains membres de l'industrie technologique lors d'une campagne publique mondiale menée l'année dernière. Les critiques craignent que l’IA puisse saper les processus démocratiques, amplifier les activités frauduleuses ou contribuer à d’importantes suppressions d’emplois, entre autres problèmes. La résolution vise à faire face aux dangers associés à l’application irresponsable ou malveillante des systèmes d’IA, qui, selon l’ONU, pourraient mettre en danger les droits de l’homme et les libertés fondamentales.

La résistance de pays comme la Russie et la Chine était attendue, et les responsables américains ont reconnu la présence de « beaucoup de conversations animées » au cours du processus de négociation. Cependant, ils ont également souligné un engagement réussi avec ces pays et d’autres généralement en désaccord avec les États-Unis sur diverses questions, en se mettant d’accord sur un projet de résolution qui cherchait à maintenir un équilibre délicat entre la promotion du développement et la sauvegarde des droits de l’homme.

Les conclusions de l'ONU

L’Assemblée générale a également reconnu le potentiel des systèmes d’IA pour accélérer et permettre les progrès vers la réalisation des 17 objectifs de développement durable. C'est la première fois que l'Assemblée adopte une résolution sur la réglementation de ce domaine émergent. Le conseiller américain à la sécurité nationale aurait déclaré plus tôt ce mois-ci que l’adoption représenterait un « pas en avant historique » pour une utilisation sûre de l’IA.

Mêmes droits, en ligne et hors ligne

L’Assemblée a appelé tous les États membres et parties prenantes « à s’abstenir ou à cesser d’utiliser des systèmes d’intelligence artificielle qui sont impossibles à exploiter conformément au droit international des droits de l’homme ou qui présentent des risques indus pour la jouissance des droits de l’homme ». « Les mêmes droits dont jouissent les personnes hors ligne doivent également être protégés en ligne, y compris tout au long du cycle de vie des systèmes d’intelligence artificielle », affirme-t-elle.

L’Assemblée a également exhorté tous les États, le secteur privé, la société civile, les organismes de recherche et les médias à élaborer et à soutenir des approches et des cadres de réglementation et de gouvernance liés à une utilisation sûre, sécurisée et fiable de l’IA.

Réduire la fracture numérique

L'Assemblée a en outre reconnu les « niveaux variables » de développement technologique entre et au sein des pays, et que les pays en développement sont confrontés à des défis uniques pour suivre le rythme rapide de l'innovation. Elle a exhorté les États membres et les parties prenantes à coopérer avec les pays en développement et à les soutenir afin qu’ils puissent bénéficier d’un accès inclusif et équitable, réduire la fracture numérique et accroître la culture numérique.

Espoir pour d'autres secteurs

S'exprimant avant l'adoption, Linda Thomas-Greenfield, ambassadrice et représentante permanente des États-Unis auprès de l'ONU, a présenté le projet de résolution.

Elle a exprimé l’espoir que « le dialogue inclusif et constructif qui a conduit à cette résolution servirait de modèle pour les conversations futures sur les défis de l’IA dans d’autres domaines, par exemple en ce qui concerne la paix et la sécurité et l’utilisation militaire responsable de l’autonomie de l’IA ».

Mme Thomas-Greenfield a noté que la résolution visait à amplifier le travail déjà effectué par l'ONU, notamment l'Union internationale des télécommunications (UIT), l'Organisation des Nations Unies pour l'éducation, la science et la culture (UNESCO) et le Conseil des droits de l'homme.

« Nous souhaitons que cela complète les futures initiatives de l’ONU, notamment les négociations en vue d’un pacte numérique mondial et le travail de l’organe consultatif de haut niveau du Secrétaire général sur l’intelligence artificielle », a-t-elle déclaré.


Ce n'est pas le premier accord international multiétatique sur l'IA

Le nouvel accord de l’ONU est peut-être le premier accord « mondial », dans le sens où tous les pays de l’ONU y participent, mais ce n’est pas le premier accord international multiétatique sur l’IA. Cet honneur semble revenir à la Déclaration de Bletchley signée en novembre par les 28 pays participant au premier sommet sur l'IA au Royaume-Uni. La France en fait partie.

Citation Envoyé par Déclaration de Bletchley
Nous affirmons que, même si la sécurité doit être prise en compte tout au long du cycle de vie de l'IA, les acteurs développant des capacités d'IA de pointe, en particulier les systèmes d'IA qui sont inhabituellement puissants et potentiellement dangereux, ont une responsabilité particulièrement forte pour garantir la sécurité de ces systèmes d'IA, notamment par le biais de systèmes. pour des tests de sécurité, par le biais d'évaluations et d'autres mesures appropriées. Nous encourageons tous les acteurs concernés à assurer une transparence et une responsabilité adaptées au contexte concernant leurs plans visant à mesurer, surveiller et atténuer les capacités potentiellement nuisibles et les effets associés qui peuvent en résulter, en particulier pour prévenir les abus et les problèmes de contrôle, ainsi que l'amplification d'autres risques.

Dans le contexte de notre coopération et pour éclairer l’action aux niveaux national et international, notre programme de lutte contre les risques liés à l’IA aux frontières se concentrera sur :
  • identifier les risques de sécurité de l’IA d’intérêt commun, construire une compréhension scientifique et factuelle commune de ces risques et maintenir cette compréhension à mesure que les capacités continuent de croître, dans le contexte d’une approche mondiale plus large pour comprendre l’impact de l’IA dans nos sociétés.
  • en élaborant des politiques respectives basées sur les risques dans nos pays pour garantir la sécurité à la lumière de ces risques, en collaborant le cas échéant tout en reconnaissant que nos approches peuvent différer en fonction des circonstances nationales et des cadres juridiques applicables. Cela comprend, outre une transparence accrue de la part des acteurs privés développant des capacités d’IA de pointe, des mesures d’évaluation appropriées, des outils de test de sécurité et le développement de capacités pertinentes du secteur public et de la recherche scientifique.
En novembre également, les États-Unis, la Grande-Bretagne et d’autres pays ont dévoilé un accord axé sur la création de systèmes d’IA « sécurisés dès leur conception » pour se protéger contre toute utilisation abusive par des acteurs malhonnêtes. L’Europe progresse lentement vers des accords provisoires pour réglementer l’IA et est sur le point de mettre en œuvre la première réglementation globale sur l’IA au monde. Pendant ce temps, le gouvernement américain manque toujours de consensus sur l’action législative liée à la réglementation de l’IA, l’administration Biden préconisant des mesures visant à atténuer les risques liés à l’IA tout en renforçant la sécurité nationale.

Sources : résolution des nations unies, FAQ ONU, Bletchley Declaration

Et vous ?

Quels sont les principaux avantages et risques de l’intelligence artificielle pour notre société ?
Comment pouvons-nous garantir que l’utilisation de l’IA respecte les droits de l’homme et la vie privée ?
Quelles mesures devraient être prises pour prévenir les abus potentiels de l’IA dans des domaines sensibles comme la surveillance ou l’armement ?
De quelle manière les pays en développement peuvent-ils être soutenus pour accéder aux bénéfices de l’IA tout en évitant d’agrandir le fossé numérique ?
Comment la coopération internationale peut-elle être renforcée pour réguler l’IA de manière équitable et inclusive ?
Quel rôle les citoyens ordinaires devraient-ils jouer dans la gouvernance de l’IA ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Pierre Louis Chevalier
Expert éminent sénior https://www.developpez.com
Le 05/06/2024 à 15:55
Citation Envoyé par Anselme45 Voir le message
Pour s'en convaincre, il suffit de lire les news de ce site: La majorité des news traitent maintenant de l'IA... Apparemment les autres technologies numériques ne sont plus dignes d'intérêt
C'est archifaux. Oui il y a sur developpez un tas de news sur l'IA mais c'est parfaitement normal, ça nous concerne, aussi bien les développeurs que les autres informaticiens.

Il n'en reste pas moins que developpez est quasiment le seul et unique site francophone qui passe aussi un tas de news sur l'actualité de la programmation, les nouvelles versions des langages, les nouvelles sorties des EDI (Jetbrains, Microsoft, Embarcadero, ...) , etc. Et c'est surtout devenu le "Médiapart/Canard enchainé" de l'informatique avec toutes les news à scandales sur HP, Microsoft, Google, etc. Exemple l'énorme scandale sur les imprimantes HP avec des centaines de commentaires, et quel rapport avec l'IA ? aucun... D 'ailleurs toi même tu viens de répondre à un sujet à scandale n'ayant rien à voir avec l'IA, à savoir : Google peut garder votre téléphone si vous l’envoyez en réparation avec des pièces qui ne sont pas d’origine

Regarde les rubriques programmation et EDI au lieu de dire n'importe quoi, et il y a toujours une colonne droite avec des tutoriels programmation et IT Pro, des articles gratuits alors que c'est devenu payant ailleurs (Udemy, Elephorm, etc). Developpez est devenu le meilleur site sur francophonie sur l'IA, mais il reste toujours le meilleur site pour les développeurs et même l'IT Pro, c'est bien simple il n'y en a pas d'autre de valables....
7  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 03/06/2024 à 22:27
Citation Envoyé par Mathis Lucas Voir le message
Que pensez-vous du lobbying intense des entreprises d'IA pour contrecarrer les initiatives visant à réglementer l'IA ?
On le voit déjà au niveau des news sur tous les sites et tous les canaux. On essaye de nous vendre de force un truc assez moyen, comme LA panacée.

En général, plus il y a de pub pour un produit, et plus il y a de chances qu'ils soit très mauvais.

Là, on a en plus des lobbyistes qui illustrent le capitalisme non-régulé dans toute sa splendeur, ou comment les plus riches sont capables de faire plier des gouvernements, par la corruption légale qu'est le lobbyisme. On le voit au niveau des entreprises et des communes ici: des avocats de l'IA (et juste avant c'était ceux du cloud des GAFAM) qui organisent des évènements avec les repas, parfois des cadeaux, des ateliers qui sont de la pub grossièrement déguisée, etc.

Bref, rien de neuf: le commercial qui fait sa danse du ventre, et le pigeon qui tombe dans le panneau.
6  0 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 10/04/2024 à 8:28
Je n'ai pas très bien compris ce qui était mesuré pour définir que l'IA émet moins de CO2 qu'un humain pour écrire une page.

Est-ce que l'empreinte carbone des datas center servant à l'IA pour produire sa page est comptée ou non ? Si c'est juste l'empreinte carbone pour l'écriture finale, c'est-à-dire le "pouillème" final, alors l'étude est biaisée.
5  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 24/03/2024 à 11:22
Et comme pour le 99,9% des résolutions de l'ONU, strictement personne n'en tiendra compte!
4  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 05/06/2024 à 11:19
Citation Envoyé par Anselme45 Voir le message
La majorité des news traitent maintenant de l'IA...
C'est de la faute de l'industrie et non pas des rédacteurs d'actualités.
C'est comme avec Elon Musk, les médias écrivent un article par jour à son sujet donc ça atterrît ici aussi.
Les visiteurs ont le choix de lire les articles qu'ils veulent, il est possible d'ignorer toutes les actualités liées à l'IA si on le souhaite.

L'IA sera peut-être puissante dans 20 ans, j'espère que dans ces 20 ans l'IA ne restera pas le sujet principal dans le monde de la technologie.
Beaucoup de gens doivent être lassés par toutes ces actualités en rapport avec l'IA, les médias mainstream en parlent beaucoup.
Mais après ils ont peut-être raison d'en parler, l'IA pourrait devenir quelque chose d'extrêmement dangereux et avoir des conséquences dramatique sur le monde. Elle va peut-être vraiment prendre le travail de beaucoup de gens, qui vont se retrouver dans la pauvreté, parce qu'ils ne retrouveront plus de travail et n'auront plus de revenu.

Citation Envoyé par Mathis Lucas Voir le message
Pour ce faire, elles ont embauché une importante armée de lobbyistes chargés d'influencer les décideurs politiques et les gouvernements à travers le monde afin qu'ils adoptent des règles "laxistes" au détriment de l'intérêt général. Ils ont déjà réussi à court-circuiter le vote de nombreuses lois sur l'IA ou à façonner certaines législations.
C'est dingue que ces lobbystes arrivent à corrompre autant de décideurs politiques et de gouvernements à travers le monde.

On pourrait presque se dire que les politiciens sont tous pourris.
4  0 
Avatar de der§en
Membre éprouvé https://www.developpez.com
Le 02/08/2024 à 7:19
Petit pastiche d’une citation de Georges Clemenceau:

L’Europe est un continent extrêmement fertile : on y plante des fonctionnaires non élus et il y pousse des règlements abscons !
3  0 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 10/04/2024 à 8:01
Citation Envoyé par Jade Emy Voir le message
Il est essentiel de se pencher sur le type d'impact environnemental que l'IA peut finir par avoir. Cependant, il s'avère que l'IA pourrait en fait produire moins d'émissions de carbone que les humains, ce qui la rendrait plus durable. L'IA émet des centaines de fois moins de gaz à effet de serre que l'homme lorsqu'il s'agit d'écrire et de créer des images.
C'est une analyse intéressante mais est ce que ça veut dire qu'utiliser une IA émet moins de carbone qu'utiliser une personne?
Non, pour une raison simple:
Quand la personne travaille et pas l'IA, l'IA n'émet rien
Quand l'IA travaille et pas la personne, la personne émet toujours.
Donc il faudrait comparer le surplus d'émission de la personne quand elle travaille à l'IA.
Les autres facteurs sont nombreux :
L'IA produit (probablement) peu de carbone quand elle travaille parce qu'elle est plus rapide que l'homme mais combien émet son apprentissage?
L'IA nécessite une revue de son travail plus importante que la personne donc combien émet la différence de revue?
Combien d'IA différente faut il pour remplacer toutes les taches d'une personne?
Et je n'ai pas encore parlé de l'apport social d'une personne...

Pensez-vous que cette étude est crédible ou pertinente ?
L'étude en tant que telle à l'air crédible (faite de façon honnête et rigoureuse) par contre le but de celle ci me parait beaucoup moins pertinent.
Quelle conclusion tirer? Qu'il faut faire travailler les IA plutôt que les personnes pour l'édition? Ce n'est pas ce que disent les chercheurs, c'est pourtant ce que nous lisons.
Qui a financer cette étude? Dans quel but? Avec ces réponses nous aurons peut être une clarification de sa pertinence.
On sait que l'un des auteur détient des actions chez NVIDIA mais je n'ai rien trouvé chez le financeur.
Quel est votre avis sur le sujet ?
L'IA n'a rien d'écologique parce qu'elle ajoute de la production de carbone à la production humaine, attaquer la question par cet angle est absurde. (A moins que l'on décide de "faire disparaitre" les personnes qui deviennent "inutiles" mais on dérive vers des gros problèmes éthiques).
Par contre l'IA a d'autres avantages qui méritent d'être étudiés.

Des gens essayent d'aborder les sujets de façon "rationnelle" en ce moment pour transformer des solutions plus ou moins absurdes en bon sens.
La Science n'apporte pas toujours les bonnes réponses aux problèmes parce qu'elle ignore les sciences humaines ou l'éthique.
Pourtant il me semble qu'Asimov nous avait déjà prévenu que cette méthode ne fonctionnait pas.
2  0 
Avatar de OrthodoxWindows
Membre expert https://www.developpez.com
Le 04/06/2024 à 0:31
Citation Envoyé par kain_tn Voir le message
On le voit déjà au niveau des news sur tous les sites et tous les canaux. On essaye de nous vendre de force un truc assez moyen, comme LA panacée.

En général, plus il y a de pub pour un produit, et plus il y a de chances qu'ils soit très mauvais.

Là, on a en plus des lobbyistes qui illustrent le capitalisme non-régulé dans toute sa splendeur, ou comment les plus riches sont capables de faire plier des gouvernements, par la corruption légale qu'est le lobbyisme. On le voit au niveau des entreprises et des communes ici: des avocats de l'IA (et juste avant c'était ceux du cloud des GAFAM) qui organisent des évènements avec les repas, parfois des cadeaux, des ateliers qui sont de la pub grossièrement déguisée, etc.

Bref, rien de neuf: le commercial qui fait sa danse du ventre, et le pigeon qui tombe dans le panneau.
Il y a eu le métavers dernièrement, mais ça à foiré (comme tout le monde l'avais prévu ici).
2  0 
Avatar de Fluxgraveon
Membre habitué https://www.developpez.com
Le 04/06/2024 à 10:56
Qu'y a-t-il de plus effrayant que l'IA incontrôlée ?
Les humains
2  0 
Avatar de Fluxgraveon
Membre habitué https://www.developpez.com
Le 02/08/2024 à 10:06
La Commission se prépare également à relancer ses investissements dans l'IA, avec une injection d'un milliard d'euros en 2024 et jusqu'à 20 milliards d'euros d'ici 2030.
Ridicule.
2  0