IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

La Maison Blanche lance un plan pour promouvoir l'IA éthique et demande l'aide des hackers pour détecter les failles des chatbots d'IA,
Elle prendra également l'avis des PDG des entreprises d'IA

Le , par Bill Fassinou

5PARTAGES

8  0 
La Maison Blanche a annoncé jeudi une batterie de mesures visant à promouvoir le développement d'une IA responsable. Elles comprennent un investissement de 140 millions de dollars de la National Science Foundation pour lancer sept nouveaux instituts nationaux de recherche sur l'IA (NAIR), ce qui portera à 25 le nombre total d'installations dédiées à l'IA dans le pays. La Maison Blanche soutiendra également un événement lors de la conférence Defcon cet été, qui mettra les experts au défi de découvrir les failles des systèmes d'IA génératifs. L'annonce a été faite quelques heures avant une réunion de la Maison Blanche avec des PDG de l'industrie.

Les chatbots d'IA - tels que ChatGPT, Bard et Claude - ont suscité de nouveaux espoirs quant au potentiel de l'IA, mais aussi de nouvelles craintes. L'IA générative peut potentiellement produire une série de nouveaux risques commerciaux tels que la désinformation, le plagiat, les violations de droits d'auteur et les contenus toxiques. Le manque de transparence et le risque de déplacement des travailleurs sont d'autres problèmes que les entreprises pourraient avoir à résoudre. Jeudi, l'administration Biden a décidé de se joindre au concert d'inquiétudes en annonçant qu'elle soutiendra un exercice de piratage de masse lors de la conférence sur la sécurité Defcon.

La conférence se tiendra cet été et l'initiative permettra de sonder les systèmes d'IA générative de Google, Microsoft, Nvidia, OpenAI et d'autres entreprises. Le bureau de la politique scientifique et technologique de la Maison-Blanche a également indiqué que 140 millions de dollars seraient consacrés au lancement de sept nouveaux instituts nationaux de recherche sur l'IA, axés sur le développement d'une IA éthique et transformatrice pour le bien public. L'Office of Management and Budget (OMB) a également indiqué jeudi qu'il publierait cet été un ensemble de règles sur la manière dont le gouvernement fédéral devrait utiliser la technologie de l'IA.


« Ces mesures s'appuient sur les solides antécédents de l'administration en matière de leadership pour garantir que la technologie améliore la vie du peuple américain, et ouvrent de nouvelles voies dans les efforts continus du gouvernement fédéral pour promouvoir une approche cohérente et complète des risques et des opportunités liés à l'IA », indique le communiqué de presse de l'administration. Le communiqué de la Maison Blanche ne précise pas les détails sur l'étude des chatbots d'IA cet été, mais indique que "cela permettra à ces modèles d'être évalués de manière approfondie par des milliers de partenaires communautaires et d'experts en IA".

Des points seront attribués pour encourager les participants à rechercher un large éventail de bogues ou de comportements répréhensibles de la part des systèmes d'IA. L'événement sera organisé en collaboration avec Microsoft, l'organisation à but non lucratif SeedAI, AI Vulnerability Database et Humane Intelligence, une association à but non lucratif créée par Rumman Chowdhury, spécialiste des données et des sciences sociales. Elle a auparavant dirigé un groupe de Twitter travaillant sur l'éthique et l'apprentissage automatique, et a organisé un concours qui a permis de découvrir des biais dans le recadrage automatique des photos sur le réseau social.

L'annonce a précédé une réunion de la Maison Blanche, dirigée par la vice-présidente Kamala Harris, avec les directeurs généraux d'Alphabet, d'Anthropic, de Microsoft et d'OpenAI pour discuter des risques de l'IA. « La réunion s'inscrit dans le cadre d'un effort plus large et continu pour s'engager avec les défenseurs, les entreprises, les chercheurs, les organisations de défense des droits civils, les organisations à but non lucratif, les communautés, les partenaires internationaux et d'autres sur les questions critiques liées à l'IA », indique le communiqué. La Maison Blanche estime que les entreprises ont le devoir d'aider à réduire les risques liés à l'IA.

L'intervention de la Maison Blanche dans le domaine de l'IA intervient alors que l'appétit pour une réglementation de cette technologie s'accroît dans le monde entier. Au sein du Parlement de l'Union européenne (UE), les législateurs négocient les dernières mises à jour d'une vaste loi sur l'IA qui restreindra, voire interdira, certaines utilisations de l'IA, en ajoutant notamment la couverture de l'IA générative. Les législateurs brésiliens envisagent également une réglementation visant à protéger les droits de l'homme à l'ère de l'IA générative. Le mois dernier, le gouvernement chinois a annoncé un projet de réglementation de l'IA générative.

L'UE pourrait introduire prochainement une réglementation très stricte en ce qui concerne le développement et le déploiement des chatbots d'IA. Selon des sources au fait du projet de loi, les nouvelles règles proposeraient d'obliger les fabricants de chatbots d'IA à révéler s'ils utilisent du matériel protégé par des droits d'auteur. Cela pourrait permettre aux créateurs de contenu de jouir d'une redevance de droit d'auteur. L'IA générative a donné lieu à de nombreuses plaintes en matière de violation de droit d'auteur et l'UE veut y mettre un terme. À mesure que la loi sur l'IA évolue, les chatbots pourraient faire l'objet d'une surveillance accrue par l'UE.

À Washington, la semaine dernière, le sénateur démocrate Michael Bennett a présenté un projet de loi visant à créer un groupe de travail sur l'IA chargé de protéger la vie privée et les droits civils des citoyens. Quatre agences américaines de régulation, dont la Federal Trade Commission et le ministère de la Justice, se sont engagées conjointement à utiliser les lois existantes pour protéger les droits des citoyens américains à l'ère de l'IA. Cette semaine, le bureau du sénateur démocrate Ron Wyden a confirmé son intention de tenter à nouveau de faire passer une loi appelée Algorithmic Accountability Act (loi sur la responsabilité des algorithmes).

Elle obligerait les entreprises à évaluer leurs algorithmes et à divulguer l'utilisation d'un système automatisé. Outre les entreprises qui développent l'IA à des fins lucratives, les agences fédérales des États-Unis ont du pain sur la planche en ce qui concerne leur propre utilisation de l'IA. Une étude réalisée en décembre 2022 par l'université de Stanford a révélé que pratiquement aucune agence fédérale n'a répondu favorablement à un décret de l'ancienne administration Trump visant à rendre publics les plans en matière d'IA et que seule la moitié d'entre elles ont partagé un inventaire de la manière dont elles utilisent l'IA.

Source : la Maison Blanche

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi

Les États-Unis commencent à étudier la possibilité de réglementer les systèmes d'IA comme ChatGPT pour garantir que ces technologies soient légales, efficaces, éthiques, sûres et dignes de confiance

Les États-Unis lancent une initiative sur l'utilisation de l'IA à des fins militaire, dans un contexte où la Chine ambitionne de devenir la super puissance du monde en matière d'IA

L'UE envisagerait des règles très strictes pour les chatbots dans le cadre de son projet de loi sur l'IA, elle devrait exiger la divulgation de l'utilisation du matériel protégé par le droit d'auteur

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de
https://www.developpez.com
Le 24/07/2023 à 17:56
Nul doute que "l'éthique judéo-chrétienne" a fait toute la différence à Hiroshima et Nagasaki.
23  1 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 25/07/2023 à 11:24
Ce qu'il y a de magnifique avec les USA, c'est qu'ils se donnent tous les droits qu'ils refusent aux autres:

  • Les Russes n'ont pas le droit de faire une guerre en Ukraine, mais les USA peuvent la faire en Afghanistan, en Irak, en Syrie, etc..
  • Le monde entier doit être soumis au tribunal international de la Haye qui condamne les crimes de guerre, mais pas les USA qui n'ont jamais reconnu cette institution pour eux et n'y ont jamais envoyé un criminel de guerre américain
  • Les USA condamnent les violations des droits humains dans les pays non-démocratiques, mais leur centre de détention de Guantánamo est devenu le symbole des violations de droits humains telles que la torture et la détention illégale
  • Les USA livrent pour des centaines de milliards des armes à l'Ukraine mais reprochent à la Chine de faire commerce avec la Russie
  • Les USA font pression sur les pays qu'ils considèrent être des paradis fiscaux, mais accueillent dans leur propres frontières les paradis fiscaux les plus efficaces du monde avec des états tels que le Delaware ou le Nevada, etc, etc, etc...


C'est tout même super d'être un pays avec une grande "éthique" morale...
16  1 
Avatar de pboulanger
Membre éprouvé https://www.developpez.com
Le 24/07/2023 à 17:06
Associer "armée", "américain" et "éthique" dans la même phrase est du délire. L'armée américaine a tué plus de gens depuis la fin de la seconde guerre mondiale que quiconque: ils ont même déclenché la guerre en Irak sur la base d'un mensonge. Et y mêler la religion c'est du délire *: les religions ont de tout temps servi d'excuses aux pires comportements: pour le christianisme on peut mettre les conversions forcées, les guerres saintes pour délivrer Jérusalem, les guerres contre les protestants, l'inquisition, etc...
Une IA développée par l'armée américaine c'est le loup dans la bergerie. La dernière en date pour détruire les radars ennemis a choisi de "tuer" le pilote humain qui l'empêchait d'accomplir sa mission et ça a été rapporté par un colonel américain...

L'enfer est pavé de bonnes intentions Et les armées (américaines ou non) ne sont pas animées par de bonnes intentions...
13  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 25/07/2023 à 7:59
Citation Envoyé par Mathis Lucas Voir le message
Un général trois étoiles de l'armée de l'air américaine a déclaré que l'approche adoptée par le Pentagone en matière d'IA est beaucoup plus conforme à l'éthique que celle des pays adversaires des États-Unis.
Je traduis : "notre IA est plus éthique parce qu'on est les gentils, CQFD".
Je suis fasciné, les guignols de l'info n'auraient pas osé le faire, l'armée US si.

Honnetement j'aimerais vivre dans leur monde, il est si simple.
Mon filleul de 4 ans sais construire un raisonnement plus complet que ces gens. Et ils se prétendent les sheriff du monde. Au secours.
« l'avenir de l'IA dans la guerre dépend de ceux qui respectent les règles de la guerre et ceux qui ne les respectent pas. Certaines sociétés ont des fondements très différents des nôtres ».
Et vous respectez les regles de la guerre?
En passant les pays adverses au napalm ou en déclarant la guerre à un pays sur base d'un mensonge que vous avez constuit de toute pièce.
Pardon j'oublais "Ce napalm et ce mensonge étaient éthiques parce que nous sommes les gentils, CQFD"
« Quelles que soient vos croyances, notre société est une société judéo-chrétienne et nous avons une boussole morale, mais ce n'est pas le cas de tout le monde. Ce n'est pas le cas de tout le monde. Et il y a ceux qui sont prêts à aller jusqu'au bout, quels que soient les moyens employés », a déclaré Moore.
Quelle belle autocritique, je suis ému.
Comment ils ne parlaient pas d'eux?
Ah bon ils parlaient des méchants Chinois et des méchants Russes (Bienvenue dans les vieux James Bond)? Pardon j'avais pas compris.
8  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 24/07/2023 à 17:33
Citation Envoyé par pboulanger Voir le message
Associer "armée", "américain" et "éthique" dans la même phrase est du délire. L'armée américaine a tué plus de gens depuis la fin de la seconde guerre mondiale que quiconque: ils ont même déclenché la guerre en Irak sur la base d'un mensonge. Et y mêler la religion c'est du délire *: les religions ont de tout temps servi d'excuses aux pires comportements: pour le christianisme on peut mettre les conversions forcées, les guerres saintes pour délivrer Jérusalem, les guerres contre les protestants, l'inquisition, etc...
Une IA développée par l'armée américaine c'est le loup dans la bergerie. La dernière en date pour détruire les radars ennemis a choisi de "tuer" le pilote humain qui l'empêchait d'accomplir sa mission et ça a été rapporté par un colonel américain...

L'enfer est pavé de bonnes intentions Et les armées (américaines ou non) ne sont pas animées par de bonnes intentions...
En même temps, ils ont dit "plus éthique que les autres", ce qui ne veux pas dire "éthique" (au royaume des aveugles, les borgnes sont rois).

De toutes les façons, la question n'est pas de savoir si une IA est éthique ou non mais si celui qui s'en sert, l'est. Et je ne connaît aucune armée au monde qui le soit...
7  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 26/07/2023 à 11:11
Citation Envoyé par Mathis Lucas Voir le message
À ce propos, le général a déclaré que l'approche des États-Unis en matière d'IA était plus éthique que celle de leurs adversaires parce qu'il s'agit d'une "société judéo-chrétienne".
L'expression judéo-chrétien est un oxymore.
Pierre Saba – Judéo-Chrétien? !
Plus qu’un double adjectif, « judéo-chrétien » est un oxymore. Cet assemblage que tout oppose ne résiste ni à la synthèse, ni à l’analyse.

Il n’est d’élément historique, sociologique, géographique, qui soit « judéo-chrétien ».
Pour la blague j'ai envie de dire "elle était où l'influence juive quand ils étaient expulsés ?".
Expulsion des Juifs
Les expulsions de Juifs sont un élément récurrent et caractéristique de leur histoire.
Citation Envoyé par Mathis Lucas Voir le message
Quel est votre avis sur le sujet ?
Beaucoup d'individus pensent que leur société est la plus éthique.
Si tu demandes à quelqu'un qui a du pouvoir en Arabie Saoudite, il va dire que la charia c'est tip top, que sa civilisation est la meilleure.
Si tu demandes à Benyamin Netanyahou, il va dire que les juifs sont supérieurs aux autres humains.

Dans l'histoire des USA la religion chrétienne a eu beaucoup d'influence.
Le président élu n'est pas obligé de jurer sur la bible, pourtant certains le font.

Bon après c'est n'importe d'utiliser la religion pour justifier des guerres, comme ça par exemple :
George W. Bush parle avec Dieu
“C’est Dieu qui m’a ordonné de mettre fin à la tyrannie en Irak”, aurait déclaré en 2003 George W. Bush, quatre mois après l’invasion. Selon la BBC, le président américain s’exprimait devant une délégation palestinienne lors d’un sommet israélo-palestinien en Egypte. Lors de ce discours, George W. Bush annonçait aussi : “Dieu m’a dit : ‘George, va combattre ces terroristes en Afghanistan’.” Et Dieu aurait ajouté : “Va donner aux Palestiniens un Etat et la paix aux Israéliens, et donne la paix au Proche-Orient.”
7  0 
Avatar de Vilanelle
Nouveau membre du Club https://www.developpez.com
Le 26/07/2023 à 11:51
Dormez braves gens, les USA sont les protecteurs de la liberté, la paix c'est la guerre.
7  0 
Avatar de sergio_is_back
Expert confirmé https://www.developpez.com
Le 26/07/2023 à 13:40
Visiblement être général n'empêche pas d'être un con !!!
7  0 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 04/05/2023 à 20:07
la maison blanche qui s'inquiete alors que son armée developpe les pire arme dopée a l'IA... l'hyocrysie us a encore de beau jours devant elle
6  0 
Avatar de Leruas
Membre éclairé https://www.developpez.com
Le 24/07/2023 à 23:23
Les dirigeants de Lockheed Martin pensent la même chose j'imagine ?
6  0