Le président Joe Biden a signé lundi un décret de grande envergure sur l'intelligence artificielle, ouvrant la voie à certaines réglementations industrielles et au financement du gouvernement américain pour qu'il investisse davantage dans cette technologie. Le décret est vaste et ses objectifs vont des droits civils aux réglementations industrielles, en passant par une vague d'embauches au sein du gouvernement.Lors d'une conférence de presse organisée dimanche pour présenter le décret, un haut fonctionnaire de la Maison-Blanche, qui a demandé à ne pas être nommé en raison des conditions de la conférence, a déclaré que l'IA avait tellement de facettes qu'une réglementation efficace devait couvrir un large éventail de domaines.
"La politique en matière d'IA, c'est comme un décathlon, avec dix épreuves différentes", a déclaré le haut fonctionnaire. "Et nous n'avons pas le luxe de nous contenter de choisir "nous allons nous contenter de la sécurité" ou "nous allons nous contenter de l'équité" ou "nous allons nous contenter de la protection de la vie privée". Il faut tenir compte de tous ces aspects".
Le fonctionnaire a également appelé à une "législation bipartisane significative" pour faire progresser les intérêts du pays en matière d'IA. Le chef de la majorité au Sénat, Chuck Schumer (D-N.Y.), a organisé en septembre un forum privé avec des chefs d'entreprise, mais il n'a pas encore présenté de législation significative sur l'IA.
Le décret s'appuie en partie sur un accord non contraignant conclu en juillet par sept des principales entreprises technologiques américaines qui développent l'IA, comme l'embauche d'experts extérieurs pour rechercher les faiblesses de leurs systèmes et le partage de leurs conclusions critiques. Le décret s'appuie sur la loi sur la production de défense pour obliger légalement ces entreprises à partager les résultats des tests de sécurité avec le gouvernement fédéral. Il charge également le ministère du commerce d'élaborer des orientations sur le "filigrane" des contenus d'IA, afin de montrer clairement que les vidéos "deepfaked" ou les essais générés par ChatGPT n'ont pas été créés par des humains.
Le décret prévoit également le financement de nouvelles recherches en matière d'IA et une augmentation du nombre d'embauches dans ce domaine au niveau fédéral. La Maison Blanche a lancé un site web correspondant pour mettre en relation les demandeurs d'emploi et les emplois gouvernementaux dans le domaine de l'IA : AI.gov.
Fei-Fei Li, codirecteur de l'Institute for Human-Centered Artificial Intelligence de Stanford, a déclaré dans une interview que le financement public était essentiel pour que l'IA puisse s'attaquer aux principaux problèmes humains. "Le secteur public offre une opportunité unique en termes de données et de talents interdisciplinaires pour guérir le cancer, soigner les maladies rares, cartographier la biodiversité à l'échelle mondiale, comprendre et prédire les incendies de forêt, trouver des solutions au problème du climat et renforcer la capacité de nos enseignants", a déclaré Li. "Il y a tant de choses que le secteur public peut faire, mais tout cela est aujourd'hui réduit à néant parce que nous manquons cruellement de ressources".
Sarah Myers West, directrice générale de l'AI Now Institute, un groupe à but non lucratif qui se concentre sur les effets de la technologie sur la société, a félicité Biden d'avoir inclus des préoccupations sociales et éthiques dans l'ordre. "C'est formidable de voir la Maison-Blanche donner le ton sur les questions qui importent le plus au public : le travail, les droits civils, la protection de la vie privée, la promotion de la concurrence", a déclaré Myers West par texto. "Cela souligne qu'il est impossible de faire face aux risques futurs de l'IA sans s'occuper correctement du présent." "La clé pour l'avenir sera d'assurer une application stricte de la loi alors que les entreprises tentent de s'autoréguler : l'industrie ne peut pas être laissée à elle-même pour mener la conversation sur la manière d'aborder correctement les effets de l'IA sur le grand public", a-t-elle ajouté.
Voici les points essentiels concernant le décret sur l'intelligence artificielle sûre, sécurisée et digne de confiance que le président Biden a publié.
Fiche d'information de la Maison Blanche
Aujourd'hui, le président Biden a publié un décret historique visant à garantir que l'Amérique ouvre la voie en saisissant les promesses et en gérant les risques de l'intelligence artificielle (IA). Ce décret établit de nouvelles normes en matière de sûreté et de sécurité de l'IA, protège la vie privée des Américains, fait progresser l'équité et les droits civils, défend les consommateurs et les travailleurs, promeut l'innovation et la concurrence, fait progresser le leadership américain dans le monde, et plus encore.
Dans le cadre de la stratégie globale de l'administration Biden-Harris pour une innovation responsable, le décret s'appuie sur les mesures prises précédemment par le président, y compris les travaux qui ont conduit à des engagements volontaires de la part de 15 grandes entreprises pour favoriser un développement sûr, sécurisé et digne de confiance de l'IA.
Le décret ordonne les actions suivantes :
De nouvelles normes pour la sûreté et la sécurité de l'IA
Les capacités de l'IA augmentent, tout comme ses implications pour la sûreté et la sécurité des Américains. Par ce décret, le président ordonne les mesures les plus radicales jamais prises pour protéger les Américains contre les risques potentiels des systèmes d'IA :
- Exiger que les développeurs des systèmes d'IA les plus puissants partagent les résultats de leurs tests de sécurité et d'autres informations critiques avec le gouvernement américain. Conformément à la loi sur la production de défense (Defense Production Act), le décret exigera que les entreprises qui développent un modèle de fondation présentant un risque sérieux pour la sécurité nationale, la sécurité économique nationale ou la santé et la sécurité publiques nationales informent le gouvernement fédéral lorsqu'elles forment le modèle, et qu'elles partagent les résultats de tous les tests de sécurité effectués par l'équipe d'intervention. Ces mesures garantiront que les systèmes d'IA sont sûrs, sécurisés et dignes de confiance avant que les entreprises ne les rendent publics.
- Élaborer des normes, des outils et des tests pour garantir que les systèmes d'IA sont sûrs, sécurisés et fiables. L'Institut national des normes et de la technologie établira des normes rigoureuses pour les tests approfondis de l'équipe rouge afin de garantir la sécurité avant la diffusion publique. Le ministère de la sécurité intérieure appliquera ces normes aux secteurs d'infrastructures critiques et mettra en place le Conseil de sécurité et de sûreté de l'IA. Les ministères de l'énergie et de la sécurité intérieure se pencheront également sur les menaces que les systèmes d'IA font peser sur les infrastructures essentielles, ainsi que sur les risques chimiques, biologiques, radiologiques, nucléaires et de cybersécurité. Ensemble, ces mesures sont les plus importantes jamais prises par un gouvernement pour faire progresser le domaine de la sécurité de l'IA.
- Protéger contre les risques liés à l'utilisation de l'IA pour créer des matériaux biologiques dangereux en élaborant de nouvelles normes strictes pour le contrôle des synthèses biologiques. Les agences qui financent des projets dans le domaine des sciences de la vie établiront ces normes comme condition du financement fédéral, créant ainsi de puissantes incitations à garantir un contrôle approprié et à gérer les risques potentiellement aggravés par l'IA.
- Protéger les Américains contre la fraude et la tromperie par l'IA en établissant des normes et des bonnes pratiques pour détecter les contenus générés par l'IA et authentifier les contenus officiels. Le ministère du commerce élaborera des orientations pour l'authentification des contenus et l'utilisation de filigranes afin d'étiqueter clairement les contenus générés par l'IA. Les agences fédérales utiliseront ces outils pour permettre aux Américains de savoir facilement que les communications qu'ils reçoivent de leur gouvernement sont authentiques et pour donner l'exemple au secteur privé et aux gouvernements du monde entier.
- Mettre en place un programme de cybersécurité avancée afin de développer des outils d'IA permettant de trouver et de corriger les vulnérabilités des logiciels critiques, en s'appuyant sur le défi cybernétique de l'IA lancé par l'administration Biden-Harris. Ensemble, ces efforts permettront d'exploiter les capacités cybernétiques de l'IA, qui pourraient changer la donne, afin de rendre les logiciels et les réseaux plus sûrs.
- Ordonner l'élaboration d'un mémorandum sur la sécurité nationale qui oriente les actions futures en matière d'IA et de sécurité, qui sera élaboré par le Conseil de sécurité nationale et le chef de cabinet de la Maison Blanche. Ce document garantira que l'armée américaine et la communauté du renseignement utilisent l'IA de manière sûre, éthique et efficace dans le cadre de leurs missions, et dirigera les actions visant à contrer l'utilisation militaire de l'IA par les adversaires.
Protéger la vie privée des Américains
En l'absence de garde-fous, l'IA peut mettre davantage en péril la vie privée des Américains. Non seulement l'IA facilite l'extraction, l'identification et l'exploitation des données personnelles, mais elle renforce également les incitations à le faire, car les entreprises utilisent les données pour former les systèmes d'IA. Pour mieux protéger la vie privée des Américains, notamment contre les risques posés par l'IA, le président appelle le Congrès à adopter une législation bipartisane sur la confidentialité des données afin de protéger tous les Américains, en particulier les enfants, et ordonne les actions suivantes :
- Protéger la vie privée des Américains en donnant la priorité au soutien fédéral pour accélérer le développement et l'utilisation de techniques de préservation de la vie privée, y compris celles qui utilisent l'IA de pointe et qui permettent d'entraîner les systèmes d'IA tout en préservant la confidentialité des données d'entraînement.
- Renforcer la recherche et les technologies de préservation de la vie privée, telles que les outils cryptographiques qui préservent la vie privée des individus, en finançant un réseau de coordination de la recherche afin de favoriser les avancées rapides et le développement. La National Science Foundation travaillera également avec ce réseau pour promouvoir l'adoption par les agences fédérales de technologies de pointe en matière de protection de la vie privée.
- Évaluer la manière dont les agences collectent et utilisent les informations disponibles sur le marché, y compris celles qu'elles se procurent auprès de courtiers en données, et renforcer les orientations en matière de protection de la vie privée à l'intention des agences fédérales afin de tenir compte des risques liés à l'IA. Ces travaux porteront en particulier sur les informations disponibles dans le commerce qui contiennent des données personnelles identifiables.
- Élaborer des lignes directrices à l'intention des agences fédérales afin d'évaluer l'efficacité des techniques de préservation de la vie privée, y compris celles utilisées dans les systèmes d'IA. Ces lignes directrices feront progresser les efforts des agences pour protéger les données des Américains.
Faire progresser l'équité et les droits civils
L'utilisation irresponsable de l'IA peut entraîner et aggraver la discrimination, les préjugés et d'autres abus dans les domaines de la justice, des soins de santé et du logement. L'administration Biden-Harris a déjà pris des mesures en publiant le projet de charte des droits de l'IA et en publiant un décret ordonnant aux agences de lutter contre la discrimination algorithmique, tout en appliquant les autorités existantes pour protéger les droits et la sécurité des personnes. Afin de garantir que l'IA fasse progresser l'équité et les droits civils, le président ordonne les actions supplémentaires suivantes :
- Fournir des conseils clairs aux propriétaires, aux programmes de prestations fédérales et aux entrepreneurs fédéraux pour éviter que les algorithmes d'IA ne soient utilisés pour exacerber la discrimination.
- S'attaquer à la discrimination algorithmique par la formation, l'assistance technique et la coordination entre le ministère de la justice et les bureaux fédéraux des droits civils sur les meilleures pratiques pour enquêter et poursuivre les violations des droits civils liées à l'IA.
- Garantir l'équité dans l'ensemble du système de justice pénale en élaborant des bonnes pratiques sur l'utilisation de l'IA dans la détermination de la peine, la libération conditionnelle et la probation, la mise en liberté provisoire et la détention, l'évaluation des risques, la surveillance, la prévision de la criminalité et la police prédictive, ainsi que l'analyse médico-légale.
Défendre les consommateurs, les patients et les étudiants
L'IA peut apporter de réels avantages aux consommateurs, par exemple en rendant les produits meilleurs, moins chers et plus largement disponibles. Mais l'IA augmente également le risque de blesser, d'induire en erreur ou de nuire d'une autre manière aux Américains. Afin de protéger les consommateurs tout en veillant à ce que l'IA puisse améliorer la situation des Américains, le président ordonne les actions suivantes :
- Promouvoir l'utilisation responsable de l'IA dans les soins de santé et le développement de médicaments abordables et susceptibles de sauver des vies. Le ministère de la santé et des services sociaux mettra également en place un programme de sécurité pour recevoir les rapports sur les préjudices ou les pratiques dangereuses en matière de soins de santé impliquant l'IA, et pour y remédier.
- Développer le potentiel de l'IA pour transformer l'éducation en créant des ressources pour soutenir les éducateurs qui déploient des outils éducatifs basés sur l'IA, tels que le tutorat personnalisé dans les écoles.
Soutenir les travailleurs
L'IA modifie les emplois et les lieux de travail américains, offrant à la fois la promesse d'une productivité accrue, mais aussi les dangers d'une surveillance accrue du lieu de travail, de préjugés et de déplacements d'emplois. Pour atténuer ces risques, soutenir la capacité des travailleurs à négocier collectivement et investir dans la formation et le développement de la main-d'œuvre accessible à tous, le président ordonne les actions suivantes :
- Élaborer des principes et des bonnes pratiques pour atténuer les inconvénients et maximiser les avantages de l'IA pour les travailleurs en abordant le déplacement d'emplois, les normes du travail, l'équité, la santé et la sécurité sur le lieu de travail, et la collecte de données. Ces principes et ces meilleures pratiques profiteront aux travailleurs en fournissant des orientations pour empêcher les employeurs de sous-compenser les travailleurs, d'évaluer les demandes d'emploi de manière inéquitable ou d'entraver la capacité des travailleurs à s'organiser.
- Produire un rapport sur les impacts potentiels de l'IA sur le marché du travail, et étudier et identifier des options pour renforcer le soutien fédéral aux travailleurs confrontés à des perturbations du marché du travail, y compris à cause de l'IA.
Promouvoir l'innovation et la concurrence
L'Amérique est déjà à la pointe de l'innovation en matière d'IA : l'année dernière, plus de startups d'IA ont levé des capitaux pour la première fois aux États-Unis que dans les sept pays suivants réunis. Le décret garantit que nous continuerons à être à la pointe de l'innovation et de la concurrence grâce aux actions suivantes :
- Catalyser la recherche sur l'IA dans tous les États-Unis grâce à un projet pilote de ressources nationales de recherche sur l'IA - un outil qui permettra aux chercheurs et aux étudiants en IA d'accéder à des ressources et à des données clés sur l'IA - et à des subventions plus importantes pour la recherche sur l'IA dans des domaines vitaux tels que les soins de santé et le changement climatique.
- Promouvoir un écosystème de l'IA équitable, ouvert et compétitif en fournissant aux petits développeurs et entrepreneurs un accès à l'assistance technique et aux ressources, en aidant les petites entreprises à commercialiser les percées en matière d'IA et en encourageant la Commission fédérale du commerce à exercer ses pouvoirs.
- Utiliser les pouvoirs existants pour accroître la capacité des immigrants hautement qualifiés et des non-immigrants possédant une expertise dans des domaines critiques à étudier, séjourner et travailler aux États-Unis en modernisant et en rationalisant les critères d'octroi des visas, les entretiens et les examens.
Promouvoir le leadership américain à l'étranger
Les défis et les opportunités de l'IA sont mondiaux. L'administration Biden-Harris continuera à travailler avec d'autres nations pour soutenir le déploiement et l'utilisation sûrs, sécurisés et fiables de l'IA dans le monde entier. À cette fin, le président ordonne les actions suivantes :
- Élargir les engagements bilatéraux, multilatéraux et multipartites pour collaborer sur l'IA. Le département d'État, en collaboration avec le département du commerce, mènera une action visant à établir des cadres internationaux solides pour exploiter les avantages de l'IA, gérer ses risques et garantir la sécurité. En outre, cette semaine, le vice-président Harris s'exprimera lors du sommet britannique sur la sécurité de l'IA, organisé par le premier ministre Rishi Sunak.
- Accélérer l'élaboration et la mise en œuvre de normes essentielles en matière d'IA avec des partenaires internationaux et au sein d'organismes de normalisation, en veillant à ce que la technologie soit sûre, sécurisée, digne de confiance et interopérable.
- Promouvoir le développement et le déploiement sûrs, responsables et respectueux des droits de l'IA à l'étranger afin de résoudre des problèmes mondiaux, tels que la promotion du développement durable et l'atténuation des dangers qui pèsent sur les infrastructures essentielles.
Garantir une utilisation responsable et efficace de l'IA par les pouvoirs publics
L'IA peut aider le gouvernement à obtenir de meilleurs résultats pour le peuple américain. Elle peut accroître la capacité des agences à réglementer, gouverner et distribuer des prestations, et elle peut réduire les coûts et renforcer la sécurité des systèmes gouvernementaux. Toutefois, l'utilisation de l'IA peut présenter des risques, tels que la discrimination et les décisions dangereuses. Afin de garantir un déploiement responsable de l'IA par le gouvernement et de moderniser l'infrastructure fédérale de l'IA, le président ordonne les actions suivantes :
- Publier des orientations pour l'utilisation de l'IA par les agences, y compris des normes claires pour protéger les droits et la sécurité, améliorer les achats d'IA et renforcer le déploiement de l'IA.
- Aider les agences à acquérir les produits et services d'IA spécifiés plus rapidement, à moindre coût et plus efficacement grâce à des contrats plus rapides et plus efficaces.
- Accélérer le recrutement rapide de professionnels de l'IA dans le cadre d'une vague de talents en matière d'IA à l'échelle du gouvernement, sous l'égide de l'Office of Personnel Management, de l'U.S. Digital Service, de l'U.S. Digital Corps et de la Presidential Innovation Fellowship (bourse présidentielle pour l'innovation). Les agences proposeront des formations à l'IA aux employés de tous niveaux dans les domaines concernés.
Tout en faisant avancer ce programme au niveau national, l'administration travaillera avec ses alliés et partenaires à l'étranger sur un cadre international solide pour régir le développement et l'utilisation de l'IA. L'administration a déjà mené de vastes consultations sur les cadres de gouvernance de l'IA au cours des derniers mois, avec l'Allemagne, l'Australie, le Brésil, le Canada, le Chili, la Corée du Sud, les Émirats arabes unis, la France, l'Inde, Israël, l'Italie, le Japon, le Kenya, le Mexique, la Nouvelle-Zélande, le Nigeria, les Pays-Bas, les Philippines, Singapour, l'Union européenne et le Royaume-Uni. Les mesures prises aujourd'hui soutiennent et complètent le rôle de chef de file du Japon dans le processus d'Hiroshima du G7, le sommet britannique sur la sécurité de l'IA, le rôle de chef de file de l'Inde en tant que présidente du Partenariat mondial sur l'IA et les discussions en cours aux Nations unies.
Les mesures ordonnées aujourd'hui par le président Biden constituent des avancées essentielles dans l'approche des États-Unis en matière de sécurité et de fiabilité de l'IA. D'autres actions seront nécessaires, et l'administration continuera à travailler avec le Congrès pour mettre en place une législation bipartisane afin d'aider l'Amérique à montrer la voie en matière d'innovation responsable.
Source : Décret de la Maison Blanche
Et vous ?
Quel est votre avis sur ce décret ?Voir aussi :
La Maison Blanche lance un plan pour promouvoir l'IA éthique et demande l'aide des hackers pour détecter les failles des chatbots d'IA, elle prendra également l'avis des PDG des entreprises d'IA La Maison Blanche prend de nouvelles mesures pour étudier les risques liés à l'IA et déterminer les impacts de la technologie sur les travailleurs Le G7 s'apprête à adopter un code de conduite pour les entreprises en matière d'IA. Le code vise "à aider à saisir les avantages et à faire face aux risques et aux défis posés par ces technologies"