Après une année de réflexion et d’analyse, un groupe bipartite de sénateurs américains a recommandé au Congrès de consacrer au moins 32 milliards de dollars sur les trois prochaines années pour le développement de l’intelligence artificielle (IA) et la mise en place de mesures de protection autour de celle-ci. Cette initiative fait suite à l’entrée sur le marché du chatbot IA ChatGPT, qui a démontré sa capacité à imiter de nombreux comportements humains. Face à cette avancée technologique rapide et aux investissements massifs de pays comme la Chine dans le domaine de l’IA, les sénateurs ont jugé impératif de trouver un consensus et d’agir rapidement.Le rapport de 33 pages, publié mercredi, contient une série de recommandations politiques larges. Bien que la législation relative à l’IA puisse être difficile à adopter, en particulier en année électorale et avec un Congrès divisé, les sénateurs soulignent l’urgence de réglementer et d’encourager l’innovation dans ce secteur.
Le leader de la majorité, Chuck Schumer, a déclaré qu’il était essentiel de « saisir les opportunités et de répondre aux risques » posés par l’IA. Le groupe propose que le Congrès rédige une législation d’urgence pour stimuler les investissements américains dans l’IA, y compris de nouvelles recherches et normes de test pour comprendre les éventuels dommages causés par la technologie.
« C'est compliqué, c'est difficile, mais nous ne pouvons pas nous permettre de faire l'autruche », a déclaré Schumer, Démocrate de New York, qui a réuni le groupe l'année dernière après l'arrivée sur le marché du chatbot ChatGPT, qui a montré qu'il pouvait, à bien des égards, imiter le comportement humain.
Les sénateurs préconisent également de nouvelles exigences en matière de transparence lors du déploiement des produits d’IA et la réalisation d’études sur l’impact potentiel de l’IA sur l’emploi et la main-d’œuvre américaine.
Le sénateur républicain Mike Rounds, membre du groupe, a souligné que cet investissement serait bénéfique non seulement pour concurrencer d’autres pays qui se précipitent dans l’espace de l’IA, mais aussi pour améliorer la qualité de vie des Américains. Il a évoqué le soutien à des technologies susceptibles de contribuer à la guérison de certains cancers ou maladies chroniques, ou encore à des améliorations des systèmes d’armement qui pourraient aider le pays à éviter une guerre.
Une réflexion qui a duré un an
Le groupe s'est constitué il y a un an après que Schumer a fait de cette question une priorité - une position inhabituelle pour un chef de la majorité - et qu'il y a associé le sénateur démocrate Martin Heinrich du Nouveau-Mexique, le sénateur républicain Todd Young de l'Indiana et Rounds du Dakota du Sud.
Alors que les quatre sénateurs commençaient à rencontrer des dirigeants et des experts du secteur technologique, Schumer a déclaré dans un discours prononcé au cours de l'été que la croissance rapide des outils d'intelligence artificielle constituait un « moment de révolution » et que le gouvernement devait agir rapidement pour réglementer les entreprises qui développent ces outils.
Young a déclaré que le développement de ChatGPT, ainsi que d'autres modèles similaires, leur a fait prendre conscience que « nous allons devoir trouver collectivement, en tant qu'institution », la manière de gérer cette technologie. « En même temps que les gens s'émerveillaient des possibilités de cette seule plateforme d'IA générative, ils ont commencé à émettre des hypothèses sur les risques futurs qui pourraient être associés aux développements futurs de l'intelligence artificielle », a déclaré Young.
Même s'il sera difficile de faire adopter une législation, les recommandations du groupe constituent la première feuille de route complète sur une question complexe qui n'a que peu de précédents au Congrès. Le groupe a passé près d'un an à dresser une liste de suggestions politiques après s'être entretenu, en privé et en public, avec une série d'entreprises technologiques et d'autres parties prenantes, notamment dans le cadre de huit forums auxquels le Sénat tout entier a été convié.
Certains participants au processus de réflexion estiment que les législateurs se sont pliés en quatre pour les intérêts de l'industrie
La proposition bipartisane, qui doit servir de guide aux efforts législatifs du Sénat en matière d'IA, est le fruit d'une série de « forums de réflexion » qui ont duré un an et qui ont rassemblé une liste de plus de 150 experts - des leaders de la technologie comme Mark Zuckerberg, Sam Altman et Satya Nadella aux universitaires et aux défenseurs des droits civiques.
Mais certains participants, dont des éthiciens de l'IA, estiment que Schumer et ses collègues ont perdu leur temps en se pliant en quatre pour satisfaire les intérêts de l'industrie, alors qu'ils n'ont accordé qu'un intérêt de pure forme à la nécessité d'établir des garde-fous autour de cette technologie émergente.
« Ma principale réaction est la déception », a déclaré Suresh Venkatasubramanian, directeur du Center for Technological Responsibility, Reimagination, and Redesign à l'université Brown. Ancien fonctionnaire de la Maison Blanche, Venkatasubramanian a coécrit le projet de charte des droits de l'IA de l'administration Biden. Il explique que lui et d'autres éthiciens de l'IA ont accepté de participer aux tables rondes du Sénat « en toute bonne foi », malgré les craintes d'une mainmise de l'industrie. Maintenant qu'il a vu le produit final, il se demande si quelqu'un a vraiment écouté. « Je pense que beaucoup de gens comme moi s'inquiétaient de savoir s'il s'agirait d'un spectacle de singes dansants, et c'est nous qui sommes les singes », déclare-t-il. « Je me sens trahi ».
Alondra Nelson, ancienne directrice intérimaire du Bureau de la politique scientifique et technologique de la Maison Blanche, a quant à elle déclaré qu'elle s'était également méfiée du processus d'élaboration de la feuille de route par le Sénat. « J'ai accepté à contrecœur de participer au deuxième forum malgré mes craintes qu'il s'agisse d'un processus à huis clos manquant de transparence, et malgré le fait que les organisations de la société civile et les chercheurs universitaires invités étaient plus nombreux que les cadres de l'industrie », a déclaré Nelson, aujourd'hui professeur à l'Institute for Advanced Studies. La feuille de route, que Nelson a qualifiée de « trop fragile pour protéger nos valeurs » et manquant « d'urgence et de sérieux », semble avoir confirmé ces craintes.
« Elle est en fait frappante par son manque de vision », a écrit Nelson. « La feuille de route du Sénat ne nous oriente pas vers un avenir où les patients, les travailleurs et les communautés seront protégés des excès actuels et futurs de l'utilisation des outils et des systèmes d'IA. Ce qu'elle indique, c'est que le gouvernement dépense de l'argent, non pas pour rendre des comptes, mais pour soulager le secteur privé du fardeau de la responsabilité ».
D'autres groupes, dont l'AI Now Institute, Accountable Tech et la Leadership Conference on Civil and Human Rights, ont également critiqué le manque d'attention de la feuille de route à l'égard des préjudices causés par l'IA.
Les mêmes causes produisent les mêmes effets
La feuille de route couvre une série de questions réglementaires liées à l'IA. Elle comprend des orientations sur l'innovation, l'impact sur la main-d'œuvre, la protection de la vie privée, la défense des élections, la transparence, la sécurité nationale, etc. Néanmoins, les coauteurs, dont le leader Schumer et les sénateurs Mike Rounds, Martin Heinrich et Todd Young, ont indiqué dans leur introduction qu'il ne s'agissait pas d'un « menu exhaustif de propositions politiques ».
Mais toutes les questions incluses n'ont pas le même poids ou la même considération. La section de la feuille de route qui explique comment le Congrès devrait soutenir l'innovation américaine dans le domaine de l'IA avec des milliards de dollars de financement s'étend sur plus de quatre pages ; la section sur la protection de la vie privée et la responsabilité ne comprend que trois paragraphes. La section sur les élections est encore plus courte. Le terme « droits civils » n'apparaît qu'une seule fois dans les recommandations de la feuille de route.
Si la feuille de route manque de détails sur de nombreuses questions qui préoccupent les organismes de surveillance de l'IA, elle est très précise sur les mesures que le Sénat devrait prendre pour injecter plus d'argent dans la recherche et le développement en matière d'IA. Elle s'appuie largement sur les recommandations formulées précédemment par la National Security Commission on Artificial Intelligence (NSCAI), une commission indépendante présidée par l'ancien président de Google, Eric Schmidt, qui a publié sa propre liste de recommandations de 756 pages en 2021. La nouvelle feuille de route sur l'IA demande à la commission sénatoriale des crédits de « développer un langage de crédits d'urgence pour combler l'écart entre les niveaux de dépenses actuels et le niveau recommandé par la NSCAI ».
La spécificité et l'urgence de ces recommandations de financement ne font que souligner l'idée que les questions plus larges de droits et d'éthique ont été incluses après coup, affirme Venkatasubramanian. Aujourd'hui, Nelson et lui craignent que les États-Unis ne risquent de répéter les mêmes erreurs qu'à l'époque où les médias sociaux étaient en plein essor. « Le seul argent qui est injecté, c'est plus de technologie, plus de technologie, plus de technologie », déclare-t-il. « C'est exactement le problème qui nous a conduits ici en premier lieu ».
Source : feuille de route
Et vous ?
Quels devraient être les principaux domaines de recherche en IA que le gouvernement américain devrait prioriser avec cet investissement de 32 milliards de dollars ? Comment les législateurs peuvent-ils équilibrer l’innovation technologique avec les préoccupations éthiques et la protection de la vie privée dans le domaine de l’IA ? Quelles mesures de transparence devraient être mises en place pour assurer que les développements en IA soient bénéfiques et non préjudiciables à la société ? En quoi l’investissement dans l’IA pourrait-il transformer le marché du travail, et comment devrions-nous nous préparer à ces changements ? Quel rôle l’IA devrait-elle jouer dans la sécurité nationale, et quelles sont les limites éthiques à ne pas franchir ? Comment les États-Unis peuvent-ils maintenir une position de leader dans l’innovation en IA tout en collaborant avec d’autres pays pour promouvoir des normes internationales ?