Plus de 125 acteurs, réalisateurs, producteurs, artistes musicaux et leaders de l'industrie du divertissement d'Hollywood ont signé une lettre pour exhorter le gouverneur Gavin Newsom à signer le projet de loi sur la sécurité de l'IA. Le projet de loi tiendrait les développeurs de modèles d'IA responsables en cas de catastrophe provoquée par l'IA. Le gouverneur Gavin Newsom a jusqu'au 30 septembre pour prendre une décision sur le projet de loi.Un projet de loi en Californie, visant à réguler le développement des modèles d’intelligence artificielle (IA), a déclenché une vive controverse à Silicon Valley. Le projet de loi propose des mesures strictes pour garantir la sécurité des modèles d’IA avancés. Le projet de loi imposerait davantage de responsabilités aux entreprises, notamment des tests de sécurité et la mise en œuvre de mesures de protection. Fin août 2024, les législateurs californiens ont adopté ce projet de loi très controversé sur la sécurité de l'IA, puis le gouverneur Gavin Newsom a jusqu'au 30 septembre pour décider de le promulguer ou d'y opposer son veto.
Mark Hamill, Jane Fonda, J.J. Abrams ont demandé au gouverneur Gavin Newsom de signer le projet de loi sur la sécurité de l'IA dans une lettre publiée le 24 septembre 2024. Plus de 125 acteurs, réalisateurs, producteurs, artistes musicaux et leaders de l'industrie du divertissement d'Hollywood ont ajouté leur nom à la lettre pour exhorter le gouverneur Gavin Newsom à signer le projet de loi.
Parmi les signataires de la lettre figurent le co-créateur de "Lost", J.J. Abrams, la productrice exécutive de "Bridgerton", Shonda Rhimes, le réalisateur de "The 40 Year-Old Virgin", Judd Apatow, la créatrice de "When They See Us", Ava DuVernay, les acteurs Mark Hamill, Jane Fonda, Mahershala Ali, Ramy Youssef, Alec Baldwin, Pedro Pascal, Connie Britton, Mark Ruffalo, Sean Astin et Joseph Gordon-Levitt, ainsi que l'auteur-compositeur-interprète Diane Warren. Les dirigeants de SAG-AFTRA, dont la présidente Fran Drescher et le directeur exécutif national et négociateur en chef Duncan Crabtree-Ireland, ont également signé.
"Les graves menaces que fait peser l'IA relevaient autrefois de la science-fiction, mais ce n'est plus le cas aujourd'hui", peut-on lire dans la lettre. "Même si les milliardaires qui s'opposent à la loi SB 1047 considèrent ces inquiétudes comme fantaisistes, de nombreux ingénieurs, universitaires et responsables politiques de premier plan de l'industrie affirment le contraire."
Voici la lettre des artistes adressée au gouverneur Gavin Newsom :
Cher Gouverneur Newsom,
Comme vous le savez, certaines des entreprises les plus lucratives et les plus puissantes du monde font actuellement la course pour dominer l'énorme opportunité commerciale connue sous le nom d'IA. Bon nombre de ces entreprises sont basées dans votre État d'origine, la Californie.
La semaine dernière, vous avez signé deux projets de loi qui contribueront à protéger les droits et les moyens de subsistance des artistes contre diverses utilisations contraires à l'éthique de l'IA par ces grandes entreprises technologiques. Nous vous en sommes sincèrement reconnaissants.
Mais il y a maintenant un autre projet de loi qui attend de toute urgence votre signature et qui réglementerait l'IA : le projet de loi SB 1047 du sénateur Wiener. Ce projet de loi ne vise pas à protéger les artistes, mais à protéger tout le monde.
Les graves menaces que fait peser l'IA relevaient autrefois de la science-fiction, mais ce n'est plus le cas aujourd'hui. Même si les milliardaires qui s'opposent au projet de loi SB 1047 considèrent ces inquiétudes comme fantaisistes, de nombreux ingénieurs, universitaires et responsables politiques de premier plan du secteur affirment le contraire. Dans une récente lettre ouverte en faveur de la loi SB 1047, plus d'une centaine d'employés actuels et anciens d'OpenAI, de Google DeepMind, d'Anthropic, de Meta et de xAI ont déclaré :
« Nous pensons que les modèles d'IA les plus puissants pourraient bientôt présenter des risques graves, tels qu'un accès élargi aux armes biologiques et des cyberattaques sur les infrastructures critiques. Il est possible et approprié pour les entreprises d'IA pionnières de tester si les modèles d'IA les plus puissants peuvent causer des dommages graves, et pour ces entreprises de mettre en œuvre des mesures de protection raisonnables contre ces risques ».
Le projet de loi SB 1047 mettrait en œuvre les mesures de protection demandées par les initiés de l'industrie. Le projet de loi a été adopté à une majorité écrasante par le Sénat et l'Assemblée de l'État de Californie. Les sondages montrent que 77 % des Californiens l'approuvent. Pourquoi le gouverneur ne la signerait-il pas ?
Gouverneur Newsom, la plupart d'entre nous résident en Californie. Nous vous soutenons. Nous avons voté pour vous. Nous voulons continuer à croire que vous êtes un dirigeant qui défendra le bien-être de tous, et pas seulement celui de quelques géants de la Silicon Valley.
Nous croyons fermement au potentiel éblouissant de l'IA, qui peut être utilisé à bon escient. Mais nous devons aussi être réalistes quant aux risques. Le moment est venu, Monsieur le Gouverneur, pour la Californie de donner cet exemple pratique et positif à tous les États-Unis, ainsi qu'au reste du monde.
Comme vous le savez, certaines des entreprises les plus lucratives et les plus puissantes du monde font actuellement la course pour dominer l'énorme opportunité commerciale connue sous le nom d'IA. Bon nombre de ces entreprises sont basées dans votre État d'origine, la Californie.
La semaine dernière, vous avez signé deux projets de loi qui contribueront à protéger les droits et les moyens de subsistance des artistes contre diverses utilisations contraires à l'éthique de l'IA par ces grandes entreprises technologiques. Nous vous en sommes sincèrement reconnaissants.
Mais il y a maintenant un autre projet de loi qui attend de toute urgence votre signature et qui réglementerait l'IA : le projet de loi SB 1047 du sénateur Wiener. Ce projet de loi ne vise pas à protéger les artistes, mais à protéger tout le monde.
Les graves menaces que fait peser l'IA relevaient autrefois de la science-fiction, mais ce n'est plus le cas aujourd'hui. Même si les milliardaires qui s'opposent au projet de loi SB 1047 considèrent ces inquiétudes comme fantaisistes, de nombreux ingénieurs, universitaires et responsables politiques de premier plan du secteur affirment le contraire. Dans une récente lettre ouverte en faveur de la loi SB 1047, plus d'une centaine d'employés actuels et anciens d'OpenAI, de Google DeepMind, d'Anthropic, de Meta et de xAI ont déclaré :
« Nous pensons que les modèles d'IA les plus puissants pourraient bientôt présenter des risques graves, tels qu'un accès élargi aux armes biologiques et des cyberattaques sur les infrastructures critiques. Il est possible et approprié pour les entreprises d'IA pionnières de tester si les modèles d'IA les plus puissants peuvent causer des dommages graves, et pour ces entreprises de mettre en œuvre des mesures de protection raisonnables contre ces risques ».
Le projet de loi SB 1047 mettrait en œuvre les mesures de protection demandées par les initiés de l'industrie. Le projet de loi a été adopté à une majorité écrasante par le Sénat et l'Assemblée de l'État de Californie. Les sondages montrent que 77 % des Californiens l'approuvent. Pourquoi le gouverneur ne la signerait-il pas ?
Gouverneur Newsom, la plupart d'entre nous résident en Californie. Nous vous soutenons. Nous avons voté pour vous. Nous voulons continuer à croire que vous êtes un dirigeant qui défendra le bien-être de tous, et pas seulement celui de quelques géants de la Silicon Valley.
Nous croyons fermement au potentiel éblouissant de l'IA, qui peut être utilisé à bon escient. Mais nous devons aussi être réalistes quant aux risques. Le moment est venu, Monsieur le Gouverneur, pour la Californie de donner cet exemple pratique et positif à tous les États-Unis, ainsi qu'au reste du monde.
Le projet de loi, présenté par le sénateur Scott Wiener (D-San Francisco) et adopté par l'assemblée législative, obligerait les développeurs de modèles d'IA à partager leurs plans de sécurité avec le procureur général de Californie, qui pourrait les tenir pour responsables si les modèles d'IA qu'ils contrôlent directement causaient des dommages ou constituaient une menace imminente pour la sécurité publique. Les développeurs devraient également disposer d'un moyen d'arrêter ces modèles d'IA en cas de problème.
Le projet de loi a fait l'objet de vifs débats en Californie et est contesté par des entreprises technologiques telles que Meta, la société mère de Facebook, et OpenAI, le créateur de ChatGPT, ainsi que par le groupe technologique Chamber of Progress, qui a publié une chanson rock générée par l'IA sur le projet de loi, avec des paroles telles que "veto the chains that hold us down" (mettez votre veto sur les chaînes qui nous retiennent).
Les leaders démocrates du Congrès, dont l'ancienne présidente de la Chambre des représentants Nancy Pelosi, les députés Ro Khanna (D-Fremont) et Zoe Lofgren (D-San José), ont également demandé à Gavin Newsom d'opposer son veto au projet de loi. Ils affirment que la législation pourrait étouffer l'innovation et citent les efforts déployés par le Congrès dans le domaine de l'IA.
Le projet de loi 1047 du Sénat est soutenu par le Center for AI Safety, par certains éminents chercheurs en IA et par Elon Musk, directeur général de Tesla. Plus de 100 employés actuels et anciens d'entreprises liées à l'IA, dont OpenAI, Google DeepMind et Meta, ont signé une lettre de soutien au projet de loi SB 1047. Les partisans du projet de loi estiment que, le Congrès étant généralement plus lent à réglementer les technologies, la Californie devrait prendre les devants.
"Dans la Silicon Valley, on aime à dire qu'il faut aller vite et casser les choses", a déclaré Gordon-Levitt dans un communiqué. Mais avec des technologies aussi puissantes, il faudrait peut-être dire "Allez aussi vite que possible tout en faisant attention à ne rien casser".
Le gouverneur Gavin Newsom a jusqu'au 30 septembre pour prendre une décision sur le projet de loi. Mais il a déclaré qu'il n'avait pas encore pris sa décision sur le SB 1047. "Il s'agit d'un de ces projets de loi qui passent rarement sur le bureau, et dont l'adoption dépend de la force de persuasion de la dernière personne à avoir téléphoné", a déclaré Gavin Newsom. "Il a divisé tant de gens."
Les avertissements concernant le potentiel de l'IA ne sont pas récents. En 2019, Elon Musk avait déjà déclaré que " l"IA est plus dangereuse que les ogives nucléaires" et il devrait exister un organisme de réglementation supervisant le développement de cette technologie. Il ajoutait : "Je ne suis pas normalement un partisan de la réglementation et de la surveillance .. mais il s’agit d’une situation où le public court un très grave danger". Bill Gates, cofondateur de Microsoft, confirmait également que l'IA est comme l’énergie nucléaire : une technologie "à la fois porteuse d’espoir et dangereuse".
Source : Lettre des artistes adressée au gouverneur Newsom
Et vous ?
Pensez-vous que cette lettre est crédible ou pertinente ? Quel est votre avis sur le sujet ?Voir aussi :
Le projet de loi californien sur l'IA menace-t-il l'innovation ou protège-t-il la société ? Google, Meta et OpenAI s'y opposent, arguant qu'il pourrait freiner l'innovation, tandis qu'Elon Musk le soutient L'ONU veut traiter l'IA avec la même urgence que le changement climatique : l'organisme voudrait instaurer une gouvernance mondiale de l'IA pour en maximiser les avantages tout en minimisant les risques Les grandes enseignes Tech cherchent à affaiblir la loi européenne sur l'IA, arguant que des exigences trop lourdes en matière de transparence pourraient ralentir le développement de nouvelles technologies