Sans mesures de protection adéquates, une IA puissante et non réglementée pourrait causer des dommages graves et « potentiellement irréversibles », a rapporté le gouverneur de Californie

Sans mesures de protection adéquates, une intelligence artificielle (IA) puissante et non réglementée pourrait causer des dommages graves et « potentiellement irréversibles », a averti un rapport sur la politique en matière d'IA de pointe rendu public par le gouverneur de Californie, Gavin Newsom, le mardi 17 juin 2025 dernier.

Cet avertissement fait suite à une série de mesures législatives prises en Californie, où le gouverneur Gavin Newsom a récemment signé neuf projets de loi visant à réglementer les contenus générés par l'IA afin de répondre aux risques liés aux "deepfakes". Ces lois concernent notamment les acteurs et les interprètes, l'utilisation abusive de contenus générés par l'IA et l'utilisation de cette technologie dans les campagnes électorales.

Le rapport de 53 pages sur la politique en matière d'IA de pointe, rédigé par d'éminents universitaires, a été publié alors que la Chambre des représentants des États-Unis a récemment adopté le "grand et beau" projet de loi budgétaire de Donald Trump qui, s'il est promulgué, interdira aux États d'appliquer des lois réglementant l'utilisation abusive de l'IA pendant une décennie.

Le projet de loi fédéral éliminerait donc les interdictions existantes en Californie concernant les contenus pédopornographiques générés par l'IA, la pornographie deepfake et les escroqueries par appels automatisés visant les personnes âgées américaines.

« Ce moratoire signifierait que même si une entreprise concevait délibérément un algorithme causant des dommages prévisibles, l'entreprise à l'origine de cette technologie néfaste ne serait pas tenue de rendre des comptes aux législateurs et au public », a averti le rapport californien, citant les lettres d'opposition de plus de 140 organisations.

Plus de 40 procureurs généraux d'État se sont joints à l'opposition, écrivant aux dirigeants du Congrès pour exprimer leurs préoccupations quant au fait de laisser les Américains vulnérables aux menaces liées à l'IA, selon le document californien.


Les préoccupations récentes en matière de sécurité de l'IA se sont intensifiées, les grandes entreprises signalant que leurs modèles approchent des seuils de capacité dangereux.

OpenAI a déclaré en février dernier que les niveaux de risque étaient « moyens » dans les catégories des armes chimiques, biologiques, radiologiques et nucléaires, selon le rapport californien.

Anthropic a noté qu'il existe « une probabilité substantielle que notre prochain modèle nécessite des mesures de sécurité ASL-3 » pour les systèmes qui pourraient aider des individus à créer des armes de destruction massive.

Selon le rapport californien sur la politique en matière d'IA de pointe, les innovations qui émergent à la frontière de l'IA sont sur le point de créer des opportunités historiques pour l'humanité, mais elles soulèvent également des défis politiques complexes. Le document note que les progrès continus dans le domaine de l'IA de pointe sont susceptibles d'entraîner des avancées profondes en matière de découvertes scientifiques, de productivité économique et de bien-être social au sens large.

« En tant que centre névralgique de l'innovation mondiale en matière d'IA, la Californie a une occasion unique de continuer à soutenir les développements à la pointe de l'IA tout en s'attaquant aux risques substantiels qui pourraient avoir des conséquences profondes pour l'État et au-delà », peut-on lire dans le rapport.

Selon les auteurs, le rapport s'est appuyé sur de nombreuses preuves, notamment des recherches empiriques, des analyses historiques, des modélisations et des simulations, afin de fournir un cadre pour l'élaboration de politiques à la pointe du développement de l'IA. Les universitaires soulignent qu'en s'appuyant sur une approche multidisciplinaire, ils ont défini des principes politiques qui peuvent éclairer la manière dont la Californie aborde l'utilisation, l'évaluation et la gouvernance de l'IA de pointe, avec des principes ancrés dans une philosophie de « confiance mais avec vérification ». Cette approche, tiendrait compte de l'importance de l'innovation tout en établissant des stratégies appropriées pour réduire les risques matériels.

Le rapport californien précise qu'il ne se prononce ni pour ni contre une législation ou une réglementation particulière. Au contraire, il examine les meilleures recherches disponibles sur les modèles de fondation et présente les principes politiques fondés sur ces recherches que les responsables politiques pourraient prendre en considération pour élaborer de nouvelles lois et réglementations régissant le développement et le déploiement de l'IA de pointe en Californie. Ces principes ne s'excluent pas mutuellement, selon les auteurs, mais forment un ensemble qui peut éclairer de manière solide la politique californienne en matière d'IA.

Bien que le rapport californien aborde une série de sujets clés liés à la manière dont la Californie peut tirer le meilleur parti des avantages de l'IA et réduire ses risques, les auteurs indiquent qu'ils se sont concentrés principalement sur les questions soulevées par la gouvernance des modèles d'IA de pointe, conformément à la compréhension du Groupe de travail du gouverneur Gavin Newsom. Le document ne vise donc pas à traiter l'ensemble des questions politiques importantes qui découlent de l'augmentation de la puissance et de la prolifération de l'IA générative dans de nombreux aspects de la vie en Californie. « Par exemple, le rapport ne traite pas de l'impact de...