Le gouvernement de l'État de Californie a examiné les risques et les avantages de l'intelligence artificielle (IA) générative, capable de produire du texte, des images, et d'autres contenus. Un rapport commandé par le gouverneur Gavin Newsom souligne le potentiel de l'IA pour améliorer les services gouvernementaux, mais met en garde contre des préoccupations telles que la confidentialité des données, la désinformation, l'équité et les préjugés. Le rapport offre des perspectives sur l'application de cette technologie dans les programmes de l'État. Parallèlement, il souligne les débats dans l'industrie technologique sur les risques de l'IA, notamment des inquiétudes exprimées par des leaders tels qu'Elon Musk. La Californie, abritant de grandes entreprises d'IA, évalue les risques potentiels tout en cherchant à bénéficier des avancées de cette technologie. Le rapport présente une première analyse des avantages potentiels pour les individus, les communautés, le gouvernement et les fonctionnaires de l'État, en mettant l'accent sur les domaines dans lesquels l'IA générative peut être utilisée pour améliorer l'accès aux biens et services essentiels. En outre, le rapport évalue les risques de l'intelligence artificielle générative, y compris, mais sans s'y limiter, les risques découlant de mauvais acteurs, de systèmes gouvernementaux insuffisamment protégés, d'effets imprévus ou émergents, et de risques potentiels pour les processus démocratiques et juridiques, la santé et la sécurité publiques, et l'économie.
Lorsqu'elle est utilisée de manière éthique et transparente, l'intelligence artificielle générative a le potentiel d'améliorer considérablement les résultats de la prestation de services et d'accroître l'accès et l'utilisation des programmes gouvernementaux. La diversité des quelque 40 millions de personnes qui vivent en Californie - et la force de son économie aux multiples facettes - ont fait de la Californie un leader mondial en matière de technologie et d'innovation. Avec les garde-fous appropriés, la technologie révolutionnaire de l'intelligence artificielle générative (GenAI) peut être utilisée de manière responsable pour stimuler l'innovation, soutenir la main-d'œuvre de l'État et améliorer la vie des Californiens.
Le travail de de l'État de Californie intervient également dans un contexte où l'IA générative connaît des développements majeurs, notamment le licenciement du PDG d'OpenAI, Sam Altman. En réponse à des pressions, OpenAI a accepté le retour d'Altman en tant que PDG. Le rapport souligne les risques potentiels liés à l'IA, tels que la diffusion de fausses informations, la création de produits nocifs, et les problèmes de confidentialité.
IA générative ou IA conventionnelle
L'intelligence artificielle générative repose sur les avancées de l'intelligence artificielle classique, exploitant d'importantes quantités de données pour créer du contenu écrit, audio ou visuel en réponse à des demandes de texte libre formulées par ses utilisateurs et programmeurs. Contrairement aux systèmes d'intelligence artificielle classique dédiés à des tâches spécifiques, les modèles de l'intelligence artificielle sont conçus pour être souples et polyvalents.
Les produits de l'intelligence artificielle, tels que ChatGPT, Dall-E et Bard, sont déjà disponibles en tant qu'applications autonomes, et ils sont intégrés dans de nombreux autres produits technologiques grand public, notamment les chatbots sur les sites web. En revanche, les modèles d'intelligence artificielle conventionnelle sont généralement élaborés pour quelques tâches spécifiques et sont souvent limités par l'étendue des données d'apprentissage ainsi que par l'expertise technique du programmateur.
Le processus de formation des modèles consiste à faire ingérer des ensembles de données d'entrée aux modèles d'IA afin qu'ils apprennent les modèles sous-jacents dans les données et produisent des prédictions pour le contexte sur lequel le modèle a été formé. L'intelligence artificielle conventionnelle est déjà largement utilisée dans les produits gouvernementaux et de la société, englobant des applications telles que l'automatisation des processus robotiques, les outils de détection des fraudes, les systèmes de classification d'images, les moteurs de recommandation et les assistants vocaux interactifs.
Comparaison entre l'IA conventionnelle et l'IA générative
IA conventionnelle
- Se consacre à résoudre des problèmes spécifiques ou à accomplir des tâches préalablement définies en utilisant un ensemble de données prédéfini ;
- Apprend des modèles à partir de vastes ensembles de données structurées pour la formation, utilisant ces modèles pour faire des prédictions ou exécuter des tâches ;
- Fonctionne généralement sur des systèmes basés sur des règles, des arbres de décision et des modèles similaires, pouvant apprendre des modèles sous-jacents dans les données mais nécessitant un prétraitement accru pour optimiser les performances de l'algorithme ;
- Applications incluent la reconnaissance d'images, les systèmes de recommandation, la détection d'anomalies, la classification de textes et les systèmes de prédiction des risques ;
- Les mesures de performance spécifiques à chaque tâche évaluent généralement la précision, l'exactitude et les mesures de rappel.
IA générative
- Se spécialise dans la création de nouveaux contenus tels que texte, images, musique, etc., générant des résultats originaux par rapport aux ensembles de données d'entrée ;
- Apprend des modèles à partir d'ensembles de données non structurées, permettant une formation continue pour affiner le modèle en fonction des besoins spécifiques de l'entreprise ;
- Utilise des algorithmes de réseaux neuronaux flexibles capables de traiter diverses entrées et d'apprendre les relations et modèles sous-jacents dans les données ;
- Se destine à des tâches créatives telles que l'art, la musique, la narration, la génération de contenu, la synthèse d'images, la production de texte, la création de vidéos, le transfert de style et le raisonnement logique ;
- Les résultats d’IA générative peuvent être plus subjectifs et dépendent du jugement humain, soulignant l'importance de l'assurance qualité des résultats.
Le rapport recommande une évaluation minutieuse de l'utilisation de la technologie tout en travaillant sur des lignes directrices. En parallèle, des législateurs cherchent à réglementer l'IA, et les autorités mondiales explorent des normes de sécurité. Les débats sur la réglementation de l'IA sont également abordés au niveau mondial, avec des discussions lors de la réunion de la Coopération économique Asie-Pacifique.
La technologie d’IA générative fonctionne à l'aide de modèles de base, qui sont des modèles d'apprentissage automatique à grande échelle dotés de capacités générales. Ces modèles sont formés sur des ensembles de données qui peuvent couvrir l'intégralité de l'Internet, et ils peuvent devenir la base d'applications qui peuvent aider à répondre à des besoins commerciaux, politiques ou sociaux spécifiques.
Au fur et à mesure de leur construction et de leur développement, les modèles de base nécessitent de plus grandes quantités de puissance de calcul et de ressources en capital humain que le développement de l'IA conventionnelle. Les modèles d'IA générique utilisent du contenu généré par l'homme comme partie de leurs données sous-jacentes, et ils peuvent répondre à des requêtes humaines en texte libre avec des résultats à consonance humaine.
Cependant, malgré la capacité de l’IA générative à produire des résultats cohérents et intelligents, il n'y a aucune garantie que ces résultats soient exacts. En fait, bon nombre des modèles de l’IA générative les plus répandus ont été conçus pour démontrer ce qui est possible, plutôt que pour résoudre un cas d'utilisation spécifique ou un objectif commercial. Par conséquent, les modèles gratuits destinés aux consommateurs peuvent produire des résultats inexacts, fabriqués, potentiellement inappropriés et/ou biaisés.
Ces produits démontrent la puissance sans précédent de l’IA générative, et les modèles d'entreprise continuent de s'améliorer en se rapprochant de la manière dont les humains écrivent, dessinent et parlent. Simultanément, le développement et la disponibilité rapides de l’IA générative ont accéléré les risques politiques, commerciaux et sociaux qui sont plus urgents que les technologies d'IA précédentes.
Contexte économique de l’IA générative
La Californie est à l'avant-garde de l'économie florissante de l'IA. Abritant 35 des 50 premières entreprises d'IA au monde, la Californie est à la pointe de l'innovation et de la recherche dans le domaine de l’IA générative. Si l'on ajoute à cela l'accès inégalé de l'État au capital-risque, sa culture de l'innovation et son histoire de nouvelles technologies qui changent le monde, la Californie se trouve à l'épicentre d'un secteur qui connaît une croissance et un développement exponentiels.
Bien que l'on prévoie une croissance du PIB et des gains de productivité, Goldman Sachs a averti que 300 millions d'emplois dans le monde pourraient être affectés par l’IA générative. C'est pourquoi les gouvernements du monde doivent jouer un rôle de premier plan dans la formation et le soutien des travailleurs, afin de leur permettre de participer à l'économie de l'IA et de créer une demande pour que les entreprises s'installent et embauchent.
Le marché mondial de l’IA générative est considérable. Selon Pitchbook, il devrait atteindre 42,6 milliards de dollars cette année. Comme toutes les nouvelles technologies, en particulier celles de cette envergure, l’IA générative offre d'immenses opportunités économiques, ainsi que de nouveaux risques.
À mesure que les industries de l’IA générative se développent, les États-Unis et d'autres pays doivent élaborer des politiques publiques coordonnées et réfléchies pour atténuer les risques et maintenir la confiance du public grâce à des directives d'utilisation éthiques, à la responsabilité et à la transparence, tout en réalisant les avantages économiques potentiels de l’IA générative.
Analyse des risques de l’IA générative
Les investigations, guidées par les retours d'experts et de groupes communautaires, ont permis d'ébaucher une vision émergente des facteurs de risque spécifiques associés à l'IA générative par rapport à ceux présents dans l'IA conventionnelle. Tout comme dans le cas de l'IA traditionnelle, l'IA générative expose à des risques liés à l'utilisation malveillante de la technologie par des acteurs mal intentionnés, ainsi qu'aux capacités émergentes involontaires de l'IA générative pouvant être détournées à des fins néfastes.
Le NIST divise les risques en sept catégories : Validité et fiabilité, sécurité, responsabilité et transparence, sécurité et résilience, explicabilité et interprétabilité, protection de la vie privée et équité. Sans ordre ni poids particulier, ces sept catégories du NIST ont été analysées dans la mesure où elles s'appliquent à l'adoption de l’IA générative en Californie.
Bien que le NIST fournisse un cadre utile pour illustrer les principaux domaines de risque, il ne traite pas spécifiquement de la l’IA générative et n'est pas spécifique aux valeurs de la Californie ou au contexte des cas d'utilisation. Compte tenu de l'évolution rapide des capacités, des intégrations et des normes des produits de la l’IA générative, l'analyse suivante représente une première évaluation des risques de l’IA générative, qui délimite les risques selon qu'il s'agit d'un risque partagé de l'IA conventionnelle, d'un risque amplifié ou d'un nouveau risque associé à l’IA générative.
- Risques partagés : risques connus de l’IA générative, partagés par les types antérieurs de modèles d'IA, sans différences significatives en termes de gravité ou d'échelle ;
- Risques amplifiés : risques des outils l’IA générative, partagés par les types antérieurs de modèles d'IA qui sont amplifiés en raison de l'un des facteurs suivants :
- Réduction des obstacles techniques ou financiers à l'utilisation de l’IA générative ;
- Augmentation de la vitesse ou de l'ampleur de l'impact des outils de l’IA générative ;
- Augmentation de la portée des systèmes ou des processus touchés par l’IA générative ;
- Exposition accrue aux mauvais acteurs grâce à des ensembles de données d'entraînement plus vastes et plus diversifiés ;
- Complexité accrue des architectures technologiques de l’IA générative avec de multiples producteurs et consommateurs.
- Nouveaux risques : de nouveaux risques apparaissent en raison des capacités uniques de la GenAI à générer des résultats de haute qualité à travers une diversité de modalités telles que le texte, les images, l'audio et la vidéo.
Le rapport de l'État de Californie représente une analyse préliminaire d'une conversation beaucoup plus large autour d'une technologie émergente et encore en développement rapide, des considérations environnementales à la formation et à l'éducation. Reconnaissant que l’IA générative présente des risques nouveaux et uniques qui doivent encore être pris en compte dans les futures mises à jour, la Californie a présenté les premiers cas d'utilisation potentiels et les risques identifiés grâce à la recherche documentaire et au retour d'information des parties prenantes.
Les risques uniques posés par les nouvelles capacités de l’IA générative nécessitent une gouvernance accrue pour les risques supplémentaires entre l'IA conventionnelle et l’IA générative.
L’intelligence artificielle générative : une technologie à double tranchant
Bien que le rapport de l'État de Californie sur l'intelligence artificielle générative offre une analyse approfondie des avantages potentiels et des risques associés à cette technologie, quelques points critiques méritent d'être soulignés.
Tout d'abord, le rapport semble mettre l'accent sur les préoccupations liées aux risques sans fournir une évaluation équilibrée des avantages concrets que l'IA générative pourrait apporter. Bien que les risques soient indéniables, il est crucial de reconnaître les opportunités qu'une utilisation éthique et transparente de cette technologie pourrait offrir en termes d'amélioration des services gouvernementaux et d'accessibilité aux programmes publics.
De plus, le rapport semble s'aligner sur les inquiétudes exprimées par certains leaders de l'industrie technologique, notamment Elon Musk, sans donner suffisamment de poids aux opinions plus optimistes au sein de cette même industrie. Un équilibre entre les perspectives pessimistes et optimistes aurait renforcé la crédibilité du rapport.
Par ailleurs, bien que le rapport identifie des risques potentiels tels que la désinformation, l'équité, et les préjugés, il pourrait bénéficier d'une approche plus proactive en proposant des solutions et des recommandations concrètes pour atténuer ces risques. Une telle orientation aurait renforcé la praticité du rapport et offert des pistes de réflexion pour les décideurs.
Enfin, la pression du secteur technologique, mentionnée dans le rapport, pourrait influencer les conclusions et recommandations. Il est crucial de s'assurer que les évaluations et recommandations sont basées sur des données objectives plutôt que sur des intérêts particuliers.
En somme, bien que le rapport soulève des inquiétudes légitimes, une approche plus équilibrée, proactive et indépendante aurait renforcé sa crédibilité et sa valeur en tant que guide pour l'État de Californie dans l'adoption de l'IA générative.
Source : Benefits and Risks of Generative Artificial Intelligence Report, State of California
Et vous ?
Les conclusions du rapport du gouvernement de l'État de Californie sont-elles pertinentes ? Quels sont les risques potentiels de l’IA générative pour les processus démocratiques et juridiques, la sécurité publique et l’économie, et comment peuvent-ils être atténués ?Voir aussi :
Les entreprises doivent encadrer l'utilisation de l'IA générative, d'après Ray Canzanese, Threat Research Director du Threat Labs de Netskope « L'IA générative n'est qu'une phase. La prochaine phase sera l'IA interactive dans laquelle des machines interactives effectueront des tâches à votre place », affirme un cofondateur de DeepMind L'IA générative, le service client numérique et les interfaces utilisateur conversationnelles (CUI) transformeront le service et le support client d'ici 2028, selon Gartner