Des législateurs californiens cherchent à forcer les entreprises d'IA à prendre des mesures pour faciliter la distinction des contenus générés par l'IA par rapport aux contenus générés par les humains. En effet, un certain nombre de projets de loi, élaborés par différents législateurs, visent à exiger l'apposition d'un filigrane sur les contenus créés par l'IA. Ils envisagent ainsi de mettre un terme aux abus de cette technologie émergente qui a affecté des secteurs allant des courses politiques au marché boursier. Les experts semblent toutefois divisés sur la question, puisque certains sont sceptiques quant à l'efficacité de cette solution.L'IA a désormais le potentiel de rendre les deepfakes plus sophistiqués que jamais, suscitant de nombreuses préoccupations. D'après les experts, cela représente une menace pour les élections, les marchés boursiers, la démocratie, la vie privée, et bien d'autres encore. Par exemple, aux États-Unis, l'on est préoccupé par les impacts que l'IA pourrait avoir sur les élections présidentielles de novembre 2024. De nombreux produits d'IA permettent aujourd'hui de générer des vidéos, des images et des contenus audios hyperréalistes pouvant convaincre facilement l'électorat et ainsi de faire pencher les votes dans un sens donné.
En Californie, pour lutter contre les abus de cette technologie, certains législateurs envisageraient d'obliger les entreprises d'IA à mettre en place un système de filigrane pour leurs produits d'IA générative. L'initiative vise à permettre aux citoyens de reconnaître facilement les contenus qui ont été générés par l'IA et d'éviter ainsi les manipulations de masse observées par le passé. Selon Drew Liebert, directeur de l'Initiative californienne pour la technologie et la démocratie, au cours d'une année électorale cruciale et dans un monde en ligne rempli de désinformation, la capacité de distinguer le réel du faux est très cruciale.
En mai de l'année dernière, une photo générée par l'IA devenue virale a eu des conséquences désastreuses sur la bourse aux États-Unis. La photo présentait faussement une attaque terroriste contre les États-Unis, notamment le Pentagone. « La célèbre photo diffusée sur Internet, qui prétendait que le Pentagone avait été attaqué, a provoqué une perte momentanée de 500 milliards de dollars sur le marché boursier. Cette perte n'aurait pas été aussi importante si les gens avaient pu déterminer instantanément que l'image n'était pas du tout réelle », a déclaré Liebert. Mais plusieurs idées semblent être en concurrence.
La députée Akilah Weber (D) a été l'une des premières à se pencher sur la question, déclarant qu'elle souhaitait exiger une norme industrielle pour les contenus générés par l'IA. Cette référence pourrait faire référence à la norme C2PA, adoptée par des sociétés telles que Microsoft et Adobe. Pour faire court, la norme C2PA lie les informations de provenance, c'est-à-dire le processus de création et d'adaptation du contenu numérique, à un élément de média tout au long de son parcours d'édition. Le bureau de Weber a déclaré qu'il ne pouvait pas confirmer les détails du projet de loi, qui est encore en cours d'élaboration.
De son côté, le sénateur Josh Becker (D) a élaboré un projet de loi qui obligerait les grands fournisseurs de produits d'IA à apposer un filigrane sur les images, les vidéos et les audios créés par leurs modèles d'IA. Sa proposition va plus loin que les filigranes en exigeant des entreprises qu'elles mettent en place une plateforme permettant à quiconque de vérifier si un contenu a été créé par leurs modèles d'IA. Selon Tom Kemp, un défenseur de la vie privée qui travaille avec Becker sur cette mesure, l'objectif de cette plateforme de vérification est de tenir compte du fait que les filigranes peuvent être falsifiés ou supprimés.
La plateforme peut également vérifier si un texte écrit est généré par l'IA, car le texte est difficile à filigraner. En fin de compte, elle permettra de prouver que les travaux réalisés par des êtres humains sont bien des travaux réalisés par des êtres humains. « Des étudiants vont être accusés à tort d'avoir rendu des devoirs qu'ils ont faits », a déclaré Kemp, qui a ajouté qu'un ami de la famille avait connu un tel scénario. « Certaines entreprises affirment qu'elles peuvent de détecter un contenu généré par l'IA, mais elles n'en ont aucune certitude. Pour moi, pourquoi ne pas demander directement à ChatGPT ? », note-t-il.
En outre, Liebert a indiqué que son organisation travaillait avec Buffy Wicks (D), membre de l'Assemblée, sur une proposition qui obligerait également les entreprises à intégrer des données de provenance pour les contenus générés par l'IA. Cette mesure s'inspirerait en partie de la future loi sur l'IA de l'Union européenne (UE), qui, tel qu'elle est rédigée, exigera l'étiquetage des "deepfakes" et la communication d'informations aux consommateurs. La loi de l'UE exige également la conception de systèmes permettant de détecter facilement les médias générés par l'IA dans un "format lisible par une machine".
Par ailleurs, le député Evan Low (D) a promis de légiférer sur les filigranes d'IA. Le député Avelino Valencia (D) a déposé un projet de loi préliminaire (A.B. 1824) qui exigerait la divulgation des contenus générés par l'IA. Ces mesures législatives viseraient les produits d'IA populaires, tels que ChatGPT, qui appartient à OpenAI, basé à San Francisco. Toutefois, les mesures préliminaires ne s'attaquent pas au problème urgent dans lequel des individus malhonnêtes peuvent utiliser des modèles d'IA open source ou librement accessibles pour créer des deepfakes ou d'autres contenus sans aucune mesure de protection.
« Je ne dis pas qu'il s'agit d'une panacée, mais je pense que nous y travaillons tous. Au niveau le plus élémentaire, nous devrions être en mesure de dire que quelque chose a été créé par l'IA », a déclaré Becker. Les législateurs n'ont pas finalisé la formulation des projets de loi, i, bien que certains d'entre eux et les groupes d'intérêt qui suivent le sujet aient partagé certains détails. Ils ont déclaré que les approches concurrentes devraient probablement être résolues plus tard dans le processus législatif. Mais ces projets de loi pourraient se heurter à une opposition farouche de la part des entreprises technologiques.
L'un des principaux obstacles sera l'application de la loi, dont les détails sont encore en suspens. Selon Liebert, ce sera un défi, en particulier en ce qui concerne le droit fédéral. « L'UE n'a pas de premier amendement. Elle n'a donc pas à se préoccuper des contraintes de la liberté d'expression à cet égard. Nous avons le premier amendement et nous avons aussi des limitations en matière d'application de la loi, ce qui n'est pas le cas de l'UE », a déclaré Liebert. Les défenseurs...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
