La loi "NO FAKES Act" a changé, et c'est bien pire, car elle s'est transformée en quelque chose qui pourrait changer l'internet pour toujours, en nuisant à la liberté d'expression et à l'innovation

La loi "NO FAKES Act" a changé, et c'est bien pire, car elle s'est transformée en quelque chose qui pourrait changer l'internet pour toujours, en nuisant à la liberté d'expression et à l'innovation.

La loi "NO FAKES Act" vise à répondre aux préoccupations compréhensibles concernant les "répliques" créées par l'IA générative en créant un nouveau droit de propriété intellectuelle très large. Selon l'EFF, cette approche a été la première erreur. Le projet de loi actualisé double cette approche initiale erronée en imposant une toute nouvelle infrastructure de censure pour ce système, englobant non seulement les images mais aussi les produits et services utilisés pour les créer, avec peu de garanties contre les abus.

En 2023, un projet de loi bipartisan avait pour but d'interdire la création d'imitations d'une personne générées par l'IA sans son consentement. Si le projet de loi "Nurture Originals, Foster Art and Keep Entertainment Safe" (No Fakes Act) était adopté, tout créateur d'une chanson, d'une photo ou d'une vidéo générée par l'IA qui prétend représenter une personne sans avoir obtenu l'autorisation de cette dernière sera tenu responsable à hauteur de 5 000 dollars par infraction, plus tout dommage supplémentaire subi par une partie lésée à la suite de l'infraction. La loi s'appliquerait également à toute personne jusqu'à 70 ans après sa mort.

Un sénateur avait déclaré : "Les créateurs du pays entier demandent au Congrès de définir des politiques claires pour réglementer l'utilisation et l'impact de l'IA générative, et le Congrès doit trouver un juste équilibre pour défendre les droits individuels, respecter le premier amendement et encourager l'innovation et la créativité en matière d'IA."

Pourtant, l'Electronic Frontier Foundation (EFF) affirme que le projet de loi censé s'attaquer au problème de la désinformation et de la diffamation causées par l'IA générative s'est transformé en quelque chose qui pourrait changer l'internet pour toujours, en nuisant à la liberté d'expression et à l'innovation à partir de maintenant. Après les changements apportés au projet de loi, l'EFF a partagé son point de vue sur le sujet.


Voici l'avis de l'EFF sur les mises à jour du projet de loi "No Fakes Act" :

La loi "NO FAKES Act" vise à répondre aux préoccupations compréhensibles concernant les "répliques" créées par l'IA générative en créant un nouveau droit de propriété intellectuelle très large. Selon l'EFF, cette approche a été la première erreur : au lieu de donner aux gens des outils ciblés pour se protéger contre les fausses représentations nuisibles, en tenant compte de la nécessité de protéger les discours légitimes tels que les parodies et les satires, le projet de loi NO FAKES original s'est contenté de fédérer un système d'octroi de licences d'utilisation d'images.

Le projet de loi actualisé double cette approche initiale erronée en imposant une toute nouvelle infrastructure de censure pour ce système, englobant non seulement les images mais aussi les produits et services utilisés pour les créer, avec peu de garanties contre les abus. L'EFF affirme que ce projet de loi serait un désastre pour la liberté d'expression et l'innovation sur Internet.

La nouvelle version de NO FAKES exige de presque tous les gardiens d'Internet qu'ils créent un système qui a) supprimera le discours dès réception d'une notification ; b) empêchera toute occurrence récurrente - c'est-à-dire adoptera inévitablement des filtres de réplique trop larges en plus des filtres de droits d'auteur déjà profondément défectueux ; c) supprimera et filtrera les outils qui pourraient avoir été utilisés pour créer l'image ; et d) démasquera l'utilisateur qui a téléchargé le matériel sur la base de rien de plus que l'avis de la personne qui a été prétendument « répliquée ».

Outils ciblés

La première version de NO FAKES se concentrait sur les répliques numériques. La nouvelle version va plus loin, en ciblant les outils qui peuvent être utilisés pour produire des images qui ne sont pas autorisées par l'individu, par quiconque détient les droits sur l'image de cet individu, ou par la loi. Toute personne qui fabrique, commercialise ou héberge de tels outils est mise en cause. Il existe certaines limites - les outils doivent être principalement conçus pour, ou n'avoir que des utilisations commerciales limitées autres que la production d'images non autorisées - mais ces limites ne rassureront guère les développeurs étant donné qu'ils peuvent être ciblés sur la base d'une simple allégation.

Ces dispositions donnent effectivement aux détenteurs de droits le droit de veto sur l'innovation qu'ils recherchent depuis longtemps dans les guerres de droits d'auteur, fondées sur les mêmes paniques technologiques.

Avis de retrait et mandat de filtrage

La première version de NO FAKES mettait en place un système d'avis et de retrait calqué sur le DMCA, avec encore moins de garanties. NO FAKES l'étend à un plus grand nombre de fournisseurs de services et exige de ces derniers non seulement qu'ils retirent les matériels (ou outils) ciblés, mais aussi qu'ils les empêchent d'être téléchargés à l'avenir. En d'autres termes, il s'agit d'adopter des filtres larges ou de perdre la sphère de sécurité.

Les filtres posent déjà un énorme problème en matière de droits d'auteur et, dans ce cas précis, ils devraient simplement signaler pour examen humain si un téléchargement semble être une copie intégrale d'une œuvre. En réalité, ces systèmes signalent souvent des choses qui sont similaires mais pas identiques (comme deux personnes différentes jouant le même morceau de musique du domaine public). Ils signalent également des infractions sur la base de quelques secondes d'un match et ne tiennent souvent pas compte du contexte qui rendrait l'utilisation autorisée par la loi.

Mais les filtres de droits d'auteur ne sont pas encore exigés par la loi. Le projet de loi NO FAKES créerait une obligation légale qui conduirait inévitablement à des vetos de chahuteurs et à d'autres formes de surcensure. Le projet de loi prévoit des exceptions pour la parodie, la satire et le commentaire, mais celles-ci ne seront qu'un réconfort pour ceux qui n'ont pas les moyens de porter la question devant les tribunaux.

Menaces sur les discours anonymes

Dans sa version actuelle, la loi NO FAKES permet également à quiconque d'obtenir une assignation à comparaître auprès d'un greffier - et non d'un juge, et sans aucune forme de preuve - pour obliger un service à fournir des informations d'identification sur un utilisateur.

Dans les affaires de droits d'auteur, les personnes mécontentes des critiques formulées à leur encontre obtiennent de telles citations à comparaître pour faire taire leurs détracteurs. Souvent, la critique inclut les propres mots du plaignant comme preuve de la critique, un exemple d'utilisation équitable. Mais l'assignation est tout de même délivrée et, à moins que le service ne soit incroyablement vigilant, l'utilisateur peut être démasqué.

Non seulement cela freine la liberté d'expression, mais le démasquage lui-même peut nuire aux utilisateurs, que ce soit sur le plan de la réputation ou de l'image. Que ce soit au niveau de leur réputation ou de leur vie personnelle.

Menaces pour l'innovation

La plupart des gens sont très mécontents de l'état des grandes entreprises technologiques. Il semble que non seulement nous soyons de plus en plus contraints d'utiliser les géants de la technologie, mais aussi que la qualité de leurs services se dégrade activement. En augmentant la quantité d'infrastructures dont un nouveau service aurait besoin pour se conformer à la loi, NO FAKES rend plus difficile pour tout nouveau service de défier les Big Tech. Ce n'est probablement pas une coïncidence si certains de ces géants sont d'accord avec cette nouvelle version de NO FAKES.

Exiger le retrait d'outils, d'applications et de services pourrait également freiner l'innovation. D'une part, cela nuirait aux personnes qui utilisent ces services pour une créativité par ailleurs licite. D'autre part, elle découragerait les innovateurs de développer de nouveaux outils. Qui veut investir dans un outil ou un service qui peut être mis hors ligne sur la base d'une simple allégation ?

Ce projet de loi est une solution à la recherche d'un problème. Il y a quelques mois, le Congrès a adopté le projet de loi « Take It Down », qui visait les images à caractère intime ou sexuel. Ce projet de loi fait pression sur les plateformes pour qu'elles surveillent activement les propos tenus en ligne, y compris ceux qui sont actuellement cryptés.

Mais si le Congrès s'inquiète vraiment des atteintes à la vie privée, il devrait au moins attendre de voir les effets de la dernière réglementation sur l'internet avant de s'engager plus avant dans une nouvelle réglementation. Son incapacité à le faire montre clairement qu'il ne s'agit pas de protéger les victimes de répliques numériques préjudiciables. Selon l'EFF, "NO FAKES est conçu pour consolider le contrôle de l'exploitation commerciale des images numériques, et non pour l'empêcher. En cours de route, il causera des dommages collatéraux à chacun."

À propos de l'EFF

L'Electronic Frontier Foundation est la principale organisation à but non lucratif qui défend les libertés civiles dans le monde numérique. Fondée en 1990, l'EFF défend la vie privée des utilisateurs, la liberté d'expression et l'innovation par le biais de litiges, d'analyses politiques, d'activisme de terrain et de développement technologique. La mission de l'EFF est de veiller à ce que la technologie soutienne la liberté, la justice et l'innovation pour tous les peuples du monde.

Source : Electronic Frontier Foundation (EFF)

Et vous ?

Pensez-vous que cet avis de l'EFF est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

L'EFF propose d'aborder les préjudices en ligne avec des politiques "Privacy-First". Une loi sur la confidentialité des données, promouvant la vie privée, la liberté d'expression et la sécurité

Trump promulgue la loi controversée « Take It Down » qui pourrait être utilisée pour censurer les contenus légaux et les opposants. Elle comporte également des failles majeures qui menacent le chiffrement

L'IA permet de créer des répliques numériques de personnes célèbres et la loi est impuissante face à la montée en puissance du phénomène. Certains experts sont impressionnés par leurs doubles