Anthropic ajoute un filigrane invisible à Claude pour se conformer à l'AI Act de l'UE. Il s'applique aux contenus générés de toutes pièces, mais aussi aux écrits humains modifiés par l'IA,

Ce qui est décrié

Anthropic va intégrer des filigranes invisibles à l'ensemble des contenus traités par Claude afin de se conformer au règlement « AI Act » de l'Union européenne. Cette mesure s'appliquera non seulement aux textes générés de toutes pièces, mais aussi aux écrits humains ayant subi de simples modifications comme des corrections grammaticales. Bien que cette initiative vise à accroître la transparence et la responsabilité, elle suscite une vive controverse parmi les utilisateurs qui craignent une stigmatisation de leur travail personnel. De plus, ces filigranes pourraient être facilement altérés, entraînant des interprétations erronées sur l'origine réelle des documents.

Le règlement sur l’intelligence artificielle de l’Union européenne (AI Act) est entré en vigueur le 1er août 2024. Cette législation vise à encourager le développement et l’adoption de systèmes d’IA sûrs et fiables sur le marché unique de l’UE, tant par les acteurs privés que publics. Elle s’efforce également de garantir le respect des droits fondamentaux des citoyens de l’UE, tout en stimulant les investissements et l’innovation dans l'IA en Europe.

Pour se conformer à la législation, Anthropic va intégrer des filigranes invisibles dans les textes produits par son assistant d'IA Claude. L'entreprise a choisi de déployer ces filigranes invisibles de manière globale sur tous ses nouveaux modèles à l'échelle internationale, et non pas uniquement au sein de l'UE.

Mais cette décision a déclenché un véritable tollé parmi les utilisateurs. Anthropic marquera systématiquement tous les textes générés (ou traités) par ses modèles de langage. Cela signifie que même des modifications mineures, comme de simples corrections grammaticales ou des reformulations, recevront cette étiquette numérique invisible alors même que la loi européenne exempte explicitement les fonctions d'assistance à l'édition standard.

Fonctionnement technique et limites d'efficacité du système

« Les textes générés comporteront des filigranes intégrés, invisibles pour l’utilisateur, et les autres fichiers générés incluront des métadonnées de provenance signées numériquement lorsque cela est pris en charge », précise un billet de blogue de l'entreprise. Le filigrane textuel est intégré directement au niveau du modèle en influençant subtilement le choix des mots selon une structure détectable par un outil spécialisé conçu par l'entreprise d'IA.


Il convient de noter qu’Anthropic adopte une approche radicale, en appliquant les filigranes à l’ensemble du contenu traité lorsque cela est pris en charge, même si l’UE ne l’exige pas dans les cas où un système d’IA remplit « une fonction d’assistance pour l’édition standard » (l’exemple donné dans les lignes directrices est la correction grammaticale), ou lorsqu’il ne modifie pas de manière substantielle le texte de l’utilisateur ou sa signification.

De plus, cette empreinte numérique invisible comporte un inconvénient majeur : le modèle d'IA peut être contraint d'échanger un terme optimal contre un mot légèrement moins adapté pour préserver l'intégrité du signal. Un filigrane appliqué au niveau du modèle ne permet pas de distinguer la génération en masse d’une simple correction ponctuelle ; Claude pourrait donc finir par marquer précisément le contenu que la loi vise à laisser intact.

En bref, on ne saura pas dans quelle mesure ce filigrane est réellement efficace tant qu’Anthropic n’aura pas publié un outil de détection pouvant être testé. Le laboratoire a également précisé que les filigranes ne fonctionneront pas sur « certaines plateformes ou fonctionnalités » qui ne les prennent pas en charge. Pour les contenus non textuels, Anthropic s'appuiera sur l’approche des métadonnées C2PA afin d’en enregistrer la provenance.

Les filigranes d'Anthropic suscitent la colère des utilisateurs

Alors que les régulateurs européens ont salué cette évolution, certains utilisateurs ont fait part de leur frustration. Sur Reddit, des détracteurs ont fait valoir que le système de filigrane exposait injustement des cas d’utilisation courante, qu’il s’agisse d’étudiants réorganisant des paragraphes ou de journalistes résumant des transcriptions. Certains critiques vont même jusqu'à affirmer que cette pratique est « contraire à l’éthique et répugnante ».


« Claude n’était qu’un simple outil destiné à faciliter le travail humain, mais nous nous retrouvons désormais avec une balise qui attribuera chacune de nos productions à l'IA. C'est un véritable problème pour les particuliers et les entreprises qui ont des agents IA autonomes dans leurs processus », a écrit un critique.

« Un enseignant pourrait faussement suspecter un élève de plagiat intégral en détectant la marque Claude, même si l'étudiant a rédigé lui-même son devoir et a uniquement sollicité l'IA pour corriger son style ou sa grammaire. C'est un casse-tête pour les utilisateurs ». Pourtant, la non-conformité aux règles de l'AI Act expose Anthropic à de lourdes amendes pouvant atteindre 15 millions d'euros ou 3 % de son chiffre d'affaires mondial.

Tous les utilisateurs ne sont toutefois pas indignés. Certains défendent le filigrane comme une mesure de protection raisonnable, affirment qu’il permettrait de détecter les contenus générés par l’IA dans des contextes à haut risque. « Il n’y a littéralement aucun argument valable pour expliquer pourquoi ce n’est pas une bonne idée », a écrit un internaute, ajoutant que la seule raison de s’y opposer serait de vouloir induire les autres en erreur.

Des filigranes finalement peu fiables et faciles à contourner

L’approche décrite par l’UE et mise en œuvre par Anthropic s'avère en effet facile à contourner pour les acteurs malveillants, et risque de pénaliser les utilisateurs qui font confiance au système pour étiqueter avec précision leurs résultats. Selon Anthropic, les filigranes textuels fonctionnent en biaisant les choix lexicaux du modèle selon un schéma réparti sur l’ensemble du document, détectable uniquement de manière globale par l’outil approprié.


Le hic, c’est que cette « invisibilité » peut signifier que le modèle troque parfois le meilleur mot contre un autre légèrement moins bon, simplement pour préserver le signal. Anthropic a précisé que ces marques suivront le texte lorsqu’il sera copié et collé ailleurs, et pourraient subsister après certaines modifications. Toutefois, si un texte comportant un filigrane est collé dans un autre outil d'IA qui modifie le texte, le filigrane pourrait être détruit.

En ce qui concerne les contenus image et vidéo, il suffira également de faire une capture d’écran, d’enregistrer la vidéo ou d’utiliser n’importe quel outil d’édition de métadonnées digne de ce nom pour supprimer ces informations. Anthropic prévoit également de révéler au monde entier comment identifier ces filigranes. Une cela fait, mettre au point un système permettant de les supprimer ne sera qu’un jeu d’enfant pour les passionnés.

De plus, le risque d’interprétation erronée semble élevé ; le filigrane n’est pas particulièrement informatif. Selon Anthropic, une marque détectée indique que le contenu a été traité par Claude, mais n’est pas totalement concluante. « Le seul véritable message que transmet cette marque est que le contenu a peut-être été traité par Claude », a précisé Anthropic. La marque peut même apparaître sur du contenu qui n’a pas été généré par Claude.

À cela s’ajoute le grand public, qui ne saisit peut-être pas la différence entre un texte traité et un texte entièrement généré. Si le système appose un filigrane sur un texte rédigé par un humain simplement parce qu’il a été édité dans un flux de travail passant par Claude, celui-ci revêt soudainement la même connotation qu’un texte entièrement généré. « En cherchant à bien faire, ils ont peut-être ajouté de la confusion », a commenté un critique.

L'approche d'Anthropic va au-delà des exigences de l'AI Act

Les filigranes s'appliquent indifféremment à tout usage de Claude, de la correction orthographique à la réécriture complète. Ce qui signifie qu'ils vont plus loin que nécessaire dans l’étiquetage du contenu, d’une manière susceptible de brouiller involontairement la provenance. Cela pourrait frustrer les utilisateurs. La question devient encore plus confuse lorsque l’on se penche sur une autre disposition de la loi européenne sur l’IA, l’article 50(4).


Elle traite de la manière dont les éditeurs de ce type de texte doivent étiqueter leur contenu. Selon elle, les textes entièrement générés par l’IA ne nécessitent pas d’étiquette dans la plupart des cas. Un roman écrit par l’IA ? Pas d’étiquette. Un texte marketing généré par l’IA ? Non plus. Mais si le texte a pour but « d’informer le public sur des questions d’intérêt général », il doit être étiqueté, sauf si un être humain l’a relu à des fins éditoriales.

En conclusion, on se retrouve dans une situation étrange où, au niveau du système d'IA, la règle est « tout marquer d’un filigrane », mais en matière de diffusion publique, c’est « vous n’avez pas besoin d’étiqueter ce texte généré par l’IA si Joe l’a relu ». Anthropic a choisi la solution la plus facile, mais également la plus contraignante pour les utilisateurs. Sur la toile, certains ont publié des captures d'écran montrant qu'ils ont résilié leurs abonnements.

Sources : Anthropic, billet de blogue

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des filigranes intégrés à l'IA Claude d'Anthropic ?
Que pensez-vous des limites de cette approche. Quels seront les impacts sur les utilisateurs ?
L'approche d'Anthropic va au-delà des exigences du règlement de l'Union européenne sur l'IA. Qu'en pensez-vous ?

Voir aussi

Anthropic va commencer à intégrer des filigranes invisibles dans les textes et les images générés par Claude, ces filigranes resteront visibles même lorsque le texte sera copié-collé ailleurs

AI Act : les nouvelles règles européennes en matière d'intelligence artificielle entrent en vigueur, l'objectif déclaré est d'encourager le développement et l'adoption de systèmes IA sûrs et fiables en UE

Remove-AI-Watermarks : un nouvel outil CLI permettant de supprimer les filigranes visibles et invisibles des images générés par l'IA, menaçant d'aggraver l'invasion du Web par l'AI slop non identifié