Anthropic va intégrer des filigranes invisibles à l'ensemble des contenus traités par Claude afin de se conformer au règlement « AI Act » de l'Union européenne. Cette mesure s'appliquera non seulement aux textes générés de toutes pièces, mais aussi aux écrits humains ayant subi de simples modifications comme des corrections grammaticales. Bien que cette initiative vise à accroître la transparence et la responsabilité, elle suscite une vive controverse parmi les utilisateurs qui craignent une stigmatisation de leur travail personnel. De plus, ces filigranes pourraient être facilement altérés, entraînant des interprétations erronées sur l'origine réelle des documents. Le règlement sur l’intelligence artificielle de l’Union européenne (AI Act) est entré en vigueur le 1er août 2024. Cette législation vise à encourager le développement et l’adoption de systèmes d’IA sûrs et fiables sur le marché unique de l’UE, tant par les acteurs privés que publics. Elle s’efforce également de garantir le respect des droits fondamentaux des citoyens de l’UE, tout en stimulant les investissements et l’innovation dans l'IA en Europe.
Pour se conformer à la législation, Anthropic va intégrer des filigranes invisibles dans les textes produits par son assistant d'IA Claude. L'entreprise a choisi de déployer ces filigranes invisibles de manière globale sur tous ses nouveaux modèles à l'échelle internationale, et non pas uniquement au sein de l'UE.
Mais cette décision a déclenché un véritable tollé parmi les utilisateurs. Anthropic marquera systématiquement tous les textes générés (ou traités) par ses modèles de langage. Cela signifie que même des modifications mineures, comme de simples corrections grammaticales ou des reformulations, recevront cette étiquette numérique invisible alors même que la loi européenne exempte explicitement les fonctions d'assistance à l'édition standard.
Fonctionnement technique et limites d'efficacité du système
« Les textes générés comporteront des filigranes intégrés, invisibles pour l’utilisateur, et les autres fichiers générés incluront des métadonnées de provenance signées numériquement lorsque cela est pris en charge », précise un billet de blogue de l'entreprise. Le filigrane textuel est intégré directement au niveau du modèle en influençant subtilement le choix des mots selon une structure détectable par un outil spécialisé conçu par l'entreprise d'IA.
Il convient de noter qu’Anthropic adopte une approche radicale, en appliquant les filigranes à l’ensemble du contenu traité lorsque cela est pris en charge, même si l’UE ne l’exige pas dans les cas où un système d’IA remplit « une fonction d’assistance pour l’édition standard » (l’exemple donné dans les lignes directrices est la correction grammaticale), ou lorsqu’il ne modifie pas de manière substantielle le texte de l’utilisateur ou sa signification.
De plus, cette empreinte numérique invisible comporte un inconvénient majeur : le modèle d'IA peut être contraint d'échanger un terme optimal contre un mot légèrement moins adapté pour préserver l'intégrité du signal. Un filigrane appliqué au niveau du modèle ne permet pas de distinguer la génération en masse d’une simple correction ponctuelle ; Claude pourrait donc finir par marquer précisément le contenu que la loi vise à laisser intact.
En bref, on ne saura pas dans quelle mesure ce filigrane est réellement efficace tant qu’Anthropic n’aura pas publié un outil de détection pouvant être testé. Le laboratoire a également précisé que les filigranes ne fonctionneront pas sur « certaines plateformes ou fonctionnalités » qui ne les prennent pas en charge. Pour les contenus non textuels, Anthropic s'appuiera sur l’approche des métadonnées C2PA afin d’en enregistrer la provenance.
Les filigranes d'Anthropic suscitent la colère des utilisateurs
Alors que les régulateurs européens ont salué cette évolution, certains utilisateurs ont fait part de leur frustration. Sur Reddit, des détracteurs ont fait valoir que le système de filigrane exposait injustement des cas d’utilisation courante, qu’il s’agisse d’étudiants réorganisant des paragraphes ou de journalistes résumant des transcriptions. Certains critiques vont même jusqu'à affirmer que cette pratique est « contraire à l’éthique et répugnante ».
« Claude n’était qu’un simple outil destiné à faciliter le travail humain, mais nous nous retrouvons désormais avec une balise qui attribuera chacune de nos productions à l'IA. C'est un véritable problème pour les particuliers et les entreprises qui ont des agents IA autonomes dans leurs processus », a écrit un critique.
« Un enseignant pourrait faussement suspecter un élève de plagiat intégral en détectant la marque Claude, même si l'étudiant a rédigé lui-même son devoir et a uniquement sollicité l'IA pour corriger son style ou sa grammaire. C'est un casse-tête pour les utilisateurs ». Pourtant, la non-conformité aux règles de l'AI Act expose Anthropic à de lourdes amendes pouvant atteindre 15 millions d'euros ou 3 % de son chiffre d'affaires mondial.
Tous les utilisateurs ne sont toutefois pas indignés. Certains défendent le filigrane comme une mesure de protection raisonnable, affirment qu’il permettrait de détecter les contenus générés par l’IA dans des contextes à haut risque. « Il n’y a littéralement aucun argument valable pour expliquer pourquoi ce n’est pas une bonne idée », a écrit un internaute, ajoutant que la seule raison de s’y opposer serait de vouloir induire les autres en erreur.
Des filigranes finalement peu fiables et faciles à contourner
L’approche décrite par l’UE et mise en œuvre par Anthropic s'avère en effet facile à contourner pour les acteurs malveillants, et risque de pénaliser les utilisateurs qui font confiance au système pour étiqueter avec précision leurs résultats. Selon Anthropic, les filigranes textuels fonctionnent en biaisant les choix lexicaux du modèle selon un schéma réparti sur l’ensemble du document, détectable uniquement de manière globale par l’outil approprié.
Le hic, c’est que cette « invisibilité » peut signifier que le modèle troque parfois le meilleur mot contre un autre légèrement moins bon, simplement pour préserver le signal. Anthropic a précisé que ces marques suivront le texte lorsqu’il sera copié et collé ailleurs, et pourraient subsister après certaines modifications. Toutefois, si un texte comportant un filigrane est collé dans un autre outil d'IA qui modifie le texte, le filigrane pourrait être détruit.
En ce qui concerne les contenus image et vidéo, il suffira également de faire une capture d’écran, d’enregistrer la vidéo ou d’utiliser n’importe quel outil d’édition de métadonnées digne de ce nom pour supprimer ces informations. Anthropic prévoit également de révéler au monde entier comment identifier ces filigranes. Une cela fait, mettre au point un système permettant de les supprimer ne sera qu’un jeu d’enfant pour les passionnés.
De plus, le risque d’interprétation erronée semble élevé ; le filigrane n’est pas particulièrement informatif. Selon Anthropic, une marque détectée indique que le contenu a été traité par Claude, mais n’est pas totalement concluante. « Le seul véritable...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Nb
Que pensez-vous des filigranes intégrés à l'IA Claude d'Anthropic ?
