Anthropic va commencer à intégrer des filigranes invisibles dans les textes et les images générés par Claude

Ces filigranes resteront visibles même lorsque le texte sera copié-collé ailleurs

Anthropic a révélé que Claude intégrera discrètement des filigranes invisibles dans les textes générés par l'IA, ces marqueurs pouvant potentiellement subsister même lorsque le texte est copié-collé ailleurs. L'entreprise ajoutera également des métadonnées de provenance signées numériquement aux fichiers image, conformément à la norme C2PA, dans le cadre de sa mise en conformité avec les nouvelles exigences de transparence prévues par la loi européenne sur l'IA. Ces marqueurs seront appliqués au niveau du modèle sur l'ensemble des produits et interfaces Claude. Le déploiement sera mondial et ne se limitera pas à l'UE. Toutefois, le système n'est pas infaillible, car les métadonnées peuvent être supprimées et les filigranes textuels peuvent devenir plus difficiles à détecter.

Le 1er août 2024, le règlement sur l’intelligence artificielle (IA) de l’Union européenne est entré en vigueur. Cette législation vise à encourager le développement et l’adoption de systèmes d’IA sûrs et fiables sur le marché unique de l’UE, tant par les acteurs privés que publics. Elle s’efforce également de garantir le respect des droits fondamentaux des citoyens de l’UE tout en stimulant les investissements et l’innovation dans le domaine de l’IA en Europe.

Anthropic, PBC, est une société américaine d'intérêt public spécialisée dans l'IA, dont le siège social est situé à San Francisco, en Californie, et qui a été fondée dans le but de promouvoir la sécurité de l'IA. Son produit phare est Claude, une série de grands modèles de langage (LLM). Anthropic a été fondée en 2021 par d'anciens membres d'OpenAI, notamment les frère et sœur Daniela Amodei et Dario Amodei, respectivement présidente et PDG. La société est privée mais prévoit d'entrer en bourse. En mai 2026, sa valorisation était estimée à 965 milliards de dollars, ce qui en fait la société spécialisée exclusivement dans l'IA la plus valorisée au monde.

Anthropic a révélé que Claude intégrera discrètement des filigranes invisibles dans les textes générés par l’IA, ces marqueurs pouvant potentiellement subsister même lorsque le texte est copié-collé ailleurs. L’entreprise ajoutera également des métadonnées de provenance signées numériquement aux fichiers image pris en charge, conformément à la norme C2PA, dans le cadre de sa mise en conformité avec les nouvelles exigences de transparence prévues par la loi européenne sur l’IA (EU AI Act), entrée en vigueur le 2 août.

Ces marqueurs seront appliqués au niveau du modèle sur l’ensemble des produits et interfaces Claude, notamment Claude, Claude Code, Claude Cowork, Claude Tag, l’API de la plateforme Claude, ainsi que des services tiers tels qu’AWS, Google Cloud et Microsoft Foundry. Les nouveaux modèles Claude intégreront ce système dès leur lancement, tandis qu’Anthropic travaille encore à l’ajouter aux modèles existants. Le déploiement sera mondial et ne se limitera pas à l’UE.

Anthropic développe également des outils et de la documentation technique afin que les utilisateurs et les tiers puissent détecter ces marqueurs. Il convient également de noter qu’un marqueur détecté indique uniquement que Claude a peut-être traité le contenu, et non qu’il l’a rédigé à l’origine. Cela peut s’appliquer même si l’utilisateur n’a utilisé Claude que pour des tâches mineures telles que la correction grammaticale ou la traduction de texte. Toutefois, le système n’est pas infaillible, car les métadonnées C2PA peuvent être supprimées, tandis que des modifications importantes, des paraphrases, des traductions ou des passages courts peuvent rendre les filigranes textuels plus difficiles à détecter.


Après des années de négociations et d’ajustements réglementaires, l’UE se verra désormais dotée de nouveaux pouvoirs étendus pour réglementer les grands modèles d’IA à usage général. À partir du 2 août, la Commission pourra exiger des informations auprès des fournisseurs de modèles, mener des évaluations de sécurité, ordonner des mesures correctives, retirer des modèles du marché de l’UE et même infliger des amendes pouvant atteindre 3 % du chiffre d’affaires annuel total. Le véritable défi sera de savoir si la Commission est disposée à les utiliser et si elle en a les moyens.

Voici les explications de Claude :

Comment Claude identifie les contenus générés par l'IA

Anthropic a signé le code de bonnes pratiques relatif à la transparence des contenus générés par l’IA, prévu à l’article 50, paragraphe 2, de la loi européenne sur l’IA, en tant que fournisseur à la fois de modèles et de systèmes d’IA générative. Cet article décrit comment nous comptons mettre en œuvre ces engagements, comment fonctionne le marquage et quelles en sont les limites. Nous mettrons à jour cet article et publierons des recommandations techniques plus détaillées dès qu’elles seront disponibles.

Mentions lisibles par machine dans les contenus générés par Claude

À mesure que les contenus générés par l’IA se généralisent, une plus grande transparence et des indications sur la provenance de ces contenus peuvent fournir aux utilisateurs un contexte utile concernant les informations qu’ils consultent. Afin de favoriser la transparence et de respecter nos obligations légales, Anthropic s’efforce d’intégrer des mentions lisibles par machine dans les contenus générés par Claude.

Ce qui est concerné


Comment Claude marque le contenu

Claude utilise deux techniques complémentaires pour marquer le contenu qu’il génère et traite : des filigranes intégrés au texte, et des métadonnées de provenance signées associées aux fichiers.

1. Filigranes intégrés au texte
   
   Lorsqu’un modèle Claude pris en charge génère du texte, il y intègre directement un filigrane imperceptible. Vous ne le verrez pas, et cela ne modifie en rien le sens, la qualité ou la lisibilité de la réponse de Claude. Comme le filigrane fait partie intégrante du texte, il sera transféré avec celui-ci lorsqu’il sera copié et collé ailleurs, et pourra persister malgré certaines modifications. L’application du filigrane se fera au niveau du modèle, ce qui signifie qu’il sera présent quel que soit le produit ou l’interface Claude d’où provient le texte.
   
   
2. Métadonnées de provenance signées
   
   Lorsque Claude génère un type de fichier pris en charge, tel qu’un fichier .svg, .png ou .jpg, il y joint des métadonnées de provenance signées. Ces métadonnées respectent la norme ouverte de la Coalition for Content Provenance and Authenticity (C2PA), utilisée dans l’ensemble du secteur pour enregistrer des informations sur la provenance du contenu. La présence d’une étiquette de métadonnées signée indique qu’un fichier a été traité par Claude et vous permet de détecter si le fichier a été altéré.

Détection des marques de Claude

Nous travaillons également à...