Le géant de la technologie OpenAI a confirmé qu'il s'apprêtait à ajouter des filigranes aux images générées par sa technologie DALL-E 3. Cette nouvelle intervient alors que de plus en plus d'entreprises technologiques soutiennent une longue série de normes issues de la C2PA.La société a indiqué que les filigranes apparaîtraient à côté des photos prises sur le site Web ChatGPT. Pendant ce temps, l'API du modèle se prépare à effectuer les changements en ce moment même. Cela signifie que tous les utilisateurs mobiles auront accès aux filigranes d'ici la mi-février. Ils comprendront des métadonnées invisibles ainsi qu'un symbole CR visible qui apparaîtra sur le côté gauche de chaque photo.
Les utilisateurs peuvent même aller jusqu'à vérifier quels outils ont été utilisés pour mettre le contenu en ligne via les plateformes de l'entreprise en consultant divers sites web tels que Content Credentials Verify. Il est toutefois confirmé que seules les images sont concernées, et non les textes ou les vidéos, pour ce qui est de l'ajout de filigranes.
Si vous vous demandez pourquoi il y a un filigrane, c'est pour s'assurer que l'impact sur la qualité de l'image est négligeable. Cela permettrait également d'agrandir les images pour quelques tâches en cours de route.
La C2PA, qui regroupe des entreprises telles que Microsoft et Adobe, encourage l'utilisation de filigranes depuis plusieurs jours. Elles espèrent que cela aidera le spectateur à identifier le contenu généré par l'homme et celui qui a été créé à l'aide de la technologie de l'IA.
Mais si vous pensez que le filigrane est le seul moyen de mettre fin à la désinformation, ce n'est pas le cas. Aujourd'hui, de nombreuses applications de pointe suppriment les métadonnées des contenus téléchargés en ligne.
L'entreprise affirme que l'adoption de telles mesures et la reconnaissance de la nécessité de tels changements constituent une étape clé pour garantir que les informations numériques sont correctes et dignes de confiance.
Qu'est-ce que la norme C2PA et que permet-elle ?
La norme C2PA est une norme technique ouverte qui permet aux éditeurs, aux entreprises et à d'autres acteurs d'intégrer des métadonnées dans les médias afin de vérifier leur origine et les informations qui s'y rapportent. La norme C2PA n'est pas seulement destinée aux images générées par l'IA : elle est également adoptée par les fabricants d'appareils photo, les organismes de presse et d'autres acteurs pour certifier la source et l'historique (ou la provenance) du contenu des médias.
Quelle est la mise en œuvre de C2PA par OpenAI ?
Les images générées avec ChatGPT sur le web et l'API servant le modèle DALL-E 3, incluront désormais les métadonnées C2PA. Ce changement sera également appliqué à tous les utilisateurs mobiles d'ici le 12 février. Les utilisateurs peuvent utiliser des sites tels que Content Credentials Verify pour vérifier si une image a été générée par le modèle DALL-E 3 sous-jacent à l'aide des outils d'OpenAI. Cela devrait indiquer que l'image a été générée par notre API ou ChatGPT, à moins que les métadonnées n'aient été supprimées.
Les métadonnées telles que C2PA ne sont pas une solution miracle pour résoudre les problèmes de provenance. Elles peuvent facilement être supprimées, accidentellement ou intentionnellement. Par exemple, la plupart des plateformes de médias sociaux suppriment aujourd'hui les métadonnées des images téléchargées, et des actions telles qu'une capture d'écran peuvent également les supprimer. Par conséquent, une image dépourvue de ces métadonnées peut ou non avoir été générée avec ChatGPT ou l'API.
OpenAI pense que l'adoption de ces méthodes d'établissement de la provenance et l'encouragement des utilisateurs à reconnaître ces signaux sont essentiels pour accroître la fiabilité des informations numériques.
Le texte ou la voix générés par ChatGPT ou l'API d'OpenAI contiennent-ils des métadonnées C2PA ?
Actuellement, seules les images générées par ChatGPT ou l'API pour le modèle DALL-E 3 contiennent des métadonnées C2PA.
Quel est l'impact de la C2PA sur la taille des fichiers ?
Vous trouverez ci-dessous quelques exemples illustrant la manière dont la taille des images peut changer avec l'ajout de ces données :
- 3,1 Mo → 3,2 Mo pour le PNG via l'API (augmentation de 3 %)
- 287k → 302k pour WebP via API (5% d'augmentation)
- 287k → 381k pour WebP via ChatGPT (32% d'augmentation)
Cela devrait avoir un effet négligeable sur la latence et n'affectera pas la qualité de la génération d'images.
Quelles métadonnées seront intégrées dans les images générées ?
Vous pouvez voir des exemples ci-dessous :
Images générées via l'API
Les images produites via l'API contiendront une signature indiquant qu'elles ont été générées par le modèle DALL-E 3 sous-jacent.
Images générées via ChatGPT
Les images produites par ChatGPT contiendront un manifeste supplémentaire indiquant que le contenu a été créé à l'aide de ChatGPT. Cela crée une lignée à double origine, comme indiqué ci-dessous.
Partie 1 (Deuxième manifeste de métadonnées signalant que l'image a fait surface dans ChatGPT)
Partie 2 (manifeste initial de métadonnées signalant que l'image a été créée à l'aide de DALL-E 3)
Source : OpenAI
Et vous ?
Pensez-vous que cette initiative est crédible ou pertinente ? Quel est votre avis sur le sujet ?Voir aussi :
DALL-E 3 est maintenant disponible dans ChatGPT Plus et Enterprise, permettant aux abonnés payants de ChatGPT d'utiliser le générateur d'images Les législateurs californiens envisagent d'exiger que les photos et vidéos créées par l'IA soient marquées d'un filigrane, mais les projets de loi proposés sont contestés par les entreprises d'IA Les contenus générés par l'IA générative devraient être étiquetés, afin de prévenir les abus potentiels de la technologie et les risques de désinformation, selon la commissaire européenne Jourova 
