OpenAI teste l'ajout de filigrane aux images générées à l'aide du modèle d'IA de génération d'image intégré à ChatGPT-4o,

Mais la fonction de filigrane semble réservée aux utilisateurs de la version gratuite

OpenAI pourrait bientôt doter le générateur d'image intégré à ChatGPT-4o d'une fonction d'ajout de filigrane. Cette initiative intervient dans un contexte où la possibilité de générer des images dans le style du Studio Ghibli entraîne une utilisation accrue du modèle appelé « Image Generation ». Les images générées avec la version payante de ChatGPT seront sauvegardées sans filigrane. La fonction de filigrane semble apparemment réservée aux utilisateurs de la version gratuite. Cependant, il n'est pas certain qu'OpenAI ira de l'avant avec son projet de filigrane pour les images. L'entreprise n'a rien confirmé et le projet peut changer du tout au tout.

OpenAI teste l'ajout d'un filigrane aux images générées par ChatGPT-4o

OpenAI proposait un modèle appelé DALL-E qui permet aux utilisateurs de créer des images à partir de descriptions textuelles. Mais plus récemment, OpenAI a ajouté des capacités avancées de génération d'image directement dans son modèle phare GPT-4o, permettant de créer des visuels précis et photoréalistes à partir de descriptions textuelles. Cette nouvelle fonctionnalité de GPT-4o est appelée « Image Generation » et suscite un très grand engouement.

Le modèle Image Generation permet non seulement de générer avec précision des images avec des invites, mais aussi de créer des visuels réalistes, tels que les œuvres produites par le Studio Ghibli, un nom célèbre et important dans le monde des studios japonais. Image Generation était auparavant réservé aux utilisateurs payants (c'est-à-dire les clients de ChatGPT Plus), mais il est désormais accessible à tous, y compris à ceux qui utilisent la version gratuite.


Comme l'a repéré Tibor Blaho, chercheur en IA, il semble qu'OpenAI travaille sur un nouveau filigrane « ImageGen » pour les utilisateurs gratuits. OpenAI aurait récemment commencé à tester l'ajout de filigrane aux images générées (à l'aide du modèle Image Generation) à partir d'un compte ChatGPT gratuit.

Selon le chercheur en IA, le filigrane visible testé sur les sorties des comptes gratuits apparaît sous la forme d'une étiquette « ImageGen ». Il s'agit d'une stratégie plus large de la part d'OpenAI visant à renforcer l'attribution des contenus dans un contexte de surveillance accrue des médias générés par l'IA.

Si le filigrane visible est le changement le plus évident, OpenAI ajoute aussi des métadonnées dans les images grâce à la norme C2PA. Ces identifiants lisibles par une machine comprennent des horodatages, des étiquettes logicielles et des marqueurs d'origine permettant de vérifier la provenance du contenu. OpenAI ajoute des métadonnées C2PA aux images générées par DALL-E 3. Dans le cadre de cette initiative, OpenAI s'appuie sur ses résultats antérieurs.

Si vous êtes abonné à ChatGPT Plus, vous pouvez enregistrer vos images sans filigrane. Cela dit, on ne sait pas encore si OpenAI ira de l'avant avec son projet de filigrane. Les projets d'OpenAI sont toujours susceptibles de changer. D'un autre côté, les experts sont sceptiques quant à l'efficacité des filigranes et les utilisateurs ont plusieurs astuces pour s'en débarrasser. Par exemple, certains utilisent le modèle Gemini de Google pour supprimer les filigranes.

De nombreux experts sont sceptiques quant à l'efficacité des filigranes

En 2023, un utilisateur de Midjourney a généré des images montrant le président français Emmanuel Macron en train de ramasser des ordures dans les rues de Paris et se mêler aux forces de l'ordre pour encadrer des manifestants. Les images ont rapidement été recensées comme des deepfakes, mais elles ont suscité les réactions de plusieurs milliers d'internautes en raison de leur réalisme. Depuis, de nombreuses images de ce type sont devenues virales.

Selon les analystes, le monde entre dans une nouvelle ère où il sera de plus en plus difficile de distinguer ce qui est réel de ce qui ne l'est pas. Ainsi, il est urgent de trouver un moyen efficace pouvant permettre aux internautes de distinguer le vrai du faux. Pour cela, certains proposent d'adopter une norme mondiale en matière de filigrane pour harmoniser la façon dont les contenus générés par l'IA sont étiquetés. Cependant, cette mesure est controversée.

Les filigranes visent à lutter contre l'utilisation abusive de contenus générés par l'IA. Mais les approches actuelles sont limitées. Les filigranes appliqués aux contenus générés par l'IA présentent des limitations qui remettent en question leur efficacité. Plusieurs défis techniques et pratiques sont mis en avant :

• vulnérabilités techniques : les filigranes numériques peuvent être facilement supprimés ou falsifiés. Des chercheurs ont démontré que plusieurs techniques permettent d'effacer ces marques, rendant leur fiabilité discutable ;
• fiabilité limitée : une analyse de Mozilla a évalué diverses méthodes de filigrane et de marquage, concluant que leur efficacité est généralement « médiocre » ou « passable » ;
• durabilité des filigranes : assurer que les filigranes restent intacts malgré les modifications courantes des contenus, telles que le redimensionnement ou la compression, représente un défi technique majeur ;
• exploitation par des acteurs malveillants : des personnes malintentionnées peuvent manipuler les filigranes pour créer de fausses informations ou pour contourner les systèmes de détection, exacerbant ainsi le problème de la désinformation ;
• complexité d'application : l'intégration de filigranes dans les contenus générés par l'IA nécessite une collaboration étroite entre les entreprises technologiques pour établir des normes communes, ce qui représente un défi considérable.

Le mois dernier, les autorités chinoises ont publié de nouvelles directives exigeant l'apposition d'étiquettes sur tous les contenus générés par l'IA et diffusés en ligne. L'initiative vise à lutter contre l'utilisation abusive de l'IA et la diffusion d'infox. Les directives stipulent que le contenu généré ou synthétisé à l'aide des systèmes d'IA, y compris les textes, les images, les audios, les vidéos et les scènes virtuelles, doit être étiqueté de manière visible et invisible.

La nouvelle loi sur l'IA de l'Union européenne (EU AI Act) impose un étiquetage clair assorti d'exigences de traçabilité, tandis que les États-Unis travaillent à l'élaboration de lignes directrices pour l'étiquetage et la détection des contenus générés par l'IA. Elle est entrée en vigueur en août dernier.

La Grande-Bretagne, quant à elle, a présenté un projet de loi proposant la création d'une autorité de régulation de l'IA et la consécration de la transparence et de la conformité. Dans les forums de discussions, les utilisateurs appellent également à une norme internationale et open source en la matière.

Mais selon certains experts, l'étiquetage seul peut ne pas être suffisant. Par exemple, ils notent également que l'application de la loi présente des difficultés. Les...