Le générateur de vidéo Sora 2 d'OpenAI attire un grand nombre d'utilisateurs depuis son lancement. Mais cette version du logiciel fait face à de nombreux défis. Sora 2 produit des vidéos contenant du matériel protégé par des droits d'auteur et il semble facile de contourner ses fonctionnalités de sécurité rudimentaires. Il intègre un système de filigrane visuel, conçu pour identifier les vidéos produites par l’IA et limiter la diffusion de contenus trompeurs. Mais peu de temps après sa sortie, plusieurs outils et scripts ont commencé à circuler sur Internet, promettant d’effacer le filigrane inséré dans les vidéos générées. Ce qui ouvre la voie à toute forme d'abus.Lancé en février 2024, Sora est un modèle texte-vidéo développé par OpenAI. Sora 2, le dernier modèle de génération de vidéo et audio d'OpenAI, a été publié fin septembre 2025. La nouvelle mouture du logiciel est capable de générer des vidéos hyperréalistes. OpenAI a aussi publié une nouvelle application Sora, présentée comme une plateforme sociale permettant aux utilisateurs de partager, de remixer et de découvrir des vidéos générées par l'IA.
Sora 2 permet aux utilisateurs de créer ce qu'OpenAI appelle des « caméos », ou des apparitions d'invités, d'eux-mêmes et d'autres personnes dans des vidéos. Cette fonctionnalité exige des utilisateurs qu'ils fassent un enregistrement vidéo et audio unique d'eux-mêmes pour vérifier leur identité.
Sora 2 appose un filigrane visuel sur chaque vidéo qu'il génère. Il est destiné à aider les gens à faire la distinction entre le contenu réel généré par des humains et les images générées par l'IA. Cependant, il apparaît que « le petit logo en forme de nuage aux yeux de dessin animé » est facile à supprimer et il existe une demi-douzaine de sites Web qui permettent à n'importe qui de le faire en quelques minutes. Ces programmes se multiplient rapidement.
Une simple recherche du terme « sora watermark » (filigrane Sora) sur n'importe quel réseau social renvoie vers des sites où les utilisateurs peuvent télécharger une vidéo Sora 2 et supprimer le filigrane. 404 Media a testé trois de ces logiciels, qui ont tous supprimé le filigrane de la vidéo en quelques secondes. Ce marquage devait garantir une forme de traçabilité et de transparence dans l’usage de la technologie, mais son efficacité est remise en cause.
Les experts ont toujours été sceptiques quant à l'efficacité des filigranes
Il existe une longue tradition de marquage de documents et d'autres objets pour prouver leur authenticité, indiquer la propriété et lutter contre la contrefaçon. Selon certains experts, le filigrane idéal est celui qui est imperceptible et qui résiste à des manipulations simples telles que le recadrage, le redimensionnement, l'ajustement des couleurs et la conversion des formats numériques. Toutefois, dans le cas de l'IA, ils ne sont pas enthousiastes sur le sujet.
Un grand nombre de spécialistes ne considèrent pas les filigranes comme une solution efficace pouvant aider à lutter contre la fraude et la désinformation, ainsi que d'autres formes d'abus des logiciels d'IA. Selon eux, il y aura toujours un moyen de corrompre les filigranes, peu importe leur robustesse.
« Il ne sera pas possible de dire simplement oui ou non si quelque chose est généré par l'IA ou non, même avec des filigranes. Il y aura des moyens de corrompre les filigranes », a déclaré Sam Gregory, directeur de programme à l'organisation à but non lucratif Witness, qui aide les gens à utiliser la technologie pour promouvoir les droits de l'homme. D'après lui, filigraner les contenus générés par l'IA pourrait s'avérer beaucoup plus difficile qu'on le croit.
« Un filigrane (étiquette visuelle) ne suffit pas à empêcher les utilisateurs malveillants persistants de tenter de tromper les gens avec du contenu généré par l'IA à partir de Sora », a déclaré Rachel Tobac, PDG de SocialProof Security. Selon les experts, OpenAI utiliserait des stratégies telles que les filigranes, les identifiants de contenu et les garde-fous sémantiques pour gérer les utilisations malveillantes de ses outils. Mais cela n'a pas d'importance. Les experts affirment que ce n'est qu'une question de temps avant que quelqu'un d'autre ne lance un modèle sans ces mesures de protection.
Le projet open source C2PA est également confronté à des défis
Certains fournisseurs de logiciels d'IA s'appuient sur les métadonnées de la « Coalition for Content Provenance and Authenticity » (C2PA) pour identifier les images générées par l'IA. Cependant, cette méthode peut être également contournée. La C2PA est une initiative qui se concentre sur l'authentification des contenus par le biais d'un protocole appelé Content Credentials, bien que le groupe affirme que sa technologie peut être couplée au filigrane.
Il s'agit d'un protocole open source qui s'appuie sur la cryptographie pour encoder des détails sur l'origine d'un élément de contenu. Cela signifie, par exemple,...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
.