OpenAI sévit contre les deepfakes de Sora 2 après avoir subi des pressions de la part d'acteurs et de la SAG-AFTRA, qui ont exprimé leur inquiétude

Après l'apparition de clips non autorisés générés par l'IA

OpenAI a récemment annoncé qu'il allait sévir contre les deepfakes réalisés avec Sora 2, suite aux inquiétudes exprimées par l'acteur Bryan Cranston et le syndicat SAG-AFTRA. L'acteur de « Breaking Bad » et « Malcolm » a fait part de ses inquiétudes après la publication sur l'application de clips non autorisés générés par l'IA utilisant sa voix et son image. Martin Luther King Jr. et Robin Williams ont également été utilisés dans des vidéos deepfake.

Plutôt ce mois d'octobre, la Motion Picture Association (MPA) a exhorté OpenAI à mettre en place des mesures de protection plus strictes contre son dernier modèle de génération vidéo, Sora 2, avertissant que le système d'intelligence artificielle (IA) est utilisé pour produire des contenus qui enfreignent les droit d'auteur. Le groupe, qui représente les principaux studios hollywoodiens, soutient qu'OpenAI doit veiller à ce que les capacités de Sora 2 ne facilitent pas la violation du droit d'auteur, alors que les outils d'IA de génération vidéo connaissent une adoption rapide.

Dans ce contexte, OpenAI a récemment annoncé dans un communiqué conjoint qu'il allait collaborer avec Bryan Cranston, SAG-AFTRA et d'autres syndicats d'acteurs afin de lutter contre les deepfakes sur son application de création vidéo par intelligence artificielle Sora.

L'acteur de « Breaking Bad » et « Malcolm in the Middle » a exprimé son inquiétude après que des clips non autorisés générés par l'IA utilisant sa voix et son image soient apparus sur l'application à la suite du lancement de Sora 2 fin septembre, a déclaré la Screen Actors Guild-American Federation of Television and Radio Artists dans un message publié sur X. « Je suis reconnaissant à OpenAI pour sa politique et pour avoir amélioré ses garde-fous, et j'espère qu'eux-mêmes et toutes les entreprises impliquées dans ce travail respecteront notre droit personnel et professionnel de gérer la reproduction de notre voix et de notre image », a déclaré Bryan Cranston dans un communiqué.

Outre la SAG-AFTRA, OpenAI a déclaré qu'elle collaborerait avec l'agence United Talent Agency, qui représente Cranston, l'Association of Talent Agents et la Creative Artists Agency afin de renforcer les mesures de protection contre les générations d'IA non approuvées. La CAA et l'UTA avaient précédemment critiqué OpenAI pour son utilisation de contenus protégés par le droit d'auteur, qualifiant Sora de risque pour leurs clients et leur propriété intellectuelle.


OpenAI a dû bloquer les vidéos de Martin Luther King Jr. sur Sora à la demande de la succession de King après que des utilisateurs aient créé des « représentations irrespectueuses » du leader des droits civiques. Zelda Williams, la fille du défunt comédien Robin Williams, a demandé aux gens de cesser de lui envoyer des vidéos générées par l'IA de son père peu après la sortie de Sora 2.

L'approche d'OpenAI en matière de restrictions de droits d'auteur et d'autres questions liées à l'image a évolué depuis le lancement de Sora 2 le 30 septembre. Le 3 octobre, le PDG Sam Altman a mis à jour la politique de désactivation de Sora, qui autorisait auparavant l'utilisation de la propriété intellectuelle à moins que les studios ne demandent expressément que leur matériel ne soit pas utilisé, afin de permettre aux détenteurs de droits « un contrôle plus précis sur la génération des personnages ».

Lors de son lancement, Sora exigeait un consentement explicite pour l'utilisation de la voix et de l'image d'une personne, mais OpenAI a déclaré qu'il s'engageait désormais à « répondre rapidement à toute plainte qu'il pourrait recevoir ». La société a réitéré son soutien à la loi NO FAKES, un projet de loi fédéral adopté dans le but de protéger contre les répliques non autorisées générées par l'IA de la voix ou de l'image d'une personne. « OpenAI s'engage fermement à protéger les artistes contre l'utilisation abusive de leur voix et de leur image », a déclaré Altman dans un communiqué. « Nous avons été parmi les premiers à soutenir la loi NO FAKES Act lorsqu'elle a été présentée l'année dernière, et nous défendrons toujours les droits des artistes. »

Depuis son lancement, le générateur de vidéo Sora 2 d'OpenAI a attiré un grand nombre d'utilisateurs. Mais cette version du logiciel fait face à de nombreux défis. Sora 2 produit des vidéos contenant du matériel protégé par des droits d'auteur et il semble facile de contourner ses fonctionnalités de sécurité rudimentaires...