OpenAI sévit contre les deepfakes de Sora 2 après avoir subi des pressions de la part d'acteurs et de la SAG-AFTRA, qui ont exprimé leur inquiétude après l'apparition de clips non autorisés générés par l'IA.OpenAI a récemment annoncé qu'il allait sévir contre les deepfakes réalisés avec Sora 2, suite aux inquiétudes exprimées par l'acteur Bryan Cranston et le syndicat SAG-AFTRA. L'acteur de « Breaking Bad » et « Malcolm » a fait part de ses inquiétudes après la publication sur l'application de clips non autorisés générés par l'IA utilisant sa voix et son image. Martin Luther King Jr. et Robin Williams ont également été utilisés dans des vidéos deepfake.
Plutôt ce mois d'octobre, la Motion Picture Association (MPA) a exhorté OpenAI à mettre en place des mesures de protection plus strictes contre son dernier modèle de génération vidéo, Sora 2, avertissant que le système d'intelligence artificielle (IA) est utilisé pour produire des contenus qui enfreignent les droit d'auteur. Le groupe, qui représente les principaux studios hollywoodiens, soutient qu'OpenAI doit veiller à ce que les capacités de Sora 2 ne facilitent pas la violation du droit d'auteur, alors que les outils d'IA de génération vidéo connaissent une adoption rapide.
Dans ce contexte, OpenAI a récemment annoncé dans un communiqué conjoint qu'il allait collaborer avec Bryan Cranston, SAG-AFTRA et d'autres syndicats d'acteurs afin de lutter contre les deepfakes sur son application de création vidéo par intelligence artificielle Sora.
L'acteur de « Breaking Bad » et « Malcolm in the Middle » a exprimé son inquiétude après que des clips non autorisés générés par l'IA utilisant sa voix et son image soient apparus sur l'application à la suite du lancement de Sora 2 fin septembre, a déclaré la Screen Actors Guild-American Federation of Television and Radio Artists dans un message publié sur X. « Je suis reconnaissant à OpenAI pour sa politique et pour avoir amélioré ses garde-fous, et j'espère qu'eux-mêmes et toutes les entreprises impliquées dans ce travail respecteront notre droit personnel et professionnel de gérer la reproduction de notre voix et de notre image », a déclaré Bryan Cranston dans un communiqué.
Outre la SAG-AFTRA, OpenAI a déclaré qu'elle collaborerait avec l'agence United Talent Agency, qui représente Cranston, l'Association of Talent Agents et la Creative Artists Agency afin de renforcer les mesures de protection contre les générations d'IA non approuvées. La CAA et l'UTA avaient précédemment critiqué OpenAI pour son utilisation de contenus protégés par le droit d'auteur, qualifiant Sora de risque pour leurs clients et leur propriété intellectuelle.
OpenAI a dû bloquer les vidéos de Martin Luther King Jr. sur Sora à la demande de la succession de King après que des utilisateurs aient créé des « représentations irrespectueuses » du leader des droits civiques. Zelda Williams, la fille du défunt comédien Robin Williams, a demandé aux gens de cesser de lui envoyer des vidéos générées par l'IA de son père peu après la sortie de Sora 2.
L'approche d'OpenAI en matière de restrictions de droits d'auteur et d'autres questions liées à l'image a évolué depuis le lancement de Sora 2 le 30 septembre. Le 3 octobre, le PDG Sam Altman a mis à jour la politique de désactivation de Sora, qui autorisait auparavant l'utilisation de la propriété intellectuelle à moins que les studios ne demandent expressément que leur matériel ne soit pas utilisé, afin de permettre aux détenteurs de droits « un contrôle plus précis sur la génération des personnages ».
Lors de son lancement, Sora exigeait un consentement explicite pour l'utilisation de la voix et de l'image d'une personne, mais OpenAI a déclaré qu'il s'engageait désormais à « répondre rapidement à toute plainte qu'il pourrait recevoir ». La société a réitéré son soutien à la loi NO FAKES, un projet de loi fédéral adopté dans le but de protéger contre les répliques non autorisées générées par l'IA de la voix ou de l'image d'une personne. « OpenAI s'engage fermement à protéger les artistes contre l'utilisation abusive de leur voix et de leur image », a déclaré Altman dans un communiqué. « Nous avons été parmi les premiers à soutenir la loi NO FAKES Act lorsqu'elle a été présentée l'année dernière, et nous défendrons toujours les droits des artistes. »
Depuis son lancement, le générateur de vidéo Sora 2 d'OpenAI a attiré un grand nombre d'utilisateurs. Mais cette version du logiciel fait face à de nombreux défis. Sora 2 produit des vidéos contenant du matériel protégé par des droits d'auteur et il semble facile de contourner ses fonctionnalités de sécurité rudimentaires. Il intègre un système de filigrane visuel, conçu pour identifier les vidéos produites par l’IA et limiter la diffusion de contenus trompeurs. Mais peu de temps après sa sortie, plusieurs outils et scripts ont commencé à circuler sur Internet, promettant d’effacer le filigrane inséré dans les vidéos générées. Ce qui a ouvert la voie à toute forme d'abus.
Voici le communiqué conjoint :
SAG-AFTRA, OpenAI et Bryan Cranston collaborent pour garantir la protection de la voix et de l'image dans Sora 2
SAG-AFTRA, OpenAI, Bryan Cranston, United Talent Agency, Creative Artists Agency et Association of Talent Agents ont publié conjointement la déclaration suivante concernant leur collaboration fructueuse visant à garantir la protection des voix et des images dans Sora 2.
La voix et l'image de l'acteur Bryan Cranston ont pu être générées dans certaines sorties sans consentement ni compensation lorsque Sora 2 d'OpenAI a été lancé initialement dans une version accessible uniquement sur invitation il y a deux semaines. Bien que la politique d'OpenAI ait toujours été d'exiger le consentement préalable pour l'utilisation de la voix et de l'image, OpenAI a exprimé ses regrets pour ces générations involontaires. OpenAI a renforcé les mesures de protection concernant la reproduction de la voix et de l'image lorsque les personnes concernées n'ont pas donné leur consentement.
Cranston, qui a porté cette question à l'attention de SAG-AFTRA, a déclaré : « J'étais profondément préoccupé non seulement pour moi-même, mais aussi pour tous les artistes dont le travail et l'identité peuvent être utilisés à mauvais escient de cette manière. Je suis reconnaissant à OpenAI pour sa politique et pour avoir renforcé ses mesures de protection, et j'espère qu'OpenAI et toutes les entreprises impliquées dans ce travail respecteront notre droit personnel et professionnel de gérer la reproduction de notre voix et de notre image. »
OpenAI a mis en place une politique d'adhésion volontaire pour l'utilisation de la voix ou de l'image d'une personne dans Sora 2. Tous les artistes, interprètes et individus auront le droit de déterminer comment et s'ils peuvent être simulés. Cette politique reflète l'engagement de l'entreprise en faveur des droits des artistes, de la transparence et du déploiement éthique de la technologie générative. Elle s'est également engagée à répondre rapidement à toute plainte qu'elle pourrait recevoir.
La loi NO FAKES
Ce nouveau cadre s'aligne sur les principes énoncés dans la loi NO FAKES, une législation fédérale en cours d'élaboration visant à protéger les artistes et le public contre la reproduction numérique non autorisée. OpenAI, SAG-AFTRA, Bryan Cranston et ses représentants à la United Talent Agency, l'Association of Talent Agents et la Creative Artists Agency partagent une position forte et unifiée en faveur de la loi NO FAKES et soutiennent son objectif d'établir une norme nationale garantissant que la voix et l'image des artistes ne puissent être utilisées sans leur autorisation. Ensemble, nous pensons que le consentement et la rémunération sont les fondements d'un écosystème créatif durable et éthique pour le divertissement et la technologie.
Sean Astin, président de SAG-AFTRA, a déclaré : « Bryan Cranston fait partie des innombrables artistes dont la voix et l'image risquent d'être massivement détournées par la technologie de reproduction. Bryan a pris la bonne décision en communiquant avec son syndicat et ses représentants professionnels afin que cette question soit traitée. Cette affaire particulière a connu une issue positive. Je suis heureux qu'OpenAI se soit engagé à utiliser un protocole d'adhésion volontaire, dans le cadre duquel tous les artistes ont la possibilité de choisir s'ils souhaitent participer à l'exploitation de leur voix et de leur image à l'aide de l'IA. Cette politique doit être durable et je remercie toutes les parties prenantes, y compris OpenAI, d'avoir travaillé ensemble pour que les protections appropriées soient inscrites dans la loi. En termes simples, les protocoles opt-in sont la seule façon de faire des affaires et la loi NO FAKES nous rendra plus sûrs. »
« OpenAI s'engage fermement à protéger les artistes contre l'utilisation abusive de leur voix et de leur image. Nous avons été l'un des premiers à soutenir la loi NO FAKES lorsqu'elle a été présentée l'année dernière, et nous défendrons toujours les droits des artistes », a déclaré Sam Altman, PDG d'OpenAI.
À propos de SAG-AFTRA
SAG-AFTRA représente environ 160 000 acteurs, annonceurs, journalistes de télévision, danseurs, DJ, rédacteurs et éditeurs de journaux télévisés, animateurs de programmes, marionnettistes, artistes de studio, chanteurs, cascadeurs, doubleurs et autres professionnels du divertissement et des médias. Les membres de SAG-AFTRA sont les visages et les voix qui divertissent et informent l'Amérique et le monde entier. Fière affiliée de l'AFL-CIO, SAG-AFTRA dispose de bureaux nationaux à Los Angeles et à New York, ainsi que de bureaux locaux dans tout le pays, qui représentent les membres travaillant ensemble pour garantir la meilleure protection possible aux artistes du divertissement et des médias au XXIe siècle et au-delà.
Et vous ?
Pensez-vous que cette annonce est crédible ou pertinente ? Quel est votre avis sur le sujet ?Voir aussi :
Sam Altman admet que le flux « Slop » de Sora 2 inspiré de TikTok est un moyen de gagner de l'argent pour financer les GPU. Deepfakes, violation des droits d'auteur, des problèmes fondamentaux émergent La fille de Robin Williams supplie les fans d'arrêter de lui envoyer des vidéos générées par IA de son défunt père : « C'est stupide, c'est une perte de temps et d'énergie » AI slop : les vidéos générées par IA envahissent les plateformes comme TikTok et YouTube, exploitant les failles des algorithmes de recommandation pour générer du clic et de l'argent
Vous avez lu gratuitement 3 055 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
.