OpenAI a récemment annoncé qu'il allait sévir contre les deepfakes réalisés avec Sora 2, suite aux inquiétudes exprimées par l'acteur Bryan Cranston et le syndicat SAG-AFTRA. L'acteur de « Breaking Bad » et « Malcolm » a fait part de ses inquiétudes après la publication sur l'application de clips non autorisés générés par l'IA utilisant sa voix et son image. Martin Luther King Jr. et Robin Williams ont également été utilisés dans des vidéos deepfake.Plutôt ce mois d'octobre, la Motion Picture Association (MPA) a exhorté OpenAI à mettre en place des mesures de protection plus strictes contre son dernier modèle de génération vidéo, Sora 2, avertissant que le système d'intelligence artificielle (IA) est utilisé pour produire des contenus qui enfreignent les droit d'auteur. Le groupe, qui représente les principaux studios hollywoodiens, soutient qu'OpenAI doit veiller à ce que les capacités de Sora 2 ne facilitent pas la violation du droit d'auteur, alors que les outils d'IA de génération vidéo connaissent une adoption rapide.
Dans ce contexte, OpenAI a récemment annoncé dans un communiqué conjoint qu'il allait collaborer avec Bryan Cranston, SAG-AFTRA et d'autres syndicats d'acteurs afin de lutter contre les deepfakes sur son application de création vidéo par intelligence artificielle Sora.
L'acteur de « Breaking Bad » et « Malcolm in the Middle » a exprimé son inquiétude après que des clips non autorisés générés par l'IA utilisant sa voix et son image soient apparus sur l'application à la suite du lancement de Sora 2 fin septembre, a déclaré la Screen Actors Guild-American Federation of Television and Radio Artists dans un message publié sur X. « Je suis reconnaissant à OpenAI pour sa politique et pour avoir amélioré ses garde-fous, et j'espère qu'eux-mêmes et toutes les entreprises impliquées dans ce travail respecteront notre droit personnel et professionnel de gérer la reproduction de notre voix et de notre image », a déclaré Bryan Cranston dans un communiqué.
Outre la SAG-AFTRA, OpenAI a déclaré qu'elle collaborerait avec l'agence United Talent Agency, qui représente Cranston, l'Association of Talent Agents et la Creative Artists Agency afin de renforcer les mesures de protection contre les générations d'IA non approuvées. La CAA et l'UTA avaient précédemment critiqué OpenAI pour son utilisation de contenus protégés par le droit d'auteur, qualifiant Sora de risque pour leurs clients et leur propriété intellectuelle.
OpenAI a dû bloquer les vidéos de Martin Luther King Jr. sur Sora à la demande de la succession de King après que des utilisateurs aient créé des « représentations irrespectueuses » du leader des droits civiques. Zelda Williams, la fille du défunt comédien Robin Williams, a demandé aux gens de cesser de lui envoyer des vidéos générées par l'IA de son père peu après la sortie de Sora 2.
L'approche d'OpenAI en matière de restrictions de droits d'auteur et d'autres questions liées à l'image a évolué depuis le lancement de Sora 2 le 30 septembre. Le 3 octobre, le PDG Sam Altman a mis à jour la politique de désactivation de Sora, qui autorisait auparavant l'utilisation de la propriété intellectuelle à moins que les studios ne demandent expressément que leur matériel ne soit pas utilisé, afin de permettre aux détenteurs de droits « un contrôle plus précis sur la génération des personnages ».
Lors de son lancement, Sora exigeait un consentement explicite pour l'utilisation de la voix et de l'image d'une personne, mais OpenAI a déclaré qu'il s'engageait désormais à « répondre rapidement à toute plainte qu'il pourrait recevoir ». La société a réitéré son soutien à la loi NO FAKES, un projet de loi fédéral adopté dans le but de protéger contre les répliques non autorisées générées par l'IA de la voix ou de l'image d'une personne. « OpenAI s'engage fermement à protéger les artistes contre l'utilisation abusive de leur voix et de leur image », a déclaré Altman dans un communiqué. « Nous avons été parmi les premiers à soutenir la loi NO FAKES Act lorsqu'elle a été présentée l'année dernière, et nous défendrons toujours les droits des artistes. »
Depuis son lancement, le générateur de vidéo Sora 2 d'OpenAI a attiré un grand nombre d'utilisateurs. Mais cette version du logiciel fait face à de nombreux défis. Sora 2 produit des vidéos contenant du matériel protégé par des droits d'auteur et il semble facile de contourner ses fonctionnalités de sécurité rudimentaires. Il intègre un système de filigrane visuel, conçu pour identifier les vidéos produites par l’IA et limiter la diffusion de contenus trompeurs. Mais peu de temps après sa sortie, plusieurs outils et scripts ont commencé à circuler sur Internet, promettant d’effacer le filigrane inséré dans les vidéos générées. Ce qui a ouvert la voie à toute forme d'abus.
Voici le communiqué conjoint :
[QUOTE]
SAG-AFTRA, OpenAI et Bryan Cranston collaborent pour garantir la protection de la voix et de l'image dans Sora 2
SAG-AFTRA, OpenAI, Bryan Cranston, United Talent Agency, Creative Artists Agency et Association of Talent Agents ont publié conjointement la déclaration suivante concernant leur collaboration fructueuse visant à garantir la protection des voix et des images dans Sora 2.
La voix et l'image de l'acteur Bryan Cranston ont pu être générées dans certaines sorties sans consentement ni compensation lorsque Sora 2 d'OpenAI a été lancé initialement dans une version accessible uniquement sur invitation il y a deux semaines. Bien que la politique d'OpenAI ait toujours été d'exiger le consentement préalable pour l'utilisation de la voix et de l'image, OpenAI a exprimé ses regrets pour ces générations involontaires. OpenAI a renforcé les mesures de protection concernant la reproduction de la voix et de l'image lorsque les personnes concernées n'ont pas donné leur consentement.
Cranston, qui a porté cette question à l'attention de SAG-AFTRA, a déclaré : « J'étais profondément préoccupé non seulement pour moi-même, mais aussi pour tous les artistes dont le travail et l'identité peuvent être utilisés à mauvais escient de cette manière. Je suis reconnaissant à OpenAI pour sa politique et pour avoir renforcé ses mesures de protection, et j'espère qu'OpenAI et toutes les entreprises impliquées dans ce travail respecteront notre droit personnel et professionnel de gérer la reproduction de notre voix et de notre image. »
OpenAI a mis en place une politique d'adhésion volontaire pour l'utilisation de la voix ou de l'image d'une personne dans Sora 2. Tous les artistes, interprètes et individus auront le droit de déterminer comment et s'ils peuvent être simulés. Cette politique reflète l'engagement de l'entreprise en faveur des droits des artistes, de la transparence et du déploiement éthique de la technologie générative. Elle s'est également engagée à répondre rapidement à toute plainte qu'elle pourrait recevoir.
La loi NO FAKES
Ce nouveau cadre s'aligne sur les principes énoncés dans la loi NO FAKES, une législation fédérale en cours d'élaboration visant à protéger les artistes et le public contre la reproduction numérique non autorisée. OpenAI, SAG-AFTRA, Bryan Cranston et ses représentants à la United Talent Agency, l'Association of Talent Agents et la Creative Artists Agency partagent une position forte et unifiée en faveur de la loi NO FAKES et soutiennent son objectif d'établir une norme nationale garantissant que la voix et l'image des artistes ne puissent être utilisées sans leur autorisation. Ensemble, nous pensons que le consentement et la rémunération sont les fondements d'un écosystème créatif durable et éthique pour le divertissement et la technologie.
Sean Astin, président de SAG-AFTRA, a déclaré : « Bryan Cranston fait partie des innombrables...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.