Une station de radio de Sydney utilise une animatrice générée par l'IA depuis environ six mois sans le divulguer. Elle est critiquée pour son manque de transparence

Et l'affaire soulève des questions éthiques

La station de radio CADA de Sydney a utilisé une animatrice générée par l'IA pendant environ six mois sans le divulguer. Sa voix est générée par la technologie d'ElevenLabs à partir de scripts préécrits. CADA n'était pas légalement obligée de révéler qu'elle utilise une animatrice artificielle, mais lorsque les auditeurs l'ont découvert, cela a suscité des réactions négatives. Beaucoup ont dénoncé le manque de transparence et ont critiqué la qualité des interventions et l'absence d'émotion ou de spontanéité. En 2023, CNET a provoqué un tollé après qu'il est apparu que le site publiait discrètement des articles entièrement générés par l'IA sans le divulguer clairement.

La semaine dernière, il a été révélé que la station CADA de l'Australian Radio Network, basée à Sydney, qui diffuse dans l'ouest de la ville et est disponible en ligne et via l'application iHeartRadio, a déployé une animatrice artificielle pour son créneau « Workdays With Thy ». L'animatrice artificielle, connue sous le nom de « Thy », est à l'antenne à 11h tous les jours de la semaine pour présenter quatre heures de hip-hop, selon le site Web de la station de radio.

Mais l'utilisation de l'IA n'est divulguée à aucun moment de l'émission ni nulle part sur le site Web d'ARN. La page Web de l'émission indique simplement : « pendant que vous êtes au travail, en voiture, dans les transports en commun ou à l'université, Thy vous jouera les morceaux les plus chauds du monde entier ».

Au fil du temps, Thy a attiré l'attention en raison de certaines choses étranges. Par exemple, le site Web The Carpet était curieux de savoir pourquoi Thy n'apparaissait nulle part sur les médias sociaux, ce qui, selon le site, est assez étrange pour une jeune femme de 20 ans dans les médias. Il s'est avéré que CADA a utilisé ElevenLabs pour créer Thy, dont la ressemblance et la voix ont été clonées à partir d'une véritable employée de l'équipe financière d'ARN.


ElevenLabs est une startup spécialisée dans la synthèse vocale. Fondée en 2022 par Piotr Dąbkowski et Mati Staniszewski, l'entreprise a rapidement gagné en popularité grâce à ses outils avancés de clonage vocal, basés sur l'IA générative, et à sa plateforme de synthèse vocale de haute qualité. Bien que la technologie d'ElevenLabs offre des possibilités innovantes, elle a également soulevé des préoccupations éthiques, notamment en ce qui concerne les abus.

Certains critiques dénoncent le manque de transparence de CADA

L'Australian Financial Review estime que « Workdays With Thy » a été diffusé sur CADA depuis novembre 2024 et qu'il a touché au moins 72 000 personnes dans les audiences du mois dernier. Le blogueur radio James Cridland a vivement critiqué la démarche, estimant qu'il s'agit d'une tromperie envers les auditeurs, et que « le résultat manque de chaleur humaine et de qualité ». Dans un billet de blogue sur son site personnel, il décrit ses remarques.

James Cridland a écrit : « apparemment, l'employée clonée pour créer Thy travaillerait pour l'équipe financière d'ARN. Mais j'ai passé pas mal de temps sur LinkedIn et je n'ai trouvé personne qui s'appelle Thy dans le service des comptes. Je pense qu'ils mentent encore ». À propos de son expérience d'écoute, il a écrit : « le fait d'avoir dû écouter six heures télescopées de CADA m'a rendu plus dépité par la radio d'aujourd'hui que je n'avais le droit de l'être ».

Il critique aussi la qualité des interventions et l'absence d'émotion ou de spontanéité : « aucun sentiment de communauté, juste de la musique automatisée, l'une après l'autre. C'est un gaspillage d'une fréquence FM, produit par des gens qui n'en ont rien à faire. C'est épouvantable et désastreux. Elle n'a vraiment remplacé personne en tant que présentatrice de radio sur cette station ; elle ne dit rien d'intéressant, et ce n'est que de la merde mal écrite ».

L'autorité australienne des communications et des médias a déclaré qu'il n'existe actuellement aucune restriction spécifique concernant l'utilisation de l'IA dans les contenus radiodiffusés, et qu'il n'y a aucune obligation de divulguer son utilisation. Teresa Lim, vice-présidente de l'Australian Association of Voice Actors, a déclaré que le fait que CADA n'ait pas divulgué son utilisation de l'IA renforce la nécessité d'une loi sur l'étiquetage des contenus générés par l'IA.

L'IA : une menace réelle pour les emplois des animateurs de radio ?

Un porte-parole d'ARN a déclaré que la société étudie la façon dont les nouvelles technologies peuvent améliorer l'expérience des auditeurs. « Nous avons testé des outils d'IA pour le contenu audio sur CADA, en utilisant la voix de Thy, un membre de l'équipe d'ARN. C'est un domaine exploré par les radiodiffuseurs du monde entier, et l'essai a permis d'obtenir des informations précieuses ». Ce qui pourrait être un mauvais présage pour les animateurs de radio.

À ce propos, CADA n'est pas la première station de radio à utiliser un animateur généré par l'IA. Il y a deux ans, la société australienne de radio numérique Disrupt Radio a introduit son propre lecteur de nouvelles piloté par l'IA, Debbie Disrupt. Toutefois, le fait qu'il ne s'agissait pas d'une personne réelle a été clairement indiqué dès le début. En 2023, une station de l'Oregon, aux États-Unis, a utilisé un animateur piloté par l'IA basé sur un vrai présentateur.

L'approche de CADA est fortement critiquée. Teresa Lim a déclaré : « l'IA peut être un outil tellement puissant et positif dans la radiodiffusion s'il y a des garanties correctes en place. L'authenticité et la vérité sont très importantes pour les médias audiovisuels. Le public mérite de savoir quelle est la source de ce qui est diffusé... Nous devons avoir ces discussions maintenant avant que l'IA ne devienne si avancée qu'il soit trop difficile de la réglementer ».

En outre, en tant que femme asiatique travaillant dans les médias australiens, Teresa Lim a déclaré que l'affaire CADA met également en évidence la difficulté pour les membres de son groupe démographique de percer dans les médias. Elle met en garde contre les effets négatifs les vrais animateurs asiatiques.

Teresa Lim a déclaré : « lorsque nous avons découvert qu'elle n'était qu'une figurine en carton, la déception n'a fait que croître. Il y a un nombre limité de présentatrices australiennes d'origine asiatique qui sont disponibles pour le poste, alors donnez-le à l'une d'entre elles. N'enlevez pas cette opportunité à un groupe minoritaire qui a déjà du mal à s'en sortir ». Elle critique l'usage de l'IA qui prive une communauté marginalisée d'une opportunité professionnelle.

Conclusion

L'IA commence à transformer le secteur de la radio, notamment avec des projets comme celui de Thy, une animatrice qui n'est en réalité qu'une voix artificielle. Mais l'approche de CADA soulève des questions éthiques et de transparence. Bien que l'IA puisse offrir des innovations intéressantes, elle peut aussi tromper le public si...