Une vidéo manipulée partagée par Elon Musk imite la voix de la vice-présidente des États-Unis Kamala Harris. Des experts ont confirmé qu'une grande partie de la voix a été générée par l'IA. Cela soulève des questions sur une utilisation appropriée de l'IA dans la politique, en particulier, car Elon Musk n'a mis aucune étiquette indicant la nature parodique de la vidéo.Elon Musk est un homme d'affaires et un investisseur connu pour ses rôles clés dans la société spatiale SpaceX et la société automobile Tesla, Inc. Il est également propriétaire de la plateforme X, anciennement connue sous le nom de Twitter, et a participé à la création de xAI et Neuralink. Il est l'une des personnes les plus riches du monde et ces opinions ont fait de lui une figure polarisante.
Il a été critiqué pour avoir fait des déclarations non scientifiques et trompeuses, y compris la désinformation COVID-19, pour avoir promu des théories du complot de droite et pour avoir "approuvé une théorie antisémite", ce dont il s'est excusé par la suite. Récemment, il a partagé une vidéo manipulée où on entend une imitation de la voix de la vice-présidente des États-Unis Kamala Harris.
Sous la présidence de Joe Biden, Kamala Harris est la première femme vice-présidente et la plus haute fonctionnaire de l'histoire des États-Unis, ainsi que la première Afro-Américaine et la première Sud-Asiatique vice-présidente. Membre du Parti démocrate, Harris a lancé sa propre campagne présidentielle avec l'appui de Biden après le retrait de ce dernier de l'élection présidentielle de 2024.
Une vidéo manipulée qui imite la voix de la vice-présidente Kamala Harris en disant des choses qu'elle n'a pas dites suscite des inquiétudes quant au pouvoir de l'intelligence artificielle à induire en erreur à trois mois du jour du scrutin. La vidéo a attiré l'attention après que le milliardaire de la technologie Elon Musk l'a partagée sur sa plateforme de médias sociaux X, sans indiquer explicitement qu'il s'agissait à l'origine d'une parodie.
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">This is amazing 😂<br> <a href="https://t.co/KpnBKGUUwn">pic.twitter.com/KpnBKGUUwn</a></p>— Elon Musk (@elonmusk) <a href="https://twitter.com/elonmusk/status/1816974609637417112?ref_src=twsrc%5Etfw">July 26, 2024</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>[/TWITTER]
La vidéo reprend de nombreux éléments visuels d'une véritable publicité que Mme Harris, candidate probable à la présidence du parti démocrate, a publiée pour lancer sa campagne. Mais la vidéo remplace la voix off par une autre voix qui imite de manière convaincante celle de Mme Harris.
« Je suis Kamala Harris, votre candidate démocrate à la présidence parce que Joe Biden a finalement révélé sa sénilité lors du débat », déclare la voix dans la vidéo. Elle affirme que Mme Harris est une « candidate de la diversité » parce qu'elle est une femme et une personne de couleur, et qu'elle ne connaît pas « la moindre chose sur la façon de diriger le pays ». La vidéo conserve la marque « Harris for President ». Elle ajoute également d'anciens clips authentiques de Mme Harris.
Mia Ehrenberg, porte-parole de la campagne de Mme Harris, a déclaré : « Nous pensons que le peuple américain veut la vraie liberté, les opportunités et la sécurité que le vice-président Harris propose, et non les mensonges manipulés d'Elon Musk et de Donald Trump. »
La video soulève des questionnements sur l'IA
La vidéo largement partagée est un exemple de la manière dont des images, des vidéos ou des clips audios générés par l'IA ont été utilisés à la fois pour se moquer de la politique et pour induire en erreur, alors que les États-Unis se rapprochent de l'élection présidentielle. Elle montre comment, alors que les outils d'IA de haute qualité sont devenus beaucoup plus accessibles, le gouvernement fédéral n'a pas encore pris de mesures significatives pour réglementer leur utilisation, laissant aux États et aux plateformes de médias sociaux le soin de définir les règles régissant l'utilisation de l'IA en politique.
La vidéo soulève également des questions sur la meilleure façon de traiter les contenus qui brouillent les limites de ce qui est considéré comme une utilisation appropriée de l'IA, en particulier s'ils entrent dans la catégorie de la satire.
L'utilisateur original qui a posté la vidéo, un YouTubeur connu sous le nom de Mr Reagan, a révélé à la fois sur YouTube et sur X que la vidéo manipulée était une parodie. Mais le message de M. Musk, qui a été visionné plus de 123 millions de fois, selon la plateforme, ne comporte que la légende « C'est incroyable » accompagnée d'un émoji qui rit. À noter que Musk a soutenu l'ancien président Donald Trump, le candidat républicain.
Les utilisateurs de X qui connaissent bien la plateforme sauront peut-être qu'il faut cliquer sur le message de Musk pour accéder au message de l'utilisateur original, où la divulgation est visible. La légende de Musk ne les incite pas à le faire.
Bien que certains participants à la fonction "note de la communauté" de X, qui permet d'ajouter un contexte aux messages, aient suggéré d'étiqueter le message de Musk, aucune étiquette de ce type n'avait été ajoutée à ce dernier. Certains utilisateurs en ligne se sont demandé si son message ne violait pas les règles de X, qui stipulent que les utilisateurs "ne peuvent pas partager des médias synthétiques, manipulés ou hors contexte susceptibles de tromper ou d'embrouiller les gens et de leur causer du tort". Cette politique prévoit une exception pour les mèmes et la satire, à condition qu'ils ne causent pas de "confusion significative quant à l'authenticité du média".
Deux experts spécialisés dans les médias générés par l'IA ont examiné le son de la fausse publicité et ont confirmé qu'une grande partie avait été générée à l'aide de la technologie de l'IA. L'un d'entre eux, Hany Farid, expert en criminalistique numérique de l'université de Californie à Berkeley, a déclaré que la vidéo montrait la puissance de l'IA générative et des "deepfakes".
« La voix générée par l'IA est très bonne », a-t-il déclaré. « Même si la plupart des gens ne croiront pas qu'il s'agît de la voix de la vice-présidente Harris, la vidéo est d'autant plus puissante que les mots sont prononcés par elle. »
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous la vidéo pertinente voir amusante ? ou alors pensez-vous que c'est honteux de diffuser ce genre de désinformations ? Pour ou contre ?Voir aussi :
Plus de 70 % des consommateurs craignent d'être dupés par un deepfake et de voir l'IA et les deepfakes influencer les prochaines élections dans leur pays, selon une étude de Jumio Un expert en IA « complètement terrifié » par les élections américaines de 2024, qui s'annoncent comme un « tsunami de désinformation », avec l'avènement des deepfakes et les IA génératives Les "deepfakes" politiques représentent l'utilisation abusive la plus populaire de l'IA : sa faible technicité et son accessibilité ont accru l'utilisation malveillante de l'IA générative, selon DeepMind 
Envoyé par Ryu2000
