IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Le président Joe Biden demande l'interdiction des imitations vocales par l'IA après des incidents préoccupants.
Une mesure de sécurité ou une entrave à l'innovation ?

Le , par Stéphane le calme

5PARTAGES

10  0 
Dans un monde de plus en plus numérisé, la question de l’authenticité et de la sécurité des voix synthétisées par intelligence artificielle (IA) prend une importance capitale. Récemment, le président Joe Biden a abordé cette problématique lors de son discours sur l’état de l’Union, appelant à une interdiction des imitations vocales par l’IA. Cette proposition fait suite à des incidents préoccupants, tels que l’utilisation d’appels robotisés imitant la voix du président pour dissuader les électeurs lors des primaires dans le New Hampshire2. Ces événements soulignent les risques potentiels associés à la technologie deepfake, notamment en matière de désinformation et de fraude.

La société s'interroge peut-être sur la manière de réglementer l'IA. Mais le président Biden est déjà convaincu que les États-Unis doivent interdire la capacité de cette technologie à imiter la voix des gens. Lors de son discours sur l'état de l'Union, jeudi, Biden n'a mentionné l'IA qu'à deux reprises au cours de son intervention d'une heure. Il a toutefois souligné que l'usurpation de la voix par l'IA constituait une menace à laquelle il fallait mettre un terme.

« Exploitez les promesses de l'IA et protégez-nous du danger. Interdisez les usurpations d'identité par l'IA et bien plus encore », a-t-il déclaré vers la fin de son discours.

Ce discours intervient plus d'un mois après qu'un robot téléphonique imitant la voix de Biden a été utilisé pour décourager les électeurs des primaires dans le New Hampshire. Ironiquement, ce n'était pas l'œuvre d'escrocs ou de propagandistes étrangers. C'est un consultant politique démocrate, Steve Kramer, qui a admis avoir orchestré ces appels pour attirer l'attention sur la menace que représente l'usurpation de la voix de l'IA.

« Je suis peut-être un méchant aujourd'hui, mais je pense qu'en fin de compte, nous aurons un meilleur pays et une meilleure démocratie grâce à ce que j'ai fait, délibérément », a déclaré Kramer à l'Associated Press.

Jusqu'à présent, l'administration Biden a tenté de réprimer l'usurpation d'identité vocale par l'IA par l'intermédiaire de la FCC. Le mois dernier, le régulateur américain a confirmé que les appels vocaux générés par l'IA violaient les lois américaines existantes conçues pour protéger les consommateurs contre les appels automatisés préenregistrés. Mais cette décision n'empêche en rien les acteurs malveillants de diffuser des "deepfakes" sur l'internet.


Aucune sanction éventuelle n'a été évoquée

Lors de son discours sur l'état de l'Union, le président Joe Biden a fait un clin d'œil à un problème croissant dans les secteurs du divertissement et de la technologie, en appelant à l'interdiction des imitations vocales par l'IA.

« Ici, chez nous, j'ai signé plus de 400 projets de loi bipartisans. Il en reste encore pour faire passer mon programme d'unité », a déclaré le président Biden, en commençant à énumérer une série de propositions différentes qu'il espère aborder s'il est élu pour un second mandat. « Renforcer les sanctions contre le trafic de fentanyl, adopter une législation bipartisane sur la protection de la vie privée pour protéger nos enfants en ligne, exploiter les promesses de l'intelligence artificielle pour nous protéger des dangers, interdire les usurpations de voix par l'intelligence artificielle, etc. »

Le président n'a pas précisé les types de garde-fous ou de sanctions qu'il prévoyait d'instaurer autour de cette technologie en plein essor, ni s'ils s'étendraient à l'industrie du divertissement. L'IA a été l'une des principales préoccupations de la SAG-AFTRA lors des négociations et de la grève du syndicat des acteurs contre les grands studios l'année dernière. Les négociations se sont finalement conclues par un accord établissant des exigences en matière de consentement et de rémunération pour les productions qui utilisent l'IA pour reproduire les ressemblances et les voix des acteurs. Toutefois, l'accord n'empêche pas les studios d'entraîner les systèmes d'IA à créer des interprètes « synthétiques » qui ne ressemblent en rien à des personnes réelles.


Plusieurs projets de loi en cours, les défenseurs des droits numérique tirent la sonnette d'alarme

Entre-temps, les législateurs américains ont proposé au moins deux projets de loi pour tenter de mettre un terme à l'usurpation de la voix de l'IA. L'un d'entre eux, le No AI Fraud Act des représentantes María Elvira Salazar (R-FL) et Madeleine Dean (D-PA), propose d'autoriser les personnes à poursuivre les fabricants de ces imitations pour obtenir des dommages-intérêts. Toutefois, l'Electronic Frontier Foundation, un groupe de défense de la vie privée, a critiqué la formulation de la loi, la jugeant trop vague et trop large et susceptible d'englober tous les types de médias numériques contenant l'image d'une personne.

« Si le Congrès veut vraiment protéger les artistes-interprètes et les gens ordinaires contre les utilisations trompeuses ou abusives de leurs images et de leur voix, il devrait adopter une approche précise, prudente et pratique qui évite les dommages collatéraux potentiels à la liberté d'expression, à la concurrence et à l'innovation », a ajouté l'EFF.

Au Sénat, la loi DEFIANCE (Disrupt Explicit Forged Images and Non-Consensual Edits) créerait un « recours civil fédéral » pour les victimes de "deepfake porn". Elle couvre « les contrefaçons numériques qui représentent la victime nue, ou engagée dans un comportement sexuellement explicite ou des scénarios sexuels » créés par des logiciels, l'apprentissage automatique, l'intelligence artificielle et d'autres moyens technologiques ou générés par ordinateur.


Des escroqueries qui s'appuient sur l'IA pour cloner les voix de vos proches et simuler une situation de rançon

Récemment, une femme nommée Robin a reçu un coup de fil semblant provenir de sa belle-mère, Mona, qui, pourtant, ne l'appelait jamais après minuit. Elle s'est dit qu'il s'agissait probablement d'une fausse manipulation et l'a ignoré. Mais son numéro l'a rappelée. Face à l'insistance, elle a décroché et, à l'autre bout du fil, elle a entendu la voix de Mona qui se lamentait et répétait les mots « Je ne peux pas le faire, je ne peux pas le faire ». « J'ai cru qu'elle essayait de me dire qu'une chose horrible et tragique s'était produite »; a expliqué Robin.

La première pensée de Robin a été qu'il y avait eu un accident. Puis elle a entendu ce qui semblait être la voix de son beau-père, Bob, au téléphone. « Mona, passe-moi le téléphone », a dit la voix de Bob, puis s'adressant à Robin, « va chercher Steve [son mari] ». Elle s'est exécutée et a réveillé son mari : « Je crois que c'est ta mère », lui dit-elle. « Je pense qu'elle me dit que quelque chose de terrible est arrivé ».

Lorsqu'il a pris le téléphone, il a entendu une voix masculine détendue à l'autre bout du fil : « Tu ne vas pas appeler la police, tu ne vas le dire à personne. J'ai un pistolet sur la tempe de ta mère et je vais lui faire sauter la cervelle si tu ne fais pas exactement ce que je te dis ».

L'homme a demandé de l'argent; il voulait cinq cents dollars, envoyés par Venmo. « C'était une somme tellement insensée pour un être humain », se souvient Steve. « Mais aussi : Il est évident que je vais payer cette somme ».

Après que Steve a envoyé les cinq cents dollars, l'homme lui a fait envoyé 250 dollars de plus. Puis, environ 25 minutes après l'échange téléphonique, il a appelé sa mère pour s'assurer que ses parents étaient désormais en sécurité. Après quelques tentatives, son père Bob a décroché le téléphone et l'a tendu à Mona. « Tu es à la maison ? Tu vas bien ? » Lui a demandé Steve.

Mona avait l'air d'aller bien, mais elle ne savait pas de quoi ils parlaient. « Oui, je suis couchée », a-t-elle répondu. « Pourquoi ? »

Ils venaient de se faire escroquer.

Cette arnaque est un exemple alarmant de la tendance croissante à l’utilisation de l’IA pour imiter les voix et tromper les gens en leur faisant croire que leurs proches sont en danger. La Commission Fédérale du Commerce des États-Unis a même émis un avertissement urgent concernant ces escroqueries, qui sont désormais les plus couramment signalées dans le pays

Selon la Federal Trade Commission, qui enquête sur la fraude à la consommation, les Américains ont perdu plus de deux millions de dollars à cause d'escroqueries de toutes sortes en 2022. L'année dernière, la FTC a publié un avis de clonage vocal, notant : « Si l'appelant demande de virer de l'argent, d'envoyer de la cryptomonnaie ou d'acheter des cartes-cadeaux et de lui donner les numéros de carte et les codes PIN, cela pourrait être le signe d'une arnaque ». Mais elle n’a pas encore créé de lignes directrices pour l’utilisation de la technologie de clonage vocal. Même si des lois sont adoptées, il sera extrêmement difficile de les faire respecter. Les fraudeurs peuvent utiliser des applications cryptées pour exécuter leurs stratagèmes, et les appels sont effectués en quelques minutes.

Conclusion

L’appel du président Biden pour une interdiction des imitations vocales par l’IA met en lumière la nécessité d’une réglementation prudente et ciblée. Alors que la technologie continue de progresser, il est crucial de trouver un équilibre entre l’exploitation de ses avantages et la protection contre ses méfaits.

Sources : State of the Union, EFF

Et vous ?

Quelles pourraient être les conséquences positives et négatives d’une interdiction des imitations vocales par l’IA ?
Comment les gouvernements devraient-ils équilibrer la protection de la vie privée avec les avantages de l’IA dans le domaine de la synthèse vocale ?
Les artistes et les créateurs de contenu devraient-ils avoir un droit de regard sur l’utilisation de leur voix par des technologies d’IA, même après avoir donné leur consentement initial ?
Quel rôle les entreprises technologiques devraient-elles jouer pour garantir l’authenticité des voix synthétisées et prévenir les abus ?
Les lois actuelles sont-elles suffisantes pour lutter contre les deepfakes et autres formes de désinformation générées par l’IA ? Sinon, quelles mesures supplémentaires devraient être prises ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Nain porte koi
Membre éclairé https://www.developpez.com
Le 01/08/2024 à 16:24
L'intégralité des individus qui ont regardé cette vidéo savent qu'elle est fausse.
C'est beau de croire que personne n'est crédule.
Si c'était le cas il n'y aurait plus jamais de phising et autre joyeusetés qui se basent exclusivement sur la crédulité.
4  0 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 31/07/2024 à 16:02
La suite pour Kamala Harris



3  1 
Avatar de Nain porte koi
Membre éclairé https://www.developpez.com
Le 01/08/2024 à 17:09
Non mais là il faut voir le contexte, il est évident que ce n'est pas la vraie Kamala Harris qui dit ça.
Donc sur les 13 millions de vues (au moment de cet article) pas une seule personne n'a cru que c'était un fake ?!
Là je pense que c'est toi qui est crédule (sans vouloir te vexer).
2  0 
Avatar de OrthodoxWindows
Membre expert https://www.developpez.com
Le 12/03/2024 à 15:36
Citation Envoyé par virginieh Voir le message
En quoi il diffère du notre du coup ?
En effet, la situation politique en France est malheureusement assez proche. La seul différence est qu'il y a toujours un mince espoir par le fait que le système est moins fondé sur le bipartisme. Depuis 2017, les politiciens de LR et du PS ayant les idées les plus anti-démocratique on rejoins Macron, ce qui a créé un éclatement du système politique. De plus, aux USA toute voix de gauche (j’entends social) est réduite au silence au sein du parti démocrate (comme Bernie Sanders par exemple, pourtant pas si à gauche que ça). L'obligation de faire carrière dans un des deux principaux partis est clairement un carcans énorme.
1  0 
Avatar de skaarj
Membre régulier https://www.developpez.com
Le 06/05/2024 à 10:02
Si c'était Trump cela n'aurait posé aucun problème et serait même relayé par les médias de masse comme une preuve de la dangerosité de Trump. Posez-vous juste la question du pourquoi du comment.
2  2 
Avatar de smobydick
Membre averti https://www.developpez.com
Le 30/07/2024 à 11:39
Citation Envoyé par Ryu2000 Voir le message
L'intégralité des individus qui ont regardé cette vidéo savent qu'elle est fausse.
Cela dit il y a passage réel et on voit bien la différence.

Kamala Harris repeats same expression four times in speech loop

À la limite ils pourraient mettre un petit "réalisé avec trucage" de cette façon plus personne ne pourrait critiquer ces vidéos humoristiques.
Sur YouTube c'est obligatoire. La Satire est bien évidemment autorisée, mais il faut incruster l'information concernant la modification de la vidéo originale. Et plus aucun problème. Si la mention n'est pas précisée, la vidéo est supprimée et la chaîne également après plusieurs avertissement.
0  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 08/04/2024 à 15:25
Citation Envoyé par Patrick Ruiz Voir le message
Quelle est votre opinion sur le développement de l’IA et son impact sur la désinformation ?
Même avant l'IA il y avait de la désinformation partout.

Par exemple régulièrement des gens comme Bruno Le Maire, Gérald Darmanin, Emmanuel Macron, Gabriel Attal, diffusent de fausses informations.
Les Mensonges de la Macronie

Citation Envoyé par Patrick Ruiz Voir le message
Pensez-vous que les réseaux sociaux devraient être plus responsables et régulés face à la diffusion des deepfakes et des fausses informations ?
Non.
Déjà parce que c'est techniquement impossible. J'imagine qu'il existe une course entre les outils qui génèrent des deepfakes et les outils qui identifient les deepfakes.
Donc bonne chance pour identifier les deepfakes.

Ensuite il est rarement possible de savoir ce qui est une "vraie information".
Ou alors il faudrait un ministère de la vérité qui dise "ça c'est vrai" / "ça c'est faux", ce qui serait digne d'un régime totalitaire.

Citation Envoyé par Patrick Ruiz Voir le message
Comment vous informez-vous sur les candidats et les enjeux des élections en général et de l’élection américaine de 2024 en particulier ?
Aux USA les 2 candidats favoris sont Trump et Biden.
Les électeurs peuvent utiliser leurs expériences personnelles pour se forger un jugement. Trump a été président, Biden a été président ; il est donc possible de s'imaginer ce que cela donnerait si l'un d'entre eux prenait le pouvoir en 2024.

Celui qui est très satisfait du bilan de Biden peut voter Biden, celui qui préfère le bilan de Trump peut voter Trump.
Ou sinon les électeurs peuvent regarder les promesses de campagne.

Si c'est vrai ce qui est dit dans cet article je préfère le programme de Trump :
Duel Trump vs Biden: que disent leurs programmes ?
Ça parle de protectionnisme, ce qui est toujours cool.
Ça parle de diminuer l'immigration illégale, ce qui est important.
Ça parle de faire quelque chose contre la crise des opioïdes, il y a un grave problème avec ces médicaments aux USA, les médecins se sont laissé manipuler par les laboratoires et en ont prescris trop facilement.
Il dit que les USA ne reconnaitront que 2 genres (ce qui est bien puisque c'est le cas dans la réalité).

Citation Envoyé par Patrick Ruiz Voir le message
Craignez-vous une ingérence de l'IA dans les élections présidentielles de votre pays tandis que la technologie se perfectionne ? Dans quelle mesure ?
J'ai plus peur des instituts de sondages, des médias mainstream, du gouvernement et de la justice de mon propre pays.

Citation Envoyé par Patrick Ruiz Voir le message
Quel rôle pensez-vous que les citoyens et les organisations civiles peuvent jouer pour renforcer la résilience démocratique face à la désinformation ?
Des démocraties ne fonctionnent pas très bien.
Une candidate fait des promesses pendant la campagne, une fois qu'elle est présidente elle fait ce qu'elle veut et on ne peut rien faire pour la dégager.
Le pire c'est que parfois, après un mandat catastrophique elle se fait réélire, alors que tout le monde la déteste.

Il parait qu'en Suisse c'est légèrement mieux.
Là-bas il y a un truc qui s'appelle "referendum", ça n'existe pas en France, c'est un procédé par lequel une autorité politique consulte l'ensemble des citoyens.
1  2 
Avatar de Jules34
Membre émérite https://www.developpez.com
Le 08/04/2024 à 17:24
Citation Envoyé par Ryu2000 Voir le message
Même avant l'IA il y avait de la désinformation partout.

Par exemple régulièrement des gens comme Bruno Le Maire, Gérald Darmanin, Emmanuel Macron, Gabriel Attal, diffusent de fausses informations.
Les Mensonges de la Macronie

Il parait qu'en Suisse c'est légèrement mieux.
Là-bas il y a un truc qui s'appelle "referendum", ça n'existe pas en France, c'est un procédé par lequel une autorité politique consulte l'ensemble des citoyens.
Entièrement d'accord avec vous. Depuis Sarkozy les élus Français ont très bien compris qu'il fallait mieux arrêter de nous demander notre avis vu qu'on a dit non à la constitution européenne. Pour aggrandir les murs de la prison améliorer notre démocratie il faut donc constamment nous inonder d'infos sinon fausse, très fortement orientée pour qu'ils puissent continuer à nous emmener droit dans le mur pour éviter que les USA ne chutent trop bruyamment.

Nords Stream a sauté, l'Europe est dans une récession sans précédent, mais la priorité ce serait de continuer à lutter contre la discrimination capillaire.
0  1 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 03/05/2024 à 14:46
Citation Envoyé par Mathis Lucas Voir le message
Quel est votre avis sur le sujet ?
Les vidéos réelles sont plus rigolotes.
En ce qui concerne Joe Biden la fiction ne peut pas être pire que la réalité.
Il est souvent complétement perdu, quand il essaie de prononcer une phrase il oublie ce qu'il était en train de dire, il lit les didascalies du prompteur à haute voix, etc.
Il est pire que le président Benson dans Hot Shots 2.

Citation Envoyé par Mathis Lucas Voir le message
Les plateformes de médias sociaux ont-ils perdu la guerre contre les deepfakes ?
Sur Twitter il y a un message qui dit quand une vidéo est truquée.
Il y a une histoire de "note de la communauté", dès que quelqu'un dit quelque chose de faux il y a une correction juste en dessous.

Citation Envoyé par Mathis Lucas Voir le message
Pensez-vous que TikTok représente une menace pour la sécurité nationale des États-Unis ?
Non au contraire.
Le gouvernement US veut prendre le contrôle de TikTok pour faire de la propagande pro Biden.
0  2 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 29/07/2024 à 19:29
Citation Envoyé par Jade Emy Voir le message
Quel est votre avis sur le sujet ?
L'intégralité des individus qui ont regardé cette vidéo savent qu'elle est fausse.
Cela dit il y a passage réel et on voit bien la différence.

Kamala Harris repeats same expression four times in speech loop
The vice president, who was speaking on Monday in Sunset, Louisiana, repeated the same phrase, “the significance of the passage of time”, four times in a row.
À la limite ils pourraient mettre un petit "réalisé avec trucage" de cette façon plus personne ne pourrait critiquer ces vidéos humoristiques.
0  2