IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Le PDG d'OpenAI, Sam Altman, estime que le monde est peut-être au bord d'une « crise de fraude » à cause de la manière dont l'IA pourrait faciliter l'usurpation d'identité,
Grâce aux outils de clonage de voix

Le , par Mathis Lucas

22PARTAGES

2  0 
Sam Altman a mis en garde le secteur financier contre une crise imminente en matière de fraude. Il alerte notamment sur le fait que les outils d'IA sont capables d'imiter la voix d'une personne pour contourner les contrôles de sécurité à des fins d'escroquerie. Il se dit terrifié par l’imprudence des institutions financières qui acceptent encore l'empreinte vocale comme moyen d'authentification. Selon lui, l'IA a complètement vaincu la plupart des moyens d'authentification actuels, à l'exception des mots de passe. Pour sauver l'économie mondiale, il propose de créer une carte d'identité numérique à partir du scan de l'iris, une idée très controversée.

Sam Altman a participé à une conférence organisée par la Réserve fédérale à Washington le 22 juillet 2025. Lors de la conférence, Sam Altman s'est exprimé sur les défis que l'IA pourrait poser au secteur financier et quel rôle la technologie pourrait jouer dans l'économie mondiale. En ce qui concerne les défis potentiels, Sam Altman a déclaré aux participants que l'IA pourrait conduire le secteur financier vers une « crise de fraude » sans précédent.

Il s'est montré particulièrement inquiet au sujet l'empreinte vocale, qu'il considère comme une méthode d'authentification obsolète : « ce qui me terrifie, c'est qu'il existe encore des institutions financières qui acceptent une empreinte vocale comme authentification pour déplacer beaucoup d'argent ou faire autre chose - vous dites une phrase de défi, et elles le font. C'est complètement fou de continuer à faire cela. L'IA a rendu cette méthode obsolète ».

L'empreinte vocale, qui consiste pour les clients à prononcer une phrase de sécurité pour accéder à leurs comptes, a gagné en popularité il y a plus d'une décennie, en particulier parmi les clients fortunés des banques. Mais selon Sam Altman, les clones vocaux générés par l'IA, et à terme les clones vidéo, deviennent de plus en plus impossibles à distinguer de la réalité, ce qui nécessite la mise en place de systèmes de vérification entièrement nouveaux.

« Pour l'instant, il s'agit d'appels vocaux, mais bientôt, ce seront des vidéos ou des appels FaceTime impossibles à distinguer de la réalité », a-t-il déclaré. Il a averti que même si son entreprise ne développait pas de tels outils d'usurpation d'identité, il s'agissait d'un défi auquel le monde devra bientôt faire face à mesure que l'IA continuait d'évoluer. De nombreuses personnes à travers le monde ont déjà été victimes des clones vocaux générés par l'IA.

Michelle Bowman, vice-présidente de la Fed chargée de la supervision et principale régulatrice financière de la banque centrale, qui a animé la discussion avec Sam Altman, a répondu au PDG d'OpenAI : « c'est peut-être quelque chose sur lequel nous pourrions envisager de travailler ensemble ».

Les systèmes d'IA de clonage de voix ont déjà fait de nombreuses victimes

En 2024, un couple de Brooklyn a vécu une expérience terrifiante lorsque des escrocs ont utilisé l’IA pour cloner la voix de leurs proches et simuler une situation de rançon. En pleine nuit, Robin, une femme dans la trentaine, a été réveillée par un appel de sa belle-mère, Mona, qui semblait être en détresse. La voix paniquée de Mona répétait sans cesse « je ne peux pas le faire, je ne peux pas le faire ». Peu après, le mari de Robin, Steve, a pris l’appel.


Steve s’est retrouvé confronté à un homme affirmant détenir sa mère sous la menace d’une arme et exigeant de l’argent. L'homme lui a intimé l'ordre de ne pas appeler la police, en menaçant de « coller une balle dans la tempe » de sa mère s'il n'obéissait pas. L'homme a demandé de l'argent ; il voulait cinq cents dollars, envoyés par Venmo. Après que Steve a envoyé les cinq cents dollars de « rançon », l'homme lui a fait envoyer 250 dollars de plus.

Puis, environ 25 minutes après l'échange téléphonique, il a appelé sa mère pour s'assurer que ses parents étaient désormais en sécurité. Après quelques tentatives, son père Bob a décroché le téléphone et l'a tendu à Mona. « Tu es à la maison ? Tu vas bien ? » Lui a demandé Steve. Mona avait l'air d'aller bien, mais elle ne savait pas de quoi ils parlaient. « Oui, je suis couchée », a-t-elle répondu. « Pourquoi ? ». Ils venaient ainsi de se faire escroquer.

Début 2020, un directeur de banque à Hong Kong a reçu un appel d'un homme dont il reconnaissait la voix, le dirigeant d'une entreprise avec qui il avait déjà parlé. Ce dernier avait une bonne nouvelle : sa société était sur le point de faire une acquisition, il avait donc besoin que la banque autorise des virements à hauteur de 35 millions de dollars. Un avocat nommé Martin Zelner avait été embauché afin de coordonner les procédures de virement.

Le directeur de la banque pouvait voir dans sa boîte de réception les courriels du directeur de société et de Martin Zelner, confirmant le montant du virement et où le virement devait être fait. Le directeur de la banque, estimant que tout semblait légitime, a commencé à effectuer les virements.

Ce qu'il ne savait pas, c'est qu'il avait été dupé dans le cadre d'une escroquerie élaborée, dans laquelle des fraudeurs avaient utilisé des outils d'IA de génération de contenu audio pour cloner la voix du directeur. Selon un document judiciaire dans lequel les Émirats arabes unis demandaient l'aide d'enquêteurs américains pour retrouver 400 000 dollars de fonds volés qui étaient arrivés dans des comptes basés aux États-Unis détenus par la Centennial Bank.

Worldcoin : Sam Altman a une solution contre la fraude favorisée par l'IA

Worldcoin est un projet de cryptomonnaie lancé en juillet 2023. La société souhaite fusionner la blockchain et la biométrie afin que ceux qui acceptent qu'on scanne leurs iris soient récompensés par un jeton numérique appelé Worldcoin. Alors que les problèmes de cybersécurité et de fuites de données se multiplient, Sam Altman dit avoir lancé le projet afin de limiter les escroqueries et les violations causées par les robots et les acteurs malveillants en ligne.

Il veut scanner le globe oculaire de l'utilisateur pour la mise en place d'une carte d'identité numérique. Ce qui permettra à ce dernier prouver son identité en ligne. Il présente ses technologies comme essentielles pour aider à distinguer les robots des humains dans une société de plus en plus dominée par l'IA.

En 2024, le projet a retiré le suffixe « coin » de son nom et s'appellera désormais « World ». Le changement de marque a été annoncé par Sam Altman lors d'un événement le 17 octobre 2024 à San Francisco. Il a révélé une série d'autres mises à jour, à savoir une nouvelle version de l'outil de balayage de l'iris Orb, de nouvelles options de vérification de l'identité et des intégrations avec des applications populaires telles que FaceTime, WhatsApp et Zoom.

En réponse à un article de Sam Altman sur le projet en 2021, Edward Snowden a écrit sur Twitter (aujourd'hui X) : « n'utilisez pas la biométrie pour quoi que ce soit. Le corps humain n'est pas une planche à billets ». De nombreuses personnes hésitent, et c'est compréhensible, à confier leurs données biométriques à une société privée à but lucratif dont les objectifs sont incertains ; Sam Altman lui-même reconnaît qu'il s'agissait d'un véritable casse-tête.

En 2023, des pirates ont volé les identifiants de connexion des opérateurs de World chargés d'inscrire les nouveaux utilisateurs, ce qui leur a permis de consulter des informations internes. Selon un article du site BlockBeats, des Cambodgiens et des Kenyans vendaient...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !