O2, le plus grand opérateur de réseau mobile du Royaume-Uni, décide d'utiliser l'IA pour lutter contre les escroqueries téléphoniques. Il a déployé une IA, appelée Daisy, conçue pour maintenir les fraudeurs au téléphone le plus longtemps possible dans des conversations sans issue. Elle est conçue pour faire croire aux escrocs qu'ils parlent à une vraie grand-mère qui aime divaguer. Lorsqu'elle transmet les coordonnées bancaires demandées, elle lit de faux numéros et de faux noms. Les escrocs disposent ainsi de moins de temps pour cibler de vrais humains et Daisy permet d'apprendre les astuces et les techniques les plus utilisées dans ces fraudes.Comment O2 veut combattre la fraude téléphonique à l'aide de l'IA générative
L'IA générative a permis aux escrocs de renforcer leurs capacités en matière de fraude téléphonique. Des milliers de personnes ont été escroquées par des voix générées par l'IA imitant des proches en cas d'urgence. Un rapport publié en mars 2023 estime à 11 millions de dollars l'argent volé par le biais de ces escroqueries par téléphone en 2022. Aujourd'hui, une entreprise a décidé d'utiliser la même technologie afin de tromper les fraudeurs par téléphone.
O2, le plus grand opérateur de réseau mobile du Royaume-Uni, a dévoilé Daisy. Daisy est une IA à l'allure d'une grand-mère et la « responsable des relations avec les escrocs ». Elle a pour mission de discuter avec les fraudeurs et de leur faire perdre le plus de temps possible avec des discussions décousues de type humain afin de les éloigner des vraies personnes. Daisy est censée accélérer la lutte contre l'épidémie de fraudes à laquelle le Royaume-Uni est confronté.
Daisy a été créée à l'aide d'une gamme de technologies d'IA de pointe et formée avec l'aide de l'un des escrocs les plus connus de YouTube, Jim Browning. Les créateurs de Daisy l'ont rendu hautement réaliste afin qu'elle soit presque impossible à distinguer d'une personne réelle. Daisy est capable d'interagir avec les escrocs en temps réel sans aucune intervention de ses créateurs et O2 ajoute que son IA travaille 24/7, notamment pour répondre aux appels douteux.
Daisy combine de nombreux modèles d'IA qui travaillent ensemble pour écouter les appels frauduleux et y répondre instantanément. Comme vous pouvez l'entendre dans la vidéo ci-dessus, les escrocs ne sont pas contents d'avoir été dupés ; ils deviennent de plus en plus furieux et jurent. Dans les expériences menées par les développeurs, Daisy semblait si réaliste qu'elle a réussi à maintenir de nombreux fraudeurs en communication pendant 40 minutes d'affilée.
Les clients d'O2 n'ont pas accès à Daisy pour pouvoir mener leur propre campagne de vengeance contre les escrocs. Au lieu de cela, Daisy a été ajouté à une liste de numéros « faciles à cibler » utilisés par les escrocs. À l'avenir, les IA déployées par les escrocs au téléphone pourraient faire face à Daisy.
Le fonctionnement de Daisy combine les capacités de plusieurs modèles d'IA
Daisy a été créée en réponse à une étude d'O2 qui a révélé que 71 % des Britanniques aimeraient se venger des escrocs qui les ont trompés, eux ou leurs proches, mais la plupart d'entre eux ont déclaré qu'ils ne s'adonneraient pas à l'escroquerie, car ils ne voulaient pas perdre leur temps. Alors que plus de deux tiers des Britanniques (67 %) craignent d'être la cible d'une fraude et qu'un sur cinq (22 %) subit une tentative d'escroquerie chaque semaine, O2 riposte.
Comme souligné plus haut, Daisy combine plusieurs modèles d'IA qui travaillent ensemble pour écouter les appels frauduleux et y répondre instantanément. Daisy écoute l'appelant et transcrit sa voix en texte. Les réponses sont générées par un grand modèle de langage personnalisé, avec une couche de personnalité, et sont ensuite transmises à un modèle de synthèse vocale d'IA personnalisé pour générer une réponse vocale. Tout cela se déroule en temps réel.
Ce fonctionnement est similaire à celui de Google Gemini Live ou de l'ancienne version de ChatGPT Voice. Si vous avez déjà eu une conversation avec Gemini Live ou Meta AI Voice, l'expérience sera assez similaire. La conversation se déroule en temps réel, sans délai perceptible. D'après Murray Mackenzie, directeur de la lutte contre la fraude chez Virgin Media O2, « Daisy retourne la situation contre les escrocs, notamment en les surpassant à leur propre jeu cruel ».
Daisy a entraîné les escrocs dans des histoires sinueuses sur sa famille, parlé longuement de sa passion pour le tricot et fourni à des appelants exaspérés des informations personnelles erronées, y compris des coordonnées bancaires inventées. En faisant croire aux criminels qu'ils escroquaient une personne réelle et en jouant sur les préjugés des escrocs à l'égard des personnes âgées, Daisy les a empêchés de cibler de vraies victimes, ce qui aide à réduire leur nombre.
Murray Mackenzie affirme : « nous nous sommes engagés à jouer notre rôle dans la lutte contre les escrocs, en investissant dans tous les domaines, de la technologie de pare-feu pour bloquer les textes frauduleux à la détection des appels de spam par l'IA, afin d'assurer la sécurité de nos clients. Mais surtout, Daisy nous rappelle qu'aussi persuasif que soit l'interlocuteur au bout du fil, il n'est pas toujours celui que l'on croit ». Mais le rôle de Daisy ne s'arrête pas là.
Daisy a également permis à O2 d'en apprendre davantage sur les tactiques couramment utilisées par les escrocs afin d'aider les clients à mieux se protéger. Par ailleurs, si l'on peut se féliciter du travail accompli par l'IA, sa capacité à converser avec quelqu'un de manière aussi convaincante est déconcertante. Ironiquement, une technologie similaire est également utilisée par des escrocs pour faire croire aux gens qu'ils parlent à des membres de leur famille.
Source : O2
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de l'IA Daisy et des capacités lui permettant de cibler les fraudeurs ? Que pensez-vous des expériences menées par O2 ? Daisy va-t-elle se révéler efficace à long terme ?Voir aussi
Des milliers de personnes arnaquées par des voix d'IA imitant des proches en cas d'urgence, 11 millions de dollars ont été volés par le biais de ces escroqueries par téléphone en 2022 Arnaque à l'IA : un couple canadien perd 21 000 dollars à cause d'une fausse voix générée par l'IA qui avait imité à la perfection la voix de leur fils Gemini : Google utilisera son modèle d'IA pour détecter les arnaques lors des appels téléphoniques, elle suscite des inquiétudes quant à la vie privée, car le système écoute les conversations 
