Une nouvelle étude de Jumio révèle que 52 % des personnes interrogées au niveau mondial pensent qu'elles pourraient détecter avec succès une deepfake vidéo.Jumio, le principal fournisseur de solutions automatisées de bout en bout de vérification d'identité, d'évaluation des risques et de conformité, a publié l'étude Jumio 2023 sur l'identité en ligne, le deuxième volet de son étude annuelle sur les consommateurs mondiaux, menée par Censuswide. Les résultats de cette année mettent en évidence une compréhension par les consommateurs de la façon dont l'IA générative et les technologies de deepfake pourraient accélérer la fraude d'identité, et le besoin subséquent d'identités numériques pour la vérification et l'authentification en ligne. Mais les consommateurs semblent également surestimer leur capacité à repérer les deepfakes, ce qui peut les rendre encore plus vulnérables aux attaques.
L'étude a porté sur 8 055 consommateurs adultes répartis équitablement entre le Royaume-Uni, les États-Unis, Singapour et le Mexique. Plus des deux tiers (67 %) déclarent connaître les outils d'IA générative - tels que ChatGPT, DALL-E et Lensa AI - qui peuvent produire du contenu fabriqué, notamment des vidéos, des images et du son. Le niveau de connaissance est le plus élevé chez les consommateurs de Singapour (87 %) et le plus faible chez ceux du Royaume-Uni (56 %).
Une sous-estimation de la sophistication des technologies
Les consommateurs sont très sensibilisés à l'IA générative et aux deepfakes : 52 % des personnes interrogées pensent pouvoir détecter une vidéo deepfake. Ce sentiment reflète un excès de confiance de la part des consommateurs, alors que les deepfakes ont atteint un niveau de sophistication tel qu'il est impossible de les détecter à l'œil nu.
Cette situation est préoccupante étant donné que des chiffres récents de UK Finance ont révélé que les escroqueries à l'usurpation d'identité ont coûté au Royaume-Uni 177 millions de livres sterling en 2022. L'étude souligne en particulier que ce phénomène est dû au fait que les escroqueries sont de plus en plus difficiles à repérer, car les signes avant-coureurs, tels que les fautes de frappe ou les sites web falsifiés, sont moins fréquents en raison de l'utilisation d'outils d'IA générative. Aux États-Unis, les consommateurs ont perdu 2,6 milliards de dollars à cause d'escroqueries à l'usurpation d'identité en 2022, contre 2,4 milliards de dollars en 2021, selon la Federal Trade Commission.
Les données de Jumio montrent également une augmentation constante de l'utilisation de deepfakes de plus en plus sophistiqués à travers le monde et les industries, avec une présence plus forte dans les secteurs des paiements et de la cryptographie.
"Beaucoup de gens semblent penser qu'ils peuvent repérer un deepfake. Bien qu'il y ait certainement des signes révélateurs à rechercher, les deepfakes s'améliorent de manière exponentielle en permanence et deviennent de plus en plus difficiles à détecter sans l'aide de l'IA", a déclaré Stuart Wells, directeur de la technologie de Jumio. "Alors que les entreprises auront de plus en plus besoin de technologies basées sur l'IA pour repérer et protéger leurs réseaux et leurs clients des deepfakes, les consommateurs peuvent se protéger eux-mêmes en traitant avec scepticisme les images, les vidéos et les fichiers audio provocateurs. Une recherche rapide permet généralement de savoir s'il s'agit d'un faux ou non."
La prise de conscience évolue vers la compréhension d'une utilisation potentiellement nuisible
Alors que les consommateurs sont de plus en plus conscients de l'existence de ces technologies, ils commencent également à comprendre comment elles peuvent être utilisées pour alimenter l'usurpation d'identité. Plus de la moitié d'entre eux (57 %) pensent que l'usurpation d'identité en ligne deviendra plus facile, et les consommateurs de Singapour sont ceux qui comprennent le mieux l'utilisation néfaste potentielle de ces technologies (73 %). Ces niveaux diminuent chez les consommateurs du Mexique (62 %), des États-Unis (49 %) et du Royaume-Uni (43 %).
Il incombe aux entreprises d'éduquer et de mieux protéger les consommateurs
"Les organisations ont le devoir d'éduquer leurs clients sur les nuances des technologies d'IA générative pour les aider à développer des attentes plus réalistes quant à leur capacité à détecter les deepfakes", a déclaré Philipp Pointner, chef de l'identité numérique chez Jumio. "Dans le même temps, même la meilleure éducation ne sera jamais en mesure d'arrêter complètement l'utilisation par un fraudeur de technologies en évolution. Les organisations en ligne doivent chercher à mettre en œuvre des systèmes de vérification multimodaux, basés sur la biométrie, capables de détecter les deepfakes et d'empêcher l'utilisation d'informations personnelles volées. Il est encourageant de constater que l'étude indique que les consommateurs sont très intéressés par cette forme de vérification de l'identité, et que les entreprises devraient agir rapidement en ce sens."
L'enquête a révélé que plus de deux tiers (68 %) des consommateurs sont prêts à utiliser une identité numérique pour se vérifier en ligne. Les principaux secteurs dans lesquels ils préféreraient une identité numérique à une pièce d'identité physique (comme un permis de conduire ou un passeport) sont les services financiers (43 %), les administrations publiques (38 %) et les soins de santé (35 %).
Source : Jumio
Et vous ?
Quel est votre avis sur le sujet ? Êtes-vous d'accord avec l'affirmation selon laquelle les consommateurs ont tendance à surestimer leur capacité à repérer les deepfakes ? Trouvez-vous les résultats de cette étude de Jumio pertinents ? Pensez-vous qu'il est nécessaire d'adopter des mesures réglementaires plus strictes pour faire face à la menace croissante de la technologie deepfake et à ses implications potentielles pour l'usurpation d'identité en ligne ? Selon vous, comment les entreprises peuvent-elles mettre en œuvre efficacement des systèmes de vérification multimodaux basés sur la biométrie pour détecter les deepfakes et protéger les données des clients contre la compromission ?Voir aussi
Le nombre de contenus deepfake en ligne augmente à un rythme annuel de 900 %, d'après le World Economic Forum Deepfake : 29 % des entreprises ont été victimes de fraudes vidéos et 37 % ont été touchées par des fraudes vocales, tandis que 46 % ont subi une fraude sur l'identité synthétique, selon Regula Deepfake : la Chine veut réglementer les médias générés par l'IA qui ont été créés sans autorisation afin de lutter contre les activités criminelles en ligne Les "deepfakes" constituent la plus grande préoccupation en matière d'IA, d'après Brad Smith, président de Microsoft 
