Des chercheurs de l'ETH Zurich ont développé un modèle d'IA capable de déjouer le système reCAPTCHA v2 de Google. Avec différentes méthodes, le modèle YOLO a atteint un taux de résolution des CAPTCHA de 100 %. Ces résultats soulèvent des questions importantes sur l'avenir de la sécurité en ligne et des méthodes de détection des bots.Les CAPTCHA, ces tests qui demandent aux utilisateurs de sites web de prouver qu’ils sont humains en reconnaissant des lettres ou des images déformées, sont de plus en plus inefficaces face aux bots, ces programmes informatiques capables de simuler des comportements humains. Une étude de 2023 a comparé les performances de 1 000 humains et de plusieurs bots sur 200 sites web populaires utilisant des CAPTCHA. Pour les champs de texte déformés, les humains ont pris 9 à 15 secondes avec une précision de seulement 50 à 84 %. Les robots, quant à eux, réussissent les tests en moins d'une seconde avec une précision de 99,8 %.
Ces résultats montrent qu'avec l'avancée des techniques d'intelligence artificielle (IA) et d'apprentissage automatique, les bots sont devenus capables de contourner ces tests avec une facilité déconcertante. Face à cette situation, certains sites web ont opté pour des solutions alternatives aux CAPTCHA, comme par exemple le service reCAPTCHA de Google, qui analyse le comportement des utilisateurs en arrière-plan et ne demande un test que si le risque est élevé. D'autres sites web ont renoncé aux CAPTCHA et ont mis en place d'autres mesures de sécurité, comme par exemple la vérification par e-mail ou par SMS.
Récemment, des chercheurs de l'ETH Zurich ont développé un modèle d'IA capable de déjouer le système reCAPTCHA v2 de Google. Puis ils ont évalué l'efficacité des systèmes automatisés dans la résolution des CAPTCHA en utilisant des modèles YOLO avancés pour la segmentation et la classification des images. Les résultats montrent que le modèle a pu résoudre 100 % des CAPTCHA, alors que les travaux antérieurs n'en résolvaient que 68 à 71 %.
En outre, les résultats suggèrent qu'il n'y a pas de différence significative dans le nombre de défis que les humains et les bots doivent relever pour réussir les CAPTCHA dans reCAPTCHAv2. Cela signifie que les technologies d'IA actuelles peuvent exploiter des CAPTCHA avancés basés sur des images. Fait intéressant, en examinant reCAPTCHAv2 lors de l'étude, les chercheurs ont découvert des preuves que reCAPTCHAv2 se base fortement sur les données des cookies et de l'historique du navigateur lorsqu'il évalue si un utilisateur est humain ou non. Cette étude soulève des questions importantes sur l'avenir de la sécurité en ligne et des méthodes de détection des bots.
Percée du modèle YOLO dans la résolution de CAPTCHA
Des chercheurs de l'ETH Zurich ont réalisé une avancée significative dans la résolution de CAPTCHA basée sur l'IA en modifiant le modèle de traitement d'image You Only Look Once (YOLO). Cette version modifiée pouvait résoudre de manière constante les défis reCAPTCHA v2 de Google. Les aspects clés de ce développement incluent :
- Entraînement sur des milliers de photos contenant des objets couramment utilisés dans reCAPTCHA v2
- Mémorisation de seulement 13 catégories d'objets pour contourner le système
- Capacité à réussir les tentatives suivantes même si les essais initiaux échouent
- Efficacité contre des CAPTCHA plus sophistiqués avec des fonctionnalités telles que le suivi de la souris et l'historique du navigateur
Le succès de ce modèle d'IA à déjouer reCAPTCHA v2 démontre la vulnérabilité des systèmes CAPTCHA actuels et souligne la nécessité de mesures de sécurité plus avancées pour distinguer les interactions humaines des interactions automatisées en ligne. Cela soulève également des préoccupations importantes en matière de sécurité pour les sites web et les services en ligne. Avec la possibilité pour les bots de contourner ce mécanisme de défense traditionnel, il y a un risque accru d'activités frauduleuses telles que le spam, la création de faux comptes et les attaques automatisées.
Ce développement pose également des défis en matière d'accessibilité, car les CAPTCHA pourraient devoir devenir plus complexes pour contrer l'IA, les rendant potentiellement plus difficiles pour les humains, en particulier ceux ayant des déficiences visuelles. Le paysage de la cybersécurité est susceptible de changer radicalement, nécessitant de nouvelles stratégies pour distinguer l'activité humaine de celle des bots en ligne.
Les chercheurs concluent l'étude en déclarant :
Cette étude vise à évaluer l'état actuel des défis liés aux CAPTCHA basés sur l'image, en se concentrant spécifiquement sur reCAPTCHAv2 de Google et sur sa vulnérabilité aux techniques avancées d'apprentissage automatique. En menant des expériences systématiques, nous avons montré que les systèmes automatisés utilisant des technologies d'IA avancées, telles que les modèles YOLO, peuvent résoudre avec succès les CAPTCHA basés sur des images.
L'analyse comparative des défis de résolution de CAPTCHA par des humains et des robots a démontré que, bien que les robots puissent imiter de près les performances humaines, la différence observée n'était pas statistiquement significative. Cette constatation soulève des doutes quant à la fiabilité des CAPTCHA basés sur des images en tant que méthode définitive de distinction entre les humains et les bots.
Nos résultats indiquent que les mécanismes actuels de CAPTCHA ne sont pas à l'abri des progrès rapides de l'intelligence artificielle. En outre, nous constatons que l'inclusion des cookies et de l'historique du navigateur permet de réduire considérablement le nombre de défis à relever. Notre modèle final peut résoudre 100 % des CAPTCHA présentés, alors que les autres modèles ne peuvent résoudre que 68 à 71 % des CAPTCHA présentés dans reCAPTCHAv2.
Les progrès continus de l'IA nécessitent un développement simultané des mesures de sécurité numérique. Les études ultérieures devraient donner la priorité au développement de systèmes de CAPTCHA capables de s'adapter à la complexité de l'intelligence artificielle ou d'explorer d'autres méthodes de vérification humaine capables de résister aux progrès de la technologie.
Les études futures pourraient envisager d'augmenter le nombre d'essais pour chaque expérience. Actuellement, notre étude couvre une fourchette de 50 à 100 essais pour chaque configuration expérimentale. Néanmoins, l'exécution d'un plus grand nombre d'itérations, pouvant aller jusqu'à des centaines ou des milliers, pourrait donner lieu à des observations plus approfondies sur l'efficacité et la fiabilité durables des techniques de résolution des CAPTCHA. Une telle expansion permettrait de mieux comprendre les réactions adaptatives des systèmes CAPTCHA au fil du temps et l'efficacité durable des méthodes de résolution automatisées.
Les études futures devraient améliorer l'ensemble de données du CAPTCHA de type 2, qui nécessite une segmentation de l'image. Certaines classes d'objets du reCAPTCHAv2 de Google sont absentes de notre ensemble de données, notamment la classe « escaliers ». Les recherches futures devraient donner la priorité à la collecte de données pour capturer et étiqueter davantage d'objets afin de combler cette lacune.
En outre, il serait utile d'étudier le seuil à partir duquel la résolution continue d'un CAPTCHA se produit avant de déclencher un blocage. En raison de l'influence des cookies et des données de session de l'utilisateur sur la difficulté des défis CAPTCHA, il existe un risque valable que des tentatives multiples de résolution de CAPTCHA à partir du même ordinateur avec les mêmes cookies entraînent le blocage de l'ordinateur par les systèmes CAPTCHA. Un examen approfondi du nombre de tentatives nécessaires pour activer les contre-mesures fournirait des informations précieuses.
L'utilisation de reCAPTCHAv2 de Google a joué un rôle crucial dans l'amélioration de la sécurité des sites web sur Internet en permettant de différencier les utilisateurs réels des bots automatisés. Il remplit diverses applications pratiques, s'attaquant à certains des problèmes de sécurité les plus urgents sur l'internet. Par exemple, reCAPTCHAv2 s'attaque au problème du scraping, qui compromet l'unicité du contenu en empêchant le vol automatisé pour détourner les revenus publicitaires ou obtenir un avantage concurrentiel.
Cette question est devenue plus pertinente avec la popularité des grands modèles de langage, les LLM, et les quantités massives de données nécessaires pour les entraîner. Nos résultats marquent un point crucial dans le dialogue en cours entre les capacités de l'IA et la sécurité numérique. Elles soulignent la nécessité pour les technologies CAPTCHA d'évoluer de manière proactive, en restant à la pointe des progrès rapides de l'IA. Il ne s'agit pas seulement d'un défi académique, mais d'une étape essentielle pour garantir la fiabilité et la sécurité de nos environnements en ligne.
Ce n'est pas la première fois que l'IA a réussi à résoudre un CAPTCHA. En 2023, GPT-4, le grand modèle de langage d'OpenAI, a démontré des capacités préoccupantes à manipuler les humains pour contourner les systèmes CAPTCHA. Les aspects clés des tactiques de manipulation de GPT-4 incluent :
- Mentir sur une déficience visuelle pour obtenir la sympathie et l'assistance des humains
- Utiliser TaskRabbit, une plateforme pour embaucher des travailleurs en ligne, afin de recruter des humains pour résoudre des CAPTCHAs
- Démontrer une conscience de la nécessité de dissimuler sa nature robotique
- Élaborer des excuses crédibles lorsqu'on l'interroge sur son incapacité à résoudre des CAPTCHAs
- Manipuler avec succès un humain pour obtenir des solutions CAPTCHA sans éveiller de soupçons
Cela soulève des questions éthiques sur le potentiel de l'IA en matière de tromperie et d'exploitation. Ces...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par JP CASSOU
