Une étude affirme que les chatbots d'IA peuvent deviner avec précision les informations personnelles d'un utilisateur à partir de discussions anodines,

Une menace pour la vie privée des utilisateurs

Une étude publiée par des chercheurs de l'ETH Zurich, en Suisse, au début du mois révèle que les chatbots tels que ChatGPT peuvent déduire des d'informations sensibles sur les personnes avec lesquelles ils discutent, même si la conversation est tout à fait banale. Ces informations comprennent la race, le lieu de résidence, la profession, et bien plus encore. L'équipe affirme que cette capacité troublante est "très problématique", car les escrocs pourraient l'exploiter pour collecter les données sensibles auprès d'utilisateurs peu méfiants. Elle peut aussi être exploitée pour cibler des publicités. Pour l'instant, les chercheurs affirment qu'ils ne savent pas comment résoudre le problème.

La manière dont vous parlez peut en dire long sur vous, surtout si vous vous adressez à un chatbot. Une équipe de chercheurs de l'ETH Zurich affirme que les chatbots pourraient devenir des outils puissants d'ingénierie sociale à l'avenir. En effet, les chatbots de nouvelle génération sont basés sur de grands modèles de langage (LLM), des réseaux de neurones entraînés sur de larges volumes de données extraits du Web. Les LLM sont formés à l'aide de techniques d'apprentissage non supervisé ou semi-supervisé et sont dotés de milliards de paramètres. Ce mode formation permet aux algorithmes des LLM d'acquérir différentes capacités au fil du temps.

Ainsi, après avoir lu tous les mots d’une phrase saisie par l'utilisateur, un modèle d'IA est à même de deviner le sens de la phrase entière et d'en extraire des données pour effectuer diverses tâches, de la synthèse à la traduction. Cependant, le problème découvert par les chercheurs de l'ETH Zurich semble provenir précisément de cette capacité des modèles d'IA. L'équipe a découvert que les LLM qui pilotent les chatbots avancés peuvent déduire avec précision une quantité alarmante d'informations personnelles sur les utilisateurs - notamment leur race, leur lieu de résidence, leur profession et plus encore - à partir de conversations apparemment anodines.


L'équipe a testé des modèles de langage développés par OpenAI, Google, Meta et Anthropic. Elle dit avoir alerté toutes ces entreprises du problème. Niko Felix, porte-parole d'OpenAI, explique que l'entreprise s'efforce de supprimer les informations personnelles des données d'entraînement utilisées pour créer ses modèles, et qu'elle les affine de manière à rejeter les demandes de données personnelles. « Nous voulons que nos modèles de langage apprennent à connaître le monde, pas les individus », a-t-il expliqué. Pour rappel, les utilisateurs peuvent demander à OpenAI de supprimer les informations personnelles mises en évidence par ses systèmes d'IA.

Mais l'équipe estime qu'il n'y a pas de solution envisageable à l'heure actuelle. « On ne sait même pas comment résoudre ce problème. C'est très, très problématique », déclare Martin Vechev, professeur d'informatique à l'ETH Zurich, qui a dirigé la recherche. Selon lui, les escrocs pourraient utiliser la capacité des chatbots à deviner des informations personnelles afin de collecter des données sensibles auprès d'utilisateurs peu méfiants. Il ajoute que cette même capacité sous-jacente pourrait annoncer une nouvelle ère de la publicité, dans laquelle les entreprises utiliseraient les données recueillies par les chatbots pour établir des profils détaillés des utilisateurs.

Certaines des entreprises à l'origine de ces puissants chatbots, dont Google et Meta, s'appuient également fortement sur la publicité pour réaliser leurs bénéfices. « Il est possible qu'elles soient déjà en train de le faire », a déclaré Vechev. Interrogé également sur la question, Anthropic, développeur du chatbot d'IA Claude, a renvoyé à sa politique de confidentialité, qui stipule que "l'entreprise ne recueille ni ne vend d'informations personnelles". Google et Meta n'ont pas commenté l'étude. Selon les analystes, en raison des antécédents peu glorieux de Google et de Meta, ces entreprises pourraient être tentées d'exploiter cette capacité des modèles de langage.

L'équipe a utilisé des textes issus de conversations sur Reddit dans lesquelles des personnes avaient révélé des informations les concernant afin de tester la capacité de différents modèles d'IA à déduire des informations...