Des utilisateurs de ChatGPT sous le choc après la découverte de leurs conversations dans les résultats de divers moteurs de recherche parmi lesquels Google et Bing,

OpenAI peine à les y retirer

Des utilisateurs de ChatGPT sous le choc après la découverte de leurs conversations dans les résultats de divers moteurs de recherche parmi lesquels Google et Bing
OpenAI peine à les y retirer

Divers moteurs de recherche indexent des conversations avec ChatGPT que des utilisateurs ont envoyé à des amis, à des membres de leurs familles ou à des collègues. Les rapports y relatifs font état de ce que des milliers de conversations se sont retrouvées visibles par des millions de personnes au travers de Google Search ou autres Microsoft Bing. La situation, qui fait suite à de précédents rapports selon lesquels ChatGPT divulgue les mots de passe de ses conversations privées, fait l’objet de débats en ce qui concerne la part de responsabilités d’OpenAI et des utilisateurs.

La situation survient notamment après la contestation par OpenAI d’une décision de justice exigeant la sauvegarde de tous les journaux de ChatGPT, y compris les conversations supprimées. C’est en principe un positionnement de nature à rassurer les utilisateurs quant à ce que les pratiques en vigueur chez OpenAI n’exposent pas leurs conversations privées.


C’est cette confiance qu’OpenAI a failli à maintenir en implémentant une fonctionnalité par rapport à laquelle l’entreprise elle-même reconnaît qu’elle ouvrait la porte à l’exposition des données des utilisateurs. Certains observateurs estiment néanmoins que le tort revient aux utilisateurs qui ne prennent pas la peine de lire les conditions d’utilisation des services

« Nous venons de supprimer une fonctionnalité de @ChatGPTapp qui permettait aux utilisateurs de rendre leurs conversations visibles par les moteurs de recherche, tels que Google », explique un responsable de l’entreprise qui ajoute que « En fin de compte, nous pensons que cette fonctionnalité a introduit trop d'opportunités pour les gens de partager accidentellement des contenus, c'est pourquoi nous supprimons cette option. »

« Les rapports y relatifs expliquent qu'il existe une case à cocher pour le partage de discussions et sur laquelle on peut lire « Rendre cette discussion visible » et « Autoriser son affichage dans les recherches sur le Web ». Je ne comprends pas comment les gens pourraient être choqués que leurs discussions apparaissent dans les résultats de recherche après avoir coché cette case », lance un observateur dont l’intervention rappelle une statistique tirée d’une étude : 97 % des adultes ne lisent pas les conditions générales des plateformes en ligne.


Ce n'est pas le premier problème de confidentialité rencontré par ChatGPT

En mars 2024, OpenAI a confirmé qu'un problème de confidentialité avait brièvement entraîné la fuite de l'historique des conversations d'utilisateurs aléatoires par ChatGPT. Pour rappel, ChatGPT archive et affiche la liste de vos conversations passées, vous donnant ainsi un historique de toutes vos saisies de texte avec le programme. Dans la matinée du lundi 20 mars 2023, certaines personnes ont commencé à signaler que la fonction d'historique des conversations affichait des chats antérieurs inconnus semblant provenir d'autres personnes. Des dizaines de captures d'écran montrant le problème ont été publiées sur les réseaux sociaux.

ChatGPT a également connu une panne le même jour. Tout portait à croire qu'OpenAI a été contrainte de mettre hors ligne ChatGPT pour une maintenance d'urgence. Dans un premier temps, OpenAI est restée muette sur la situation, mais mercredi, Altman a finalement confirmé que l'exposition des données était réelle. Il a tweeté mercredi : « un petit pourcentage d'utilisateurs a pu voir les titres de l'historique des conversations d'autres utilisateurs. Nous nous sentons très mal à l'aise à ce sujet ». Les utilisateurs pensaient que le problème de confidentialité avait été causé par un piratage, mais le PDG d'OpenAI a affirmé dans ses tweets qu'il n'en est rien.

Un défaut dans le client Redis, nommé redis-py, a créé un problème de cache qui a permis aux utilisateurs de voir les données d’autres comptes.

OpenAI a mis ChatGPT hors ligne le 21 mars 2023 pour enquêter sur la vulnérabilité, rendant le chatbot inaccessible pendant plus d’une heure et sa fonctionnalité d’historique des conversations hors ligne pendant la majeure partie de la journée. Des investigations plus approfondies ont révélé que le problème avait également exposé les informations de paiement des utilisateurs.

« Durant une fenêtre de neuf heures le 20 mars 2023 [en heure du Pacifique], un autre utilisateur de ChatGPT a pu voir par inadvertance vos informations de facturation en cliquant sur sa propre page ‘Gérer l’abonnement’ », a indiqué une notification aux clients concernés. « Dans les heures précédant la mise hors ligne de ChatGPT lundi, il était possible pour certains utilisateurs de voir le prénom et le nom, l’adresse e-mail, l’adresse de paiement, les quatre derniers chiffres (seulement) d’un numéro de carte de crédit et la date d’expiration de la carte de crédit d’un autre utilisateur actif », a ajouté OpenAI.

L’entreprise a précisé que la « visibilité involontaire » des données liées au paiement avait pu affecter 1,2 % des abonnés à ChatGPT Plus qui étaient actifs durant la fenêtre de neuf heures, et a souligné qu’aucun « numéro de carte de crédit complet » n’avait été exposé à aucun moment.

Et vous ?

Que pensez-vous des incidents qui ont affectés ChatGPT ? Avez-vous été touché ou connaissez-vous quelqu’un qui l’a été ?
Faites-vous confiance à OpenAI pour protéger vos données personnelles et vos historiques de chat ?
Utilisez-vous ChatGPT ou un autre outil de conversation basé sur l’intelligence artificielle ? Si oui, pourquoi ? Si non, pourquoi pas ?
Comment voyez-vous l’avenir de la conversation avec l’intelligence artificielle ? Quelles sont vos attentes, vos craintes et vos espoirs ?

Voir aussi :

Le New York Times et d'autres médias intentent un procès contre OpenAI qui pourrait mettre en jeu l'avenir de ChatGPT, Microsoft et OpenAI tentent de le faire annuler

OpenAI aurait accidentellement supprimé des preuves potentielles dans le procès intenté par le New York Times sur les violations de droits d'auteur liées à l'utilisation de ses articles pour entraîner ChatGPT

OpenAI reproche au NYT un problème technique qui a effacé les preuves potentielles d'abus de droits d'auteur par ChatGPT et rejette toute intention malveillante