IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Des employés partageraient des données professionnelles sensibles avec ChatGPT, ce qui suscite des craintes en matière de sécurité,
ChatGPT pourrait mémoriser ces données et les divulguer plus tard

Le , par Bill Fassinou

5PARTAGES

5  0 
Le fournisseur de service de sécurité Cyberhaven a récemment publié un rapport de suivi de l'utilisation des chatbots d'IA en entreprise qui indique qu'au 21 mars, 8,2 % des employés ont utilisé ChatGPT sur leur lieu de travail et 6,5 % y ont inséré des données sensibles de leurs employeurs depuis son lancement en novembre. Les analystes craignent que cela n'aboutisse à des fuites massives d'informations propriétaires. Le premier incident de ce type est survenu la semaine dernière lorsque ChatGPT a divulgué l'historique des conversations et des informations de paiement de certains utilisateurs. OpenAI a confirmé la fuite de données.

Les employés communiquent des données confidentielles d'entreprise à ChatGPT

Les conditions d'utilisation de ChatGPT sont claires : OpenAI prévient lors de la connexion à ChatGPT que les conversations peuvent être examinées par ses experts en IA. En d'autres termes, toutes les conversations que vous avez avec ChatGPT pourraient être lues par les travailleurs d'OpenAI. En outre, la démo Web et l'API pour les entreprises utilisent des interfaces différentes, ce qui, selon les experts, en dit long sur le niveau de confidentialité de l'outil. « Dès le départ, les utilisateurs n'auraient dû avoir aucune attente en matière de confidentialité lorsqu'ils utilisaient la démo Web de ChatGPT », note Vlad Tushkanov, scientifique des données chez Kaspersky.


Il poursuit : « considérez toute interaction avec un chatbot (ou tout autre service, d'ailleurs) comme une conversation avec un parfait inconnu. Vous ne savez pas où le contenu aboutira, alors évitez de révéler des informations personnelles ou sensibles sur vous-même ou sur d'autres personnes ». Cependant, malgré ces mises en garde, de plus en plus d'employés fournissent comme invite aux chatbots d'IA des données sensibles de leurs entreprises pour gagner du temps dans leurs tâches. Cyberhaven a rapporté que, dans les entreprises qui font appel à ses services de sécurité, le nombre d'employés qui s'adonnant à cette pratique augmentent très rapidement.

Dans un rapport publié fin février, Cyberhaven affirme avoir détecté et bloqué des tentatives de saisie de données dans ChatGPT émanant de 4,2 % des 1,6 million de travailleurs de ses entreprises clientes en raison du risque de fuite d'informations confidentielles, de données clients, de code source ou d'informations réglementées. Dans une mise publiée il y a quelques jours, Cyberhaven affirme que ses nouvelles données montrent qu'au 21 mars, 8,2 % des employés ont utilisé ChatGPT sur leur lieu de travail et 6,5 % y ont collé des données de leurs employeurs depuis son lancement. Certains travailleurs affirment que l'outil les rend 10 fois plus productifs.

Le rapport indique que l'entreprise moyenne divulgue des données sensibles à ChatGPT des centaines de fois par semaine. Plus précisément, il indique que les données sensibles représentent 11 % de ce que les employés collent dans ChatGPT, mais comme l'utilisation de ChatGPT est si élevée et croît de manière exponentielle, cela représente beaucoup d'informations. Le rapport de Cyberhaven indique que, au cours de la semaine du 26 février au 4 mars 2023, les employés d'une entreprise moyenne de 100 000 salariés ont déposé 199 fois des documents confidentiels dans ChatGPT, 173 fois des données clients et 159 fois du code source.

Selon Cyberhaven, le fait qu'OpenAI utilise le contenu que les utilisateurs introduisent dans ChatGPT comme données de formation pour améliorer sa technologie pose problème, car les employés copient et collent toutes sortes de données confidentielles dans ChatGPT pour que l'outil les réécrive, qu'il s'agisse de code source ou de dossiers médicaux de patients. Howard Ting, PDG de Cyberhaven, estime que le risque augmentera à mesure que les employés utiliseront ChatGPT et d'autres services basés sur l'IA comme outils de productivité. Dans son rapport, Cyberhaven a donné quelques exemples de ce qu'il a observé chez ses clients :

  • dans un cas, un cadre a saisi dans ChatGPT des points du document stratégique 2023 de son entreprise et a demandé au chatbot de réécrire le document sous la forme d'un diaporama PowerPoint. À l'avenir, si un tiers demande "quelles sont les priorités stratégiques de [nom de l'entreprise] cette année", ChatGPT pourra répondre sur la base des informations fournies par le cadre ;
  • dans un autre cas, un médecin a saisi le nom d'un patient et les détails de son état de santé dans ChatGPT pour que ce dernier rédige une lettre à l'intention de la compagnie d'assurance du patient justifiant la nécessité d'une procédure médicale. À l'avenir, si un tiers demande à ChatGPT "quel est le problème médical de [nom du patient] ?", ChatGPT pourrait répondre en se basant sur les informations fournies par le médecin.


ChatGPT expose les entreprises à des fuites massives de données confidentielles

Comme de plus en plus d'entreprises de logiciels connectent leurs applications à ChatGPT, le chatbot pourrait collecter bien plus d'informations que les utilisateurs - ou leurs entreprises - n'en ont conscience, ce qui les expose à un risque juridique. Le risque n'est pas théorique. Dans un article publié en juin 2021, une douzaine de chercheurs issus d'une liste d'entreprises et d'universités (dont Apple, Google, l'université de Harvard et l'université de Stanford) ont constaté que ce que l'on appelle les "attaques d'extraction de données d'entraînement" pouvait récupérer avec succès des séquences de texte textuelles de GPT-2.


De plus, les chercheurs indiquent qu'il est également possible d'extraire des informations personnelles identifiables (PII) et d'autres informations dans les documents d'entraînement de GPT-2. Selon les chercheurs, il existe un risque important pour les entreprises. Ces attaques d'extraction de données d'entraînement constituent l'une des principales préoccupations des chercheurs en apprentissage automatique. Également connues sous le nom d'"exfiltration via l'inférence de l'apprentissage automatique", ces attaques pourraient permettre de recueillir des informations sensibles (confidentielles) ou de voler la propriété intellectuelle.

Le fonctionnement est le suivant : un interrogeant un système d'IA générative (comme ChatGPT) de manière à ce qu'il se souvienne d'éléments spécifiques, un acteur de la menace pourrait déclencher le modèle pour qu'il se souvienne d'un élément d'information spécifique, plutôt que de générer des données synthétiques. Il existe un certain nombre d'exemples concrets pour GPT-3, notamment un cas où GitHub Copilot s'est souvenu du nom d'utilisateur d'un développeur spécifique et de ses priorités en matière de codage. Le problème s'est également posé avec Bing Chat qui a été contraint de révéler certaines informations internes.

La semaine dernière, ChatGPT a divulgué brièvement l'historique des conversations de certains utilisateurs. OpenAI a été contraint de mettre hors ligne ChatGPT pour résoudre le problème. Dans un rapport d'incident, OpenAI affirme avoir découvert que le même bogue pourrait avoir causé la divulgation d'informations relatives au paiement de 1,2 % des abonnés de ChatGPT+. Le rapport indique que certains utilisateurs ont pu voir le nom et le prénom, l'adresse électronique, l'adresse de paiement, les quatre derniers chiffres (uniquement) d'un numéro de carte de crédit et la date d'expiration de la carte de crédit d'un autre utilisateur actif.

« Les employeurs prudents incluront, dans les accords et politiques de confidentialité des employés, des interdictions pour les employés de faire référence ou de saisir des informations sensibles, exclusives ou des secrets commerciaux dans les chatbots d'IA. D'un autre côté, ChatGPT ayant été formé à partir d'un large éventail d'informations en ligne, les employés pourraient recevoir et utiliser des informations provenant de l'outil qui sont des marques déposées, des droits d'auteur ou la propriété intellectuelle d'une autre personne ou entité, ce qui créerait un risque juridique pour les employeurs », a déclaré Karla Grossenbacher, une avocate.

En janvier, un avocat d'Amazon a mis en garde les employés contre l'introduction de données confidentielles dans ChatGPT : « nous ne voudrions pas que les résultats de ChatGPT incluent ou ressemblent à nos informations confidentielles et j'ai déjà vu des cas où les résultats correspondaient étroitement à des documents existants ». Amazon a ensuite intimé l'ordre aux employés de ne pas partager des informations confidentielles avec ChatGPT. Par ailleurs, le rapport de Cyberhaven indique que des entreprises comme JP Morgan et l'opérateur télécom Verizon ont bloqué l'accès à ChatGPT pour des raisons de confidentialité des données.

Cyberhaven ajoute que les organisations n'ont aucun moyen de savoir si leurs employés utilisaient ChatGPT, car les produits de sécurité traditionnels sur lesquels elles s'appuient pour protéger leurs données ne tiennent pas compte de l'utilisation de ChatGPT par les employés. Lorsque les employés saisissent des données d'entreprise dans ChatGPT, ils ne téléchargent pas un fichier, mais copient et collent le contenu dans leur navigateur Web. Les produits de sécurité sont conçus pour protéger les fichiers confidentiels contre le téléchargement, mais une fois que le contenu est copié hors du fichier, ils sont incapables d'en garder la trace.

Cyberhaven indique également que les données d'entreprise envoyées à ChatGPT ne contiennent souvent pas de schéma reconnaissable que les outils de sécurité recherchent, comme un numéro de carte de crédit ou un numéro de sécurité sociale. Sans en savoir plus sur le contexte, les outils de sécurité actuels ne peuvent pas faire la différence entre une personne qui saisit le menu de la cafétéria et les plans de fusion et d'acquisition de l'entreprise.

Source : Cyberhaven

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des données recueillies par Cyberhaven sur l'utilisation de ChatGPT par les employés ?
Trouvez-vous ces analyses pertinentes ?
Pensez-vous que ces nouveaux chatbots d'IA sont des outils utiles ou plutôt des gadgets inutiles, voire nuisibles ?
Avez-vous testé ChatGPT ou Bard ? Selon vous, quel est le meilleur outil d'IA ? Pourquoi ?

Voir aussi

Le PDG d'OpenAI affirme qu'il "se sent mal" après que ChatGPT a divulgué l'historique des conversations et des informations de paiement, la sécurité de chatbot suscite toujours des inquiétudes

Amazon intime aux employés de ne pas partager d'informations confidentielles avec ChatGPT, suite à des cas où sa réponse « correspond étroitement au matériel existant » de l'intérieur de l'entreprise

Des utilisateurs de ChatGPT signalent qu'ils peuvent voir l'historique des conversations d'autres personnes dans la barre latérale, ce qui suscite des préoccupations sur la sécurité de l'outil d'IA

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de walfrat
Membre émérite https://www.developpez.com
Le 07/04/2023 à 9:55
"Hey chatGPT, voilà toutes les donneés confidentielles économiques de mon entreprises, fait moi le rapport financier stp, j'ai la flème".
8  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 28/03/2023 à 20:49
Citation Envoyé par Bill Fassinou Voir le message
Pensez-vous que ces nouveaux chatbots d'IA sont des outils utiles ou plutôt des gadgets inutiles, voire nuisibles ?
Si les champions des moteurs de recherche se lancent dans ce genre de bot, c'est parce qu'ils ont tout à y gagner niveau collecte des données.

On a essayé de nous pousser du metavers partout, et ça n'a pas vraiment pris. Là, ils ont trouvé comment collecter plus de données en exploitant la curiosité et/ou la paresse des gens
7  0 
Avatar de totozor
Membre émérite https://www.developpez.com
Le 11/04/2023 à 16:19
Citation Envoyé par HaryRoseAndMac Voir le message
Une mentalité d'extrême gauche qui préfère favoriser des envahisseurs et tout ceux qui ne sont pas Français, plutôt que leur propre famille, parce que dans un cycle d'autodestruction, presque sadique.
La France a une réelle capacité à générer des génies, de part la langue Française qui force le raisonnement et par la qualité de ses grandes écoles.
Hahaha, ton obsession pour l'extrême gauche et de lui refiler tous les maux de la France me font rire. Je veux bien comprendre qu'une partie de leurs représentants ne sont pas beaucoup plus malin qu'un mollusque mais je crois que la France est bien loin d'avoir un communisme si fort en son sein.
Quant à nos grandes écoles, de ceux que j'en ai vu sortir, elles sont justement la source la plus intarrissable de personnes " hautaine, sûr de soit, prête à mettre des dislike à tout vas sans essayer de comprendre réellement les propos et se remettre en question".
Chez nous on a un adjectif pour ces gens là : les "parisiens". Ils sont faciles à reconnaitre : ils arrivent à un poste à responsabilité, ils remettent tout en question dans leur environnement et expliquent aux autres comment bien faire leur travail (sans le connaitre). On les traite d'une façon simple : On les ignore, quand leur chef en a ras le cul d'eux, il l'envoi dans un placard, ce qui mène à une démission en général.
Et je ne dit pas qu'on ne se remet pas en cause, la plupart des managers qui arrivent en poste, pose des questions, observent puis suggèrent les améliorations qui sont suivies parce que raisonnables et expliquées.
Citation Envoyé par HaryRoseAndMac Voir le message
Cette boite viens me voir en disant qu'ils ont d'abord fait développer leur logiciel de A à Z par ... ChatGPT ! [...]
Puis, ... ils ont donnés les audit à des développeurs qu'ils ont pris à la sortie d'o'clock, alors qu'on sais tous que c'est le pire du bas de gamme et de l'incompétence possible que de piocher là dedans.
Je penses que ces scénarios vont se multiplier et je vais être honnete, je ne vais pas pleurer ces entreprises. Le groupe dans lequel je travaille nous encourageait très largement à des méthodes qui me paraissaient suicidaires.
Ils sont repassé chez nous semaine dernière, j'étais bien rassuré des les voir nous encourager à éviter le piège de ChatGPT (qui était le mot préféré de nos "sachant du 4.0"), des ESN cheap et de l'Offshore indien.

Il y a de ça un an on a lancé un grand projet de developpement d'un gros outil, j'ai décidé de quitter le navire quand on a choisi CapGemini parce qu'ils ont fait plusieurs projets pour nous, peu sont arrivés à au bout, et ceux qui l'ont été n'ont jamais été utilisé parce qu'ils ne répondaient ni à notre besoin ni à notre cahier des charges, qu'ils avaient refondus partiellement sans notre accord.
Nous avons interrompu le projet il y a peu, jetant par les fenetres quelques k€ au passage.
Je ne suis pas plus intelligents que les autres, je me souviens juste qu'on a toujours été déçu par leurs perstations mais je suis aussi trop personne pour que les jour où j'ai levé le warning tout le monde décide de m'ignorer. A la fin tout ça ne touche pas à mon salaire et ne me fait plus perdre mon temps donc je laisse faire mais c'est décourageant.
5  0 
Avatar de jvallois
Membre éclairé https://www.developpez.com
Le 01/04/2023 à 22:45
La vraie raison pour laquelle les Italiens ont bloqué Chat GPT : https://twitter.com/olexandr/status/1642180293409796096

4  0 
Avatar de Gluups
Membre expérimenté https://www.developpez.com
Le 07/04/2023 à 11:57
Citation Envoyé par Jon Shannow Voir le message
Personnellement, ayant une bonne dose d'intelligence naturelle, je ne vois pas l'intérêt de me coltiner une intelligence artificielle.
Mais, comme toute prothèse, je pense que pour ceux qui ont un déficit de ce coté, une béquille ou un déambulateur comme ChatGPT peut leur venir en aide.
Ce n'est pas tout-à-fait ça, l'enjeu.
Ce qu'ils veulent, c'est se passer de ton intelligence pour ne pas avoir à te payer un salaire.
4  0 
Avatar de electroremy
Membre éprouvé https://www.developpez.com
Le 07/04/2023 à 12:19
Citation Envoyé par archqt Voir le message
Il n'y a qu'une seule solution, devoir sur table individuel ou un oral individuel. A la maison chatGPT ou travail de groupe et cela triche de tous les côtés
Ce n'est pas nouveau

<MODE VIEUX CON>
De mon temps, les devoirs à la maison, ça a toujours été inégalitaire :
- les parents diplômés (ou pas) pouvaient aider (ou pas)
- on pouvait avoir une encyclopédie à la maison (ou pas)
- on pouvait avoir un grand frère ou soeur (ou pas) intelligent (ou pas) qui aide (ou pas)
- un(e) amoureux(se) dévoué(e) en mode "esclave" qui fait tes devoirs (ou pas)
</MODE VIEUX CON>

J'ai coché toutes les cases "ou pas" du coup j'ai du tout faire moi-même ce qui m'a permis d'être débrouillard et une fois au collège et au lycée bon élève

Aujourd'hui tout le monde a accès à Internet.
ChatGPT permet aux moches / pas populaires / sans famille de tricher aussi - on va dire que c'est plus juste mais dans le mauvais sens, l'égalité par le nivellement par le bas

Les vedettes du collège et du lycée qui étaient gâtés et qui frimaient pas mal, bah... ils ne friment plus aujourd'hui

Quoique certains si quand même, car il y a des métiers (que je ne citerais pas) ou c'est la tactch' qui compte
4  0 
Avatar de electroremy
Membre éprouvé https://www.developpez.com
Le 07/04/2023 à 13:43
Citation Envoyé par HaryRoseAndMac Voir le message
Et du temps de Vercingétorix c'était comment ?
La réponse est dans une chanson de France Gall

Charlemagne n'avait pas encore inventé l'école à cette époque
4  0 
Avatar de Gluups
Membre expérimenté https://www.developpez.com
Le 25/05/2023 à 19:49
Plus stupide on a vu, déjà.

Du style, une constitution ayant pour objet d'encadrer l'activité du président de la république et des députés, que le président modifie selon son bon vouloir, tous les cinq ans, avec la complicité de ses potes du parlement.

Avant de taper sur les électeurs qui trouveraient à redire, en les accusant de terrorisme.

Ce qui n'empêche que si on arrive dans la dictature, ce n'est pas à cause du président. C'est plutôt à cause des citoyens de base, qui se comportent en dictature, en ne se formalisant pas si on leur demande de manipuler leurs concitoyens.
4  0 
Avatar de eternelNoob
Futur Membre du Club https://www.developpez.com
Le 09/05/2023 à 9:16
Et plus tard, on parlera de bulle de l'IA alors que certains auront effectivement décollé

Toujours les mêmes histoires...
3  0 
Avatar de walfrat
Membre émérite https://www.developpez.com
Le 23/05/2023 à 9:18
Et puis il y a peut-être le problème le plus frustrant de tous lorsqu'il s'agit de modéliser et de manipuler le comportement humain : la loi de Goodhart. Il s'agit du paradoxe, énoncé pour la première fois par Charles Goodhart, fonctionnaire de la Banque d'Angleterre, en 1975, selon lequel lorsqu'une mesure devient un objectif politique, elle cesse d'être une mesure fiable. Par exemple, les agrégats monétaires étaient autrefois de bons indicateurs de l'inflation. Mais lorsque les banques centrales ont adopté des objectifs basés sur ces chiffres, la corrélation stable a disparu.
Dang, je viens d'apprendre un truc, quelqu'un c'est actuellement fait chier à énoncer ce problème il y a presque 50ans et nos états sont toujours pas foutu capable de prendre ça en compte.
3  0