La crise de la confiance et du consentement en IA : Dropbox effraie les utilisateurs avec de nouvelles fonctionnalités d'IA,qui envoient des données à OpenAI lorsqu'elles sont utilisées
Dropbox a ajouté de nouvelles fonctionnalités d'IA. Ces derniers jours, ces mesures ont suscité de nombreuses critiques. Le problème clé ici est que les gens craignent que leurs fichiers privés sur Dropbox soient transmis à OpenAI pour être utilisés comme données de formation pour leurs modèles – une affirmation vigoureusement démentie par Dropbox.
Mercredi, la nouvelle s'est rapidement répandue sur les réseaux sociaux concernant un nouveau paramètre Dropbox activé par défaut qui partage les données Dropbox avec OpenAI pour une fonctionnalité de recherche expérimentale basée sur l'IA, mais Dropbox indique que les données ne sont partagées que si la fonctionnalité est activement utilisée. Dropbox indique que les données utilisateur partagées avec des partenaires d'IA tiers ne sont pas utilisées pour former des modèles d'IA et sont supprimées dans les 30 jours :
À l’heure actuelle, nous avons un partenaire tiers pour l’IA : OpenAI. OpenAI est une organisation de recherche sur l’intelligence artificielle qui développe des modèles de langage de pointe et des technologies d’IA avancées. Vos données ne sont jamais utilisées pour entraîner les modèles internes d’OpenAI, et elles sont supprimées de ses serveurs sous 30 jours.
Envoyé par Dropbox
Chez Dropbox, nous pensons que l'IA va donner naissance à des méthodes de travail beaucoup plus productives. Grâce aux dernières avancées en matière d'IA et de machine learning, comme ChatGPT et d'autres grands modèles de langage, nous sommes désormais capables d'avancer plus rapidement dans notre mission visant à réinventer la façon de travailler. En innovant grâce à l'IA et au ML, nous serons capables de créer la nouvelle génération de produits intelligents qui aideront nos clients à se concentrer, à améliorer leur productivité et à mieux organiser leurs vies professionnelles.
En même temps, nous sommes conscients de la responsabilité qu'implique l'application d'une nouvelle technologie pour nos clients. Des millions de clients confient leurs informations les plus importantes à Dropbox. Nos produits hébergent des photos de famille, des certificats de naissance, des business plans, des documents juridiques, financiers, et plus encore.
Nos principes :
En même temps, nous sommes conscients de la responsabilité qu'implique l'application d'une nouvelle technologie pour nos clients. Des millions de clients confient leurs informations les plus importantes à Dropbox. Nos produits hébergent des photos de famille, des certificats de naissance, des business plans, des documents juridiques, financiers, et plus encore.
Nos principes :
- Nous exploiterons l'IA pour répondre aux besoins de nos clients : nous utiliserons l'IA lorsqu'elle nous permettra de fournir de meilleures expériences à nos clients. En aucun cas nous ne l'utiliserons pour vendre les données des clients.
- Nous permettrons à nos clients de garder le contrôle de leurs données : la confiance des clients et la confidentialité de leurs données sont nos priorités. Nous n'utiliserons pas les données des clients pour entraîner les modèles d'IA sans leur consentement.
- Notre utilisation de l'IA sera transparente : nous nous engageons à faire preuve de transparence avec nos clients. Nous expliquerons clairement le fonctionnement de nos expériences d'IA pour que nos clients comprennent comment ils peuvent en tirer parti.
- Nous défendrons l'équité en matière de technologie d'IA : l'inclusivité, la non-discrimination et l'équité sont au cœur de notre engagement. Nous nous efforcerons de limiter les biais dans nos technologies d'IA et nous nous assurerons qu'elles sont fiables et performantes.
- Nous aurons une responsabilité envers nos clients : nous chercherons en permanence à obtenir l'avis de nos clients au sujet de nos expériences basées sur l'IA et nous veillerons à ce que ces expériences restent sous contrôle humain.
- Nous respecterons les personnes, leur sécurité et leurs droits : nous veillerons à ce que nos innovations en matière d'IA ne répondent pas seulement aux besoins des utilisateurs, mais qu'elles respectent aussi leurs droits et leur sécurité.
Parmi eux, Karla Ortiz, critique fréquente de l'IA, qui a déclaré : « Pour ceux qui se demandent qui est la partie tierce à qui Dropbox transmet automatiquement les données de tout le monde, il s'agit d'Open AI. Compte tenu de tous les procès intentés contre Open AI concernant l’utilisation illicite de données mal acquises, les violations de la vie privée et les fuites de données, cet arrangement n’inspire aucune confiance. Mauvaise stratégie de Dropbox ».
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">For those wondering who the Third Party <a href="https://twitter.com/Dropbox?ref_src=twsrc%5Etfw">@Dropbox</a> just gave everyone’s data automatically to, it’s Open AI.<br><br>Considering all the lawsuits Open AI has concerning illicit use of ill-gotten data, privacy breaches and data leaks this arrangement inspires 0 confidence.Bad move Dropbox. <a href="https://t.co/rbavE3KFq6">https://t.co/rbavE3KFq6</a> <a href="https://t.co/Muk8L3rK9I">pic.twitter.com/Muk8L3rK9I</a></p>— Karla Ortiz (@kortizart) <a href="https://twitter.com/kortizart/status/1734862219685528006?ref_src=twsrc%5Etfw">December 13, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
Dropbox tente de calmer le jeu
Drew Houston, PDG de Dropbox, s'est excusé de la confusion des clients dans une publication sur X et a écrit : « Le bouton d'IA tiers dans le menu des paramètres active ou désactive l'accès aux caractéristiques et fonctionnalités de DBX AI. Ni ce paramètre ni aucun autre paramètre n'est automatiquement ou envoie passivement toutes les données client Dropbox à un service d'IA tiers. Néanmoins, toute confusion de la part de nos clients à ce sujet est de notre faute, et nous veillerons à ce que tout cela soit parfaitement clair ! Plus largement, nos principes d’IA sont disponibles ».
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">The third-party AI toggle in the settings menu enables or disables access to DBX AI features and functionality. Neither this nor any other setting automatically or passively sends any Dropbox customer data to a third-party AI service.</p>— Drew Houston (@drewhouston) <a href="https://twitter.com/drewhouston/status/1735025509422260297?ref_src=twsrc%5Etfw">December 13, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
Les critiques affirment que la communication sur le changement aurait pu être plus claire. Le chercheur en IA Simon Willison a écrit : « Un excellent exemple de la prudence avec laquelle les entreprises doivent communiquer clairement sur ce qui se passe avec l'accès de l'IA aux données personnelles. »
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">Great example here of how careful companies need to be in clearly communicating what's going on with AI access to personal data <a href="https://t.co/j22X2zL3Ev">https://t.co/j22X2zL3Ev</a></p>— Simon Willison (@simonw) <a href="https://twitter.com/simonw/status/1734977084219326592?ref_src=twsrc%5Etfw">December 13, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
Pourquoi Dropbox enverrait-il les données utilisateur à OpenAI de toute façon ? En juillet, la société a annoncé une fonctionnalité basée sur l'IA appelée Dash qui permet aux modèles d'IA d'effectuer des recherches universelles sur des plateformes telles que Google Workspace et Microsoft Outlook.
Selon la FAQ sur la confidentialité de Dropbox, le paramètre de désactivation de l'IA tierce fait partie de « Dropbox AI alpha », qui est une interface conversationnelle permettant d'explorer le contenu d'un fichier qui implique de discuter avec un robot de style ChatGPT à l'aide d'un message « Demander quelque chose sur ce fichier ». Pour que cela fonctionne, un modèle de langage d'IA similaire à celui qui alimente ChatGPT (comme GPT-4) doit accéder à vos fichiers.
La crise de la confiance et du consentement en IA
Dans un billet, Simon Willison s'est penché sur le sujet en s'appuyant sur le cas de Dropbox. Ci-dessous un extrait de son billet.
Pour autant que je sache, Dropbox a créé des fonctionnalités intéressantes (résumer à la demande, « discuter avec vos données » via la génération augmentée de récupération) et a fait un travail plutôt correct en communiquant leur fonctionnement... mais en ce qui concerne la confidentialité des données et AI, un « travail moyennement correct » est une note d’échec. Surtout si vous détenez autant de données privées que Dropbox !
Deux détails en particulier semblent vraiment importants. Dropbox propose un document sur les principes de l'IA qui comprend ceci :
La confiance des clients et la confidentialité de leurs données sont notre fondement. Nous n'utiliserons pas les données des clients pour entraîner des modèles d'IA sans consentement.
J'ai pris cette capture d'écran sur mon propre compte. Il est activé, mais je ne l’ai jamais activé moi-même. Cela signifie-t-il que je suis marqué comme « consentant » à ce que mes données soient utilisées pour entraîner des modèles d'IA ?
Je ne le pense pas : je pense qu’il s’agit d’une combinaison de formulations confuses et de l’éternel flou de ce que signifie le terme « consentement » dans un monde où tout le monde accepte les termes et conditions de tout sans les lire.
Mais BEAUCOUP de gens en sont arrivés à la conclusion que cela signifie que leurs données privées – qu’ils paient Dropbox pour protéger – sont désormais canalisées vers les abysses de...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
