Alexa vous a espionné tout ce temps, selon Geoffrey Fowler,
Mais toutes les données sauvegardées ne serviraient qu'à rendre l'IA plus intelligente

Le , par Stan Adkens

197PARTAGES

9  0 
Pour une assistance personnelle plus intelligente et une maison plus connectée, nous avons introduit des gadgets connectés dans tous les compartiments de nos foyers. Mais ces précieux appareils, tels que les haut-parleurs intelligents munis de microphones, dont des millions de personnes ne peuvent plus s’en passer aujourd’hui, aurait un côté déplaisant, selon Geoffrey Fowler, chroniqueur technologique chez The Washington Post. Si seulement ce revers de la médaille dans l’utilisation de ses gadgets intelligents était su de tous, les utilisateurs allaient être moins nombreux à inviter Alexa à la maison.

Malheureusement, beaucoup de propriétaires de haut-parleurs intelligents ne s'en rendent pas compte, toutefois, Amazon garde une copie de tout ce qu'Alexa enregistre après avoir entendu son nom, d’après le chroniqueur. Mais Amazon n’est pas le seul à le faire, Siri d'Apple, et jusqu'à récemment l'assistant de Google, conservent aussi par défaut des enregistrements pour les aider à former leurs intelligences artificielles. Pire encore, selon M. Fowler, la prochaine étape de la Silicon Valley, c'est de mettre nos maisons sur écoute.


En effet, le chroniqueur a accédé aux enregistrements vocaux effectués par Alexa dans sa maison pendant quatre ans et il a pu écouter des milliers de fragments de ma vie, des demandes de spaghettis aux blagues des invités en passant par des extraits aléatoires de série « Downton Abbey ». Il y a même trouvé des conversations délicates qui ont déclenché le « mot de réveil » d'Alexa pour qu'il commence automatiquement à enregistrer.

Nous avons l’habitude de nous méfier des applications d’espionnage sur nos smartphones et nos ordinateurs, dorénavant, c’est dans nos maisons que les fabricants de gadgets connectés font la main basse sur nos données privées, avec notre complicité. M. Fowler a écrit dans son article publié le lundi :

« Il est facile de rationaliser les problèmes en pensant qu'un seul haut-parleur ou appareil intelligent ne pourrait pas en savoir assez pour avoir un impact. Mais dans ce pays de plus en plus branché, il y a une mainmise effrontée sur les données, et il y a peu de règlements, d’observateurs ou de pratiques de bon sens pour les contrôler. »

Selon le chroniqueur, toutes les données personnelles collectées peuvent être et seront utilisées contre nous. Pour cela, nous devons prendre des mesures contre l’espionnage à domicile, en commençant par dire : « Alexa, arrête de nous enregistrer », afin d’éviter de faire les mêmes erreurs que Facebook dans nos maisons intelligentes. En effet, selon The Observer, au moins un membre du conseil d’administration de Facebook était au courant du but réel et permanent de la collecte de données litigieuse plusieurs années avant l’explosion du scandale en mars 2018. Cependant, Facebook avait longtemps soutenu que c’est par la presse qu’il a appris ce à quoi les données collectées par Cambridge Analytica devraient servir.

On ne peut pas empêcher Amazon de faire des enregistrements vocaux

Selon le chroniqueur, Alexa garde une trace de ce qu'elle entend chaque fois qu'un haut-parleur Echo est activé. Nous savons que l’assistant d’Amazon n’enregistre qu’après qu’il ait été sollicité par l’invite légitime « Alexa ! ». Cependant, M. Fowler a remarqué que cela n’a pas toujours été le cas en écoutant ses archives Alexa : « J'ai compté des douzaines de fois où le mien a été enregistré sans invite légitime (Amazon dit qu'il a amélioré l'exactitude de « Alexa » en tant que mot de réveil de 50 % au cours de la dernière année)».

A la question de savoir ce qu’on pourrait faire pour empêcher Alexa d'enregistrer, le géant du commerce en ligne a toujours répondu : « Les clients ont le contrôle ». Toutefois, la conception du produit ne répond manifestement pas aux besoins des utilisateurs de ne pas être enregistrer, d’après le chroniqueur. Selon lui, il est possible d’effacer manuellement les enregistrements faits par Alexa si vous savez exactement où regarder, mais vous serez obligés de répéter l’action pendant que vous continuerez à faire d’Alexa votre assistant. La seule façon de ne pas se faire enregistrer, c’est de couper le microphone de l'Echo (ce qui va à l'encontre de son but principal) ou débrancher l’appareil.

Quant à la question de savoir à quoi servent ces enregistrements faits par les haut-parleurs, Amazon et les autres fabricants disent qu’ils conservent ces enregistrements pour améliorer leurs produits et non pour les vendre, tout comme Facebook dont le PDG a toujours soutenu que les données collectées sont destinées à améliorer l’expérience utilisateur et non pour les vendre. Toutefois, nous nous souvenons tous de la crise de confidentialité qu’à traversée la société l’an dernier avant de décider cette année de se réorienter vers une forme privée de média social.

Mais l’enregistrement de vos voix n’est pas l’apanage d’Amazon

Apple, qui est beaucoup plus soucieux de la vie privée des utilisateurs, conserve néanmoins des copies des conversations avec Siri. Mais la société dit que les données vocales archivées se voient attribuer un « identifiant aléatoire et ne sont pas liées à des individus ». Apple dont le PDG Tim Cook est connu pour ses représailles contre les géants du numérique dont l’activité est basée sur les données utilisateur, pourrait permettre aux utilisateurs d’accepter ou pas que leurs enregistrements soient stockés.

Selon le chroniqueur, Google avait aussi l'habitude d'enregistrer toutes les conversations avec son assistant, mais l'année dernière il a silencieusement changé ses valeurs par défaut pour ne pas enregistrer ce qu'il entend après l'invite « Hey, Google ». Toutefois, il faudra réajuster les paramètres de Google Assistant pour « mettre en pause » les enregistrements.

Régler l'activité vocale et audio sur "pause" pour empêcher l'enregistrement


Le chroniqueur dit également que la collecte de donnée à domicile par Google s’étend à d’autres gadgets intelligents. « Quand je me lève pour un en-cas de minuit, Google le sait. Le thermostat de mon Nest, fabriqué par Google, rapporte les données à ses serveurs par incréments de 15 minutes non seulement sur le climat de ma maison, mais aussi sur la présence de quelqu'un qui se déplace. »

Le chroniqueur dit également que ses lumières connectées Philips collectent les données chaque fois qu'elles sont allumées ou éteintes. Ces données seraient conservées par l'entreprise pour toujours si vous vous connectez à son service cloud (qui est nécessaire pour utiliser les lumières avec Alexa). Selon le chroniqueur, chaque type d'appareil est en train de devenir un dispositif de collecte de données.

Mais ce qui donnera à réfléchir désormais avant d’acheter tout gadget connecté, c’est que les enregistrements de la plupart des gadgets intelligents sont partagés avec Amazon en tant que prix d'entrée pour les appareils qui veulent s'intégrer avec Alexa, a écrit le chroniqueur. Ce qui permet à Amazon de non seulement écouter les conversions, mais également de suivre tout ce qui passe dans vos maisons.

Par ailleurs, nous avons appris récemment que les employés d'Amazon qui travaillent à améliorer son assistant vocal écoutent les enregistrements vocaux de ce qui se dit dans les maisons et les bureaux des propriétaires d’Echo, lorsque ce dernier est activé. Ces employés peuvent écouter jusqu'à 1000 enregistrements par jour, d’après Business Insider. Mais un porte-parole de l'entreprise a déclaré que les employés n'annotent qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Il a également fait savoir que ces employés n’ont pas directement accès aux informations permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail.


Cependant, Bloomberg a rapporté ce même jour que l'équipe d'Amazon auditant les commandes des utilisateurs d'Alexa a accès aux données de localisation et peut, dans certains cas, trouver facilement l'adresse du domicile d'un client, d’après cinq employés familiarisés avec le programme. Selon ces employés s’exprimant sous couverture d’anonymat, les membres de l'équipe ayant accès aux coordonnées géographiques des utilisateurs d'Alexa peuvent facilement les saisir dans un logiciel de cartographie tiers et trouver des domiciles.

Selon le Chroniqueur, Noah Goodman, professeur agrégé d'informatique et de psychologie à l'Université Stanford, lui a confirmé qu'il est vrai que l'IA a besoin de données pour devenir plus intelligente : « Techniquement, ce qu'ils disent n'est pas déraisonnable ». Selon lui, les systèmes de traitement du langage naturel d'aujourd'hui doivent réexécuter leurs algorithmes sur d'anciennes données pour apprendre. Sans un accès facile aux données, leurs progrès pourraient ralentir. Toutefois, avec le regard non scientifique, M. Goodman a dit : « En tant qu'humain, je suis d'accord avec vous. Je n'ai pas un de ces haut-parleurs dans ma maison ».

Vous ouvrez les portes de votre vie privée aux entreprises de technologies à la recherche d’une maison plus connectée

En effet, non seulement ces entreprises n’utilisent pas ces enregistrements comme ils le promettent, mais ils peuvent se retrouver entre les mains des personnes malveillantes en cas de cyberattaque contre ces sociétés, comme cela s’est produit plusieurs fois avec Facebook. Nous voulons profiter de l'IA qui nous facilite la vie à la maison. Mais cela ne signifie pas pour autant que nous ouvrons nos portes aux entreprises de technologie comme source lucrative de données pour former leurs algorithmes et exploiter nos vies.

Google a dit en février dernier que le microphone intégré et non répertorié dans les spécifications de Nest n'était pas censé être secret, mais plutôt « c'était une erreur de notre part », après un an de commercialisation de son gadget intelligent de maison. En octobre dernier, Facebook avait aussi oublié de dire toute la vérité sur Portal, son premier appareil de domicile.

Ces enregistrements préoccupent également des Etats aux Etats-Unis. La semaine dernière, le comité de protection de la vie privée de l'Assemblée de l'État de Californie a proposé une loi anti-écoute qui obligerait les fabricants d'enceintes intelligentes à obtenir le consentement des clients avant de stocker des enregistrements. Le Sénat de l'Illinois a récemment adopté un projet de loi sur la même question, selon le chroniqueur. Jordan Cunningham, député de l'Assemblée de l'État de Californie, qui parraine leur projet de loi a dit : « Ils nous donnent de faux choix. Nous pouvons avoir ces appareils et profiter de leur fonctionnalité et de la façon dont ils améliorent notre vie sans compromettre notre vie privée ». « Bienvenue à l'ère du capitalisme de surveillance », a-t-il ajouté.

Ces enregistrements faits à domicile comme les autres données utilisateur doivent appartenir aux utilisateurs, par conséquent, c’est à eux de décider ce qu’il faut en faire. Il est temps que les Etats-Unis et les autres pays prennent des mesures pour faire respecter cela.

Source : The Washington Post

Et vous ?

Que pensez-vous de cet article ?
Les données sauvegardées ne servent qu’à enseigner l’IA. Quel est votre commentaire sur cette affirmation des fabricants des gadgets intelligents ?
Avez-vous un haut-parleur dans votre maison ? Comptez-vous le garder là encore pour longtemps ?

Lire aussi

Les utilisateurs des caméras de sécurité Ring d'Amazon seraient espionnés à leur insu, mais un porte-parole de la société nie les faits
Les travailleurs d'Amazon écoutent ce que vous dites à Alexa, son assistant vocal intelligent, et en parlent dans un forum de discussion interne
Si vous vous souciez de la vie privée, faut-il jeter vos appareils Amazon Alexa par la fenêtre ? L'équipe d'Alexa pourrait vous localiser
Facebook ne vous aurait pas dit toute la vérité : la caméra de son « Portal » de domicile collectera vos données, à des fins de ciblage publicitaire
Google : le micro intégré et non répertorié dans les spécifications de Nest n'était pas censé être secret, « c'était une erreur de notre part. »

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 07/05/2019 à 14:19
Ca va être un bordel juridique si un crime est enregistré par ces enceintes et que la justice demande une copie de l’enregistrement ^^.
Avatar de Citrax
Membre actif https://www.developpez.com
Le 09/05/2019 à 5:43
Un article qui ne surprend ABSOLUMENT PAS !

C'etait predit d'office. Et le temps que les bonnes vieilles autorités, gouvernement* ou consommateurs commencent a se reveiller il y en aura partout.
Avatar de alexetgus
Membre habitué https://www.developpez.com
Le 11/05/2019 à 0:20
Aaaaaargh ! Pfffff, couic, urgh !

BEEP !
Je vous conseille d'utiliser les deux mains pour étrangler votre épouse.


Rooooh ! Alexa ta gueule !

 
Contacter le responsable de la rubrique Intelligence artificielle

Partenaire : Hébergement Web