Des images des caméras de surveillance pilotées par l'IA installées dans les camionnettes d'Amazon ont été divulguées en ligne,

Alors qu'Amazon avait promis de protéger la vie privée des chauffeurs

Amazon utilise des caméras connectées à une IA dans les camionnettes de livraison
et certains conducteurs sont préoccupés par le respect de leur vie privée

Amazon, le leader mondial de l'e-commerce, a intégré dans ses vans de livraison des caméras connectées à une IA pour surveiller les livreurs tout le long du parcours de livraison et ainsi connaître leur performance. Certains conducteurs sont préoccupés par le respect de leur vie privée, car ils sont enregistrés "100 % du temps" par les caméras pendant qu'ils sont en route et signalent une série d'infractions à la sécurité, notamment le non-respect d'un stop, les excès de vitesse et la conduite distraite. De son côté par contre, le détaillant affirme que les caméras l'aideront à améliorer la sécurité de son réseau de livraison.

Amazon veut garder un œil sur ses livreurs pendant le service

Les chauffeurs Amazon de certaines installations américaines auront bientôt une paire d'yeux supplémentaire pour les surveiller lorsqu'ils prendront la route pour effectuer leurs livraisons quotidiennes. En effet, le géant mondial de l'e-commerce a récemment commencé à tester des caméras connectées à une IA dans les véhicules pour surveiller les chauffeurs de livraison sous contrat pendant qu'ils sont au travail. Amazon a confirmé ses faits au micro de CNBC, disant que cette "surveillance" va lui permettre d'améliorer la sécurité de son réseau de livraison, mais cela inquiète grandement les acteurs concernés.


Selon des critiques de l'industrie, cette forme de surveillance n'est pas loin de ce qui s'observe en Chine et ne devrait pas être autorisée aux États-Unis. D'après eux, cela crée un environnement de stress continu pour les conducteurs et constitue une violation flagrante de leur vie privée. Les caméras ont été déployées dans des fourgons de livraison de marque Amazon utilisés par une poignée d'entreprises qui font partie de son programme de partenariat de services de livraison, et qui sont en grande partie responsables des livraisons du dernier kilomètre.

Selon les dires de Deborah Bass, porte-parole d'Amazon, qui a confirmé les faits à CNBC, les caméras pourraient être déployées dans d'autres prestataires de services de livraison au fil du temps. « Nous investissons dans la sécurité dans toutes nos activités et avons récemment commencé à déployer une technologie de sécurité basée sur des caméras de pointe dans toute notre flotte de livraison », a déclaré Bass dans un communiqué. « Cette technologie fournira aux conducteurs des alertes en temps réel pour les aider à rester en sécurité lorsqu'ils sont sur la route », a-t-elle ajouté.

Amazon a déjà distribué une vidéo d'instruction aux prestataires de services de livraison, les informant du fonctionnement des caméras. Toutefois, nombreux sont ceux qui s'interrogent à propos de la surveillance de masse et l'utilisation abusive des données qui seront recueillies par le biais de ces caméras.

Pourquoi Amazon fait-il maintenant appel à des caméras d'IA ?

En effet, Amazon a mis en place un programme appelé DSP (Delivery Service Partner), regroupant les fournisseurs de services de livraison sous contrat et généralement reconnaissables aux fourgons de livraison de marque Amazon. Ils ramassent les colis dans les stations de livraison Amazon et les déposent aux portes. Le programme, lancé en 2018, a permis à l'entreprise d'augmenter rapidement ses capacités de livraison du dernier kilomètre et de concurrencer des partenaires de transport, tels que UPS et FedEx. Cependant, le programme DSP d'Amazon a fait l'objet de critiques pour le laxisme de ses protocoles de sécurité par le passé.


Des enquêtes menées par NBC News, ProPublica et BuzzFeed News, ont permis de relever plusieurs problèmes, mais aussi de constater les mauvaises conditions de travail dans certains DSP, sur la base d'entretiens avec des chauffeurs et d'anciens employés d'Amazon. Amazon a certainement longuement réfléchi à la façon de corriger le tir, ce qui l'a amené à déployer ces caméras. Les caméras pourraient contribuer à améliorer la sécurité, mais les défenseurs de la vie privée et plusieurs chauffeurs de DSP ont déclaré qu'ils s'inquiétaient d'éventuels compromis en matière de protection de la vie privée.

Certains chauffeurs, qui ont demandé à rester anonymes par crainte de représailles de la part d'Amazon, ont décrit les caméras comme "dérangeantes", "Big Brother" et "un système de punition". D'autres ont déclaré craindre que les caméras connectées à un système d'intelligence artificielle n'ajoutent une pression supplémentaire à un travail qui implique déjà une charge de travail intense de livraison de centaines de colis par jour. Les chauffeurs ont déclaré qu'ils sont passibles de mesures disciplinaires, pouvant aller jusqu'au licenciement, en fonction de la gravité de l'infraction à la sécurité enregistrée par la caméra.

En fait, selon une politique de confidentialité publiée par Amazon en rapport avec les caméras, les images collectées par ces dernières peuvent être utilisées pour des décisions d'emploi. « Je ne pense même pas qu'Amazon sache encore toutes les façons dont ils utiliseront la vidéo recueillie par ces appareils », a déclaré Evan Greer, directeur adjoint du groupe de droits numériques Fight for the Future. « Cela signifie simplement que chaque véhicule Amazon sera désormais aussi une caméra de surveillance Amazon. Et pour l'instant, il n'y a aucune loi en place pour régir ce qu'Amazon peut faire avec toutes ces images une fois qu'elles ont été collectées ».

Comment fonctionnent les caméras de surveillance d'Amazon ?

Dans la vidéo d'instruction adressée par Amazon aux DSP, le détaillant a affirmé que ses caméras d'IA enregistrent "100% du temps" lorsque les conducteurs sont sur la route. Amazon utilise une caméra alimentée par l'AI fabriquée par Netradyne, une start-up de San Diego fondée en 2015 par deux anciens employés de Qualcomm. La caméra, appelée Driveri, possède quatre objectifs qui capturent la route, le conducteur et les deux côtés du véhicule. Les caméras sont équipées d'un logiciel d'intelligence artificielle capable de détecter 16 problèmes de sécurité différents.

Cela comprend si un conducteur ne s'arrête pas à un stop, s'il est distrait, s'il roule à grande vitesse, s'il freine brusquement et si le conducteur porte sa ceinture de sécurité. Un conducteur de DSP dans le Kentucky a déclaré que les caméras peuvent également détecter si un conducteur bâille. Plus encore, Karolina Haraldsdottir, un cadre supérieur pour la sécurité du dernier kilomètre chez Amazon, a déclaré dans la vidéo que la caméra émet une alerte sonore, comme "Maintenez une distance de sécurité", "Aucun arrêt détecté" et "Veuillez ralentir", lorsqu'elle détecte certaines violations de la sécurité.


« La sécurité est notre priorité absolue chez Amazon et nous espérons que ce nouveau système apportera aux conducteurs et aux prestataires de services numériques une tranquillité d'esprit tout en faisant sourire nos clients », a expliqué Haraldsdottir. Lorsque la caméra détecte qu'un employé a un comportement de conduite dangereux, elle déclenche le téléchargement des images vers un "portail sécurisé" accessible par Amazon et le DSP. Interrogé par CNBC, un porte-parole d'Amazon n'a pas répondu aux questions demandant comment les images sont sécurisées.

La vidéo dit toutefois que les conducteurs ont un certain contrôle sur la caméra, qui n'enregistre pas l'audio. Un bouton sur la caméra permet aux conducteurs de télécharger manuellement les images, et les conducteurs peuvent éteindre les caméras orientées vers la cabine lorsque le contact de leur fourgon est coupé, ce qui leur permet d'avoir un peu d'intimité pendant leur pause déjeuner ou lorsqu'ils passent un appel téléphonique. Amazon a en outre déclaré que la caméra n'envoie pas de "flux en direct" à Amazon ou aux DSP.

Cela dit, certains déclencheurs de sécurité signalés par la caméra en temps réel peuvent amener Amazon à entrer en contact avec le conducteur lorsqu'il est sur la route. Par exemple, le conducteur du Kentucky a déclaré que si un conducteur est pris en train de bâiller, la caméra lui demandera de se garer pendant au moins 15 minutes. Si le conducteur n'obtempère pas, il peut recevoir un appel de son service de sécurité routière lui demandant de se garer. Amazon peut également utiliser les images pour d'autres fins que l'application des mesures de sécurité.

Dans la vidéo, Haraldsdottir explique également que les images peuvent être utilisées dans le cadre d'enquêtes sur des incidents. Il peut s'agir de collisions avec d'autres véhicules ou des piétons, ou encore de vols de colis. « Les séquences vidéo peuvent être l'un des meilleurs outils pour obtenir rapidement des faits sur une situation », a expliqué Haraldsdottir dans la vidéo, avant de passer à un scénario où les séquences de Driveri ont été « utilisées pour acquitter un conducteur de toute responsabilité dans des incidents de sécurité ».

Enfin, la politique de confidentialité stipule que les images peuvent être remises aux forces de l'ordre ou utilisées comme preuves dans le cadre de procédures judiciaires si nécessaire.

De plus en plus d'entreprises font appel à cette technologie

Selon le rapport de CNBC, Amazon n'est pas la seule entreprise de logistique à s'appuyer sur cette technologie. Selon Dan McMackin, porte-parole d'UPS (United Parcel Service), une entreprise postale américaine, l'entreprise a testé l'année dernière des caméras orientées vers l'avant et équipées de capteurs qui émettent des alertes de sécurité dans des fourgons dans plusieurs villes dans le cadre d'un essai de "preuve de concept initiale". Le test a suscité un certain recul de la part du syndicat des camionneurs. Selon les experts, les capacités de l'IA sont tout aussi préoccupantes.


Cela en raison du fait que l'IA permet à Amazon de s'appuyer sur un logiciel pour examiner les images à l'échelle, ce qui peut produire des erreurs de jugement. De plus, des recherches antérieures sur les systèmes d'IA ont montré que la technologie présente des préjugés raciaux et sexistes, comme Gender Shades, une étude marquante de 2018 qui a révélé que la technologie de reconnaissance faciale est très imprécise pour les personnes de couleur noire...