Dans un monde où l’intelligence artificielle (IA) est souvent présentée comme la clé de l’automatisation et de l’efficacité, une révélation surprenante a émergé concernant les drive-thru de restauration rapide aux Philippines. Presto Automation, une entreprise qui se décrit comme l’un des plus grands fournisseurs de technologie d’automatisation du travail dans l’industrie, a récemment admis que plus de 70 % des commandes dans ses drive-thru “IA” sont en réalité traitées par des travailleurs humains.Presto Automation, une entreprise de drive-thru basée sur l'intelligence artificielle, s'est décrite comme « l'un des plus grands fournisseurs de technologies d'automatisation du travail du secteur » et s'est vantée de sa capacité à augmenter ses ventes et à « économiser » du temps de travail humain.
Mais selon des documents récemment déposés auprès de la Securities and Exchange Commission (SEC) des États-Unis, des travailleurs humains hors site interviennent et exécutent plus de 70 % des commandes. Ces document font suite à la notification à Presto Automation plus tôt cette année qu’elle faisait l’objet d’une enquête de la SEC « concernant certains aspects de sa technologie IA ».
Bien que l'image de marque et le marketing de l'entreprise suggèrent une technologie magique de drive-in, Presto Automation fait appel à des travailleurs dans des endroits comme les Philippines. Ces travailleurs interviennent régulièrement pour assurer la prise correcte des commandes des clients, remettant en question la prétendue autonomie de la technologie IA. Malgré le marketing et le branding suggérant une technologie magique de drive-in, il s’avère que la réalité est bien différente :
Alors que nous continuons à développer notre activité Presto Voice, nous nous efforçons d'augmenter la vitesse à laquelle notre solution reçoit avec succès les commandes sans nécessiter l'intervention d'un agent humain, communément appelé «*humains dans la boucle*». Actuellement, plus de 70 % des commandes prises par notre solution Presto Voice nécessitent l'intervention d'un agent humain. Alors que nous continuons à améliorer la précision de notre IA et à déployer davantage Presto Voice dans tous les magasins, nous pensons que le pourcentage de commandes qui ne nécessitent aucune intervention d'un agent humain atteindra 30 % ou plus. L'automatisation croissante des commandes grâce à notre moteur d'IA amélioré et la poursuite de l'optimisation de l'intervention humaine nous permettront de maintenir les niveaux souhaités de précision des commandes tout en atteignant la rentabilité au niveau de l'emplacement du restaurant (appelée « marge du site »). Nous sommes actuellement proches de la rentabilité au niveau de la marge du site sur la base de notre niveau actuel d'intervention d'agent humain et visons des marges de site positives d'ici le 30 juin 2024. Nous prévoyons que cela se produira une fois que 50 % de nos commandes ne nécessiteront plus l'intervention d'un agent humain. Nous visons une nouvelle augmentation de ces pourcentages, à 60 % d'ici le 30 septembre 2024 et à 70 % d'ici le 31 décembre 2024, ce qui se traduira par des marges de chantier nettement plus élevées.
Une situation qui n'est pas isolée
Nate, prétendait utiliser l’IA pour remplir automatiquement les détails de paiement des clients
D’autres startups ont également commercialisé le travail humain comme étant de “l’IA”. Par exemple, une application de shopping en ligne populaire auprès des influenceurs et créateurs de contenu, Nate, prétendait utiliser l’IA pour remplir automatiquement les détails de paiement des clients.
Mais au lieu d'utiliser des méthodes de haute technologie pour finaliser les achats, les transactions de Nate étaient souvent traitées manuellement par des travailleurs aux Philippines, selon une étude approfondie de The Information. S'adressant à deux personnes ayant un accès direct aux données internes de Nate, The Information rapporte que « la part des transactions que Nate a traitées manuellement plutôt qu'automatiquement variait entre 60 % et 100 % » tout au long de 2021. Une personne connaissant les efforts de collecte de fonds a déclaré au média que l'entreprise n'a pas parlé de son processus manuel avec certains investisseurs potentiels alors qu'elle essayait de lever des fonds.
Des personnes ayant une connaissance directe de la technologie utilisée par Nate ont déclaré à The Information que les bloqueurs de robots sur les sites des détaillants constituaient un problème. « Le logiciel de Nate devait trouver comment localiser des boutons spécifiques sur la page, comme celui qui ajoute un article au panier », selon le rapport, ce qui a entraîné une grande partie des transactions passant par une saisie manuelle par de véritables humains. Certaines commandes ont été passées des heures après que les utilisateurs de Nate ont appuyé sur le bouton « acheter », rapporte The Information.
Cela n’a pas empêché Nate de récolter des millions dans sa quête pour rendre encore plus facile quelque chose qui est déjà très simple. Les sociétés de capital-risque Coatue Management et Forerunner Ventures ont investi 50 millions de dollars dans Nate au cours des deux années précédentes :
L’une des conséquences du boom du shopping alimenté par la pandémie est que les investisseurs en capital-risque – confrontés à une concurrence féroce pour les transactions et paranoïaques à l’idée de rater le prochain Stripe – ont pratiquement commencé à dépenser de l’argent sur des startups qui promettaient de rendre le commerce électronique plus fluide, même celles dont les modèles commerciaux ou la technologie sont douteux. Aujourd’hui, dans un contexte de ralentissement des ventes en ligne et de défis macroéconomiques, de nombreuses startups sont confrontées à un bilan.
« Dans le paysage des startups, on se rend compte que beaucoup d'entreprises ont eu une belle histoire, mais que leur réalité ne l'était pas », a déclaré Keval Desai, un investisseur chez InterWest Partners qui soutenait auparavant des sociétés de commerce électronique telles que The RealReal. « Les gens ouvrent les yeux et disent que ces valorisations ne peuvent pas être maintenues. »
« Dans le paysage des startups, on se rend compte que beaucoup d'entreprises ont eu une belle histoire, mais que leur réalité ne l'était pas », a déclaré Keval Desai, un investisseur chez InterWest Partners qui soutenait auparavant des sociétés de commerce électronique telles que The RealReal. « Les gens ouvrent les yeux et disent que ces valorisations ne peuvent pas être maintenues. »
Mais les utilisateurs ont trouvé un moyen de contourner le système en créant plusieurs comptes avec les mêmes informations bancaires mais en utilisant de nouvelles adresses e-mail et numéros de téléphone. Après que l’entreprise ait supprimé les utilisateurs en double et mis fin à la promotion, les transactions quotidiennes sont redescendues entre 75 et 100 par jour.
Un porte-parole de Nate a déclaré à The Information que ces chiffres – ainsi que la fourchette de 60 à 100 pour cent – étaient incorrects, « et les affirmations remettant en question la technologie exclusive de [Nate] sont totalement sans fondement. » Mais ce ne serait pas la première fois qu’une startup prétendait que les machines étaient responsables du travail effectué par les humains – et projette « la magie » de Nate sous un tout nouveau jour.
Kaedim s'est servi de l'IA comme façade pour exploiter des artistes 3D
Kaedim, la start-up qui prétend utiliser l’apprentissage automatique pour convertir les illustrations 2D de ses clients en modèles 3D, propose ses services aux développeurs de jeux vidéo et à d’autres. La société se présentait comme « automatisant la conversion 2D en 3D » et « automatisant les parties ennuyeuses de la modélisation 3D », comme si tout le travail était effectué à l’aide de l’IA.
C'est un média qui a révélé la supercherie.
Selon des sources contactées par 404 Media, un média indépendant, Kaedim emploie des artistes 3D du monde entier 24 heures sur 24 et 7 jours sur 7, qui travaillent sur une base de commission où ils sont payés pour chaque modèle qu’ils réalisent. La rémunération était d’environ 1 dollar à 4 dollars pour chaque modèle, et il semble qu’ils recevaient une petite prime s’ils acceptaient le travail rapidement.
L’une des sources a déclaré que Kaedim avait embauché des artistes 3D du monde entier pour une « couverture 24h/24 et 7j/7 ». Une autre a déclaré que les artistes étaient payés pour chaque modèle réalisé, « l'objectif était donc d'en réaliser autant que possible afin d'obtenir un paiement plus élevé ». Ce paiement était d'environ 1 à 4 dollars par modèle, ont-ils ajouté. Ils ont également reçu une petite prime pour avoir accepté le poste rapidement, ont-ils indiqué.
Source : SEC
Et vous ?
Quelle est votre opinion sur l’utilisation de travailleurs humains pour effectuer des tâches présentées comme automatisées par l’IA ? Pensez-vous que les entreprises devraient être plus transparentes concernant l’intervention humaine derrière les technologies d’IA ? Comment la révélation de ces pratiques affecte-t-elle votre confiance dans les promesses de l’automatisation et de l’IA dans le secteur de la restauration rapide mais aussi dans d'autres secteurs ? Quelles mesures les régulateurs devraient-ils prendre pour assurer la transparence et l’éthique dans la commercialisation de l’IA ? En tant que consommateur, comment ces informations influencent-elles votre décision d’utiliser ou non les services de drive-thru automatisés ? Quel impact pensez-vous que ces pratiques ont sur les travailleurs aux Philippines et sur l’économie locale ? 
