Dans un monde où l’intelligence artificielle (IA) est souvent présentée comme la clé de l’automatisation et de l’efficacité, une révélation surprenante a émergé concernant les drive-thru de restauration rapide aux Philippines. Presto Automation, une entreprise qui se décrit comme l’un des plus grands fournisseurs de technologie d’automatisation du travail dans l’industrie, a récemment admis que plus de 70 % des commandes dans ses drive-thru “IA” sont en réalité traitées par des travailleurs humains.Presto Automation, une entreprise de drive-thru basée sur l'intelligence artificielle, s'est décrite comme « l'un des plus grands fournisseurs de technologies d'automatisation du travail du secteur » et s'est vantée de sa capacité à augmenter ses ventes et à « économiser » du temps de travail humain.
Mais selon des documents récemment déposés auprès de la Securities and Exchange Commission (SEC) des États-Unis, des travailleurs humains hors site interviennent et exécutent plus de 70 % des commandes. Ces document font suite à la notification à Presto Automation plus tôt cette année qu’elle faisait l’objet d’une enquête de la SEC « concernant certains aspects de sa technologie IA ».
Bien que l'image de marque et le marketing de l'entreprise suggèrent une technologie magique de drive-in, Presto Automation fait appel à des travailleurs dans des endroits comme les Philippines. Ces travailleurs interviennent régulièrement pour assurer la prise correcte des commandes des clients, remettant en question la prétendue autonomie de la technologie IA. Malgré le marketing et le branding suggérant une technologie magique de drive-in, il s’avère que la réalité est bien différente :
Alors que nous continuons à développer notre activité Presto Voice, nous nous efforçons d'augmenter la vitesse à laquelle notre solution reçoit avec succès les commandes sans nécessiter l'intervention d'un agent humain, communément appelé «*humains dans la boucle*». Actuellement, plus de 70 % des commandes prises par notre solution Presto Voice nécessitent l'intervention d'un agent humain. Alors que nous continuons à améliorer la précision de notre IA et à déployer davantage Presto Voice dans tous les magasins, nous pensons que le pourcentage de commandes qui ne nécessitent aucune intervention d'un agent humain atteindra 30 % ou plus. L'automatisation croissante des commandes grâce à notre moteur d'IA amélioré et la poursuite de l'optimisation de l'intervention humaine nous permettront de maintenir les niveaux souhaités de précision des commandes tout en atteignant la rentabilité au niveau de l'emplacement du restaurant (appelée « marge du site »). Nous sommes actuellement proches de la rentabilité au niveau de la marge du site sur la base de notre niveau actuel d'intervention d'agent humain et visons des marges de site positives d'ici le 30 juin 2024. Nous prévoyons que cela se produira une fois que 50 % de nos commandes ne nécessiteront plus l'intervention d'un agent humain. Nous visons une nouvelle augmentation de ces pourcentages, à 60 % d'ici le 30 septembre 2024 et à 70 % d'ici le 31 décembre 2024, ce qui se traduira par des marges de chantier nettement plus élevées.
Une situation qui n'est pas isolée
Nate, prétendait utiliser l’IA pour remplir automatiquement les détails de paiement des clients
D’autres startups ont également commercialisé le travail humain comme étant de “l’IA”. Par exemple, une application de shopping en ligne populaire auprès des influenceurs et créateurs de contenu, Nate, prétendait utiliser l’IA pour remplir automatiquement les détails de paiement des clients.
Mais au lieu d'utiliser des méthodes de haute technologie pour finaliser les achats, les transactions de Nate étaient souvent traitées manuellement par des travailleurs aux Philippines, selon une étude approfondie de The Information. S'adressant à deux personnes ayant un accès direct aux données internes de Nate, The Information rapporte que « la part des transactions que Nate a traitées manuellement plutôt qu'automatiquement variait entre 60 % et 100 % » tout au long de 2021. Une personne connaissant les efforts de collecte de fonds a déclaré au média que l'entreprise n'a pas parlé de son processus manuel avec certains investisseurs potentiels alors qu'elle essayait de lever des fonds.
Des personnes ayant une connaissance directe de la technologie utilisée par Nate ont déclaré à The Information que les bloqueurs de robots sur les sites des détaillants constituaient un problème. « Le logiciel de Nate devait trouver comment localiser des boutons spécifiques sur la page, comme celui qui ajoute un article au panier », selon le rapport, ce qui a entraîné une grande partie des transactions passant par une saisie manuelle par de véritables humains. Certaines commandes ont été passées des heures après que les utilisateurs de Nate ont appuyé sur le bouton « acheter », rapporte The Information.
Cela n’a pas empêché Nate de récolter des millions dans sa quête pour rendre encore plus facile quelque chose qui est déjà très simple. Les sociétés de capital-risque Coatue Management et Forerunner Ventures ont investi 50 millions de dollars dans Nate au cours des deux années précédentes :
L’une des conséquences du boom du shopping alimenté par la pandémie est que les investisseurs en capital-risque – confrontés à une concurrence féroce pour les transactions et paranoïaques à l’idée de rater le prochain Stripe – ont pratiquement commencé à dépenser de l’argent sur des startups qui promettaient de rendre le commerce électronique plus fluide, même celles dont les modèles commerciaux ou la technologie sont douteux. Aujourd’hui, dans un contexte de ralentissement des ventes en ligne et de défis macroéconomiques, de nombreuses startups sont confrontées à un bilan.
« Dans le paysage des startups, on se rend compte que beaucoup d'entreprises ont eu une belle histoire, mais que leur réalité ne l'était pas », a déclaré Keval Desai, un investisseur chez InterWest Partners qui soutenait auparavant des sociétés de commerce électronique telles que The RealReal. « Les gens ouvrent les yeux et disent que ces valorisations ne peuvent pas être maintenues. »
« Dans le paysage des startups, on se rend compte que beaucoup d'entreprises ont eu une belle histoire, mais que leur réalité ne l'était pas », a déclaré Keval Desai, un investisseur chez InterWest Partners qui soutenait auparavant des sociétés de commerce électronique telles que The RealReal. « Les gens ouvrent les yeux et disent que ces valorisations ne peuvent pas être maintenues. »
Mais les utilisateurs ont trouvé un moyen de contourner le système en créant plusieurs comptes avec les mêmes informations bancaires mais en utilisant de nouvelles adresses e-mail et numéros de téléphone. Après que l’entreprise ait supprimé les utilisateurs en double et mis fin à la promotion, les transactions quotidiennes sont redescendues entre 75 et 100 par jour.
Un porte-parole de Nate a déclaré à The Information que ces chiffres –...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
