La débâcle des caisses en libre-service chez McDonalds est un avertissement pour nous tous que l'IA n'est pas prête à remplacer l'humain dans les restaurants,

Certains services simulent l'IA via l'Homme

La technologie des caisses dites automatiques devait révolutionner le shopping. Mais, tant pour les consommateurs que pour les commerçants, elle n’a pas tenu ses promesses comme l’illustre le cas McDonald’s. Certains services s’appuient même sur des humains pour simuler l’IA. Le tableau est de nature à soulever des débats sur la valeur de l’expression « intelligence artificielle. »

« Ça n’a rien apporté de ce qu’elle promettait », souligne Christopher Andrews, professeur associé et président de sociologie à l’université Drew, aux États-Unis, et auteur de The Overworked Consumer: Self-Checkouts, Supermarkets, and the Do-It-Yourself Economy. « Les magasins voyaient cela comme la nouvelle frontière… S’ils pouvaient faire croire au consommateur que [la caisse automatique] était un moyen préférable de faire ses courses, alors ils pourraient réduire les coûts de main-d’œuvre. Mais ils se rendent compte que les gens ont besoin d’aide pour le faire, ou qu’ils vont voler des choses. Ils ont fini par se rendre compte qu’ils ne font pas d’économies, ils perdent de l’argent ».

De nombreuses entreprises de vente au détail ont investi des millions - voire des milliards - de dollars dans la technologie des caisses automatiques, qui, selon Andrews, a été développée pour la première fois dans les années 1980, et a commencé à apparaître dans les magasins dans les années 1990. Elles ne sont pas exactement bon marché à installer dans les magasins : certains experts estiment qu’un système de quatre bornes peut coûter six chiffres. Malgré le coût pour les installer, de nombreux détaillants font marche arrière sur la technologie. Target, par exemple, limite le nombre d’articles que les clients des caisses automatiques peuvent acheter en une seule fois. Walmart a supprimé certaines bornes de caisse automatique dans certains magasins pour dissuader les vols. Au Royaume-Uni, la chaîne de supermarchés Booths a également réduit le nombre de bornes de libre-service dans ses magasins, car les clients disent qu’elles sont lentes et peu fiables. Dollar General, l’une des entreprises de vente au détail qui connaît la plus forte croissance aux États-Unis, revoit également sa stratégie.

En 2022, la chaîne de magasins à prix réduit a misé fortement sur la technologie des caisses automatiques - il n’est pas rare de voir un ou deux employés seulement s’occuper d’un magasin entier de Dollar General dans certaines régions. Mais la société a annoncé en janvier 2024 qu’elle allait réduire le nombre de caisses automatiques dans ses magasins, après avoir constaté que les clients préféraient interagir avec un caissier humain. « Nous avons appris que nos clients apprécient vraiment le contact humain », a déclaré Todd Vasos, le PDG de Dollar General, lors d’une conférence téléphonique avec les analystes.

Les clients ne sont pas les seuls à être mécontents de la technologie des caisses automatiques. Les employés des magasins se plaignent également du stress supplémentaire qu’elle leur impose, car ils doivent surveiller plusieurs machines à la fois, tout en gérant les autres tâches du magasin. Certains syndicats ont même lancé des campagnes pour inciter les clients à boycotter les caisses automatiques, afin de protéger les emplois des caissiers. Selon une étude de l’université d’Oxford, les caissiers sont parmi les métiers les plus menacés par l’automatisation, avec un risque de 97% de voir leur travail remplacé par des machines.

McDonald's Ends AI Drive-Thru Experiment After Customer Frustrations

McDonald's has decided to end its experimental use of artificial intelligence in its drive-thru service after facing numerous issues that left customers frustrated. The AI technology, which was intended to… pic.twitter.com/OwWDeknVZl

— AIIA (@Aiinaustralia) June 18, 2024

Il y a plusieurs raisons possibles de cet échec, selon les experts. Tout d’abord, il y a le problème de la conception. Les machines sont souvent mal adaptées aux besoins des clients, qui doivent scanner des codes-barres illisibles, taper des codes PLU spécifiques, peser des articles, payer avec des cartes ou des espèces, et placer leurs achats dans des sacs. Le moindre faux pas peut déclencher une alerte sonore et un message d’erreur, comme « article inattendu dans la zone de conditionnement », qui nécessite l’intervention d’un employé. Les clients peuvent se sentir frustrés, confus ou gênés par ces incidents, qui ralentissent le processus de paiement.

Ensuite, il y a le problème de la confiance. Les clients peuvent avoir l’impression que les machines essaient de les tromper, en leur facturant des articles en double, en leur refusant des réductions ou en leur imposant des frais supplémentaires. Les commerçants, quant à eux, doivent faire face au risque de vol, qui est plus élevé avec les caisses automatiques qu’avec les caisses traditionnelles. Selon une étude de l’université de Leicester, au Royaume-Uni, le taux de perte dans les magasins avec des caisses automatiques était de 4%, contre 1,47% dans les magasins sans. Les chercheurs ont attribué ce phénomène à la facilité avec laquelle les clients peuvent tromper les machines, en scannant des articles moins chers à la place de ceux qu’ils achètent, en ne scannant pas certains articles du tout, ou en utilisant des codes de réduction frauduleux.

Enfin, il y a le problème de la relation. Les clients peuvent se sentir déshumanisés par les machines, qui leur parlent avec une voix synthétique et leur donnent des instructions impersonnelles. Ils peuvent aussi regretter l’absence d’interaction sociale avec un caissier humain, qui peut leur sourire, leur faire la conversation ou leur donner des conseils. Les caissiers, de leur côté, peuvent se sentir dévalorisés par les machines, qui leur font perdre leur rôle de service à la clientèle et les transforment en simples surveillants ou réparateurs. Les machines peuvent aussi créer un sentiment de concurrence ou de menace, car elles représentent une possible substitution de leur travail.

“Give me some food!” Man goes ballistic at Maryland McDonald’s drive-thru window. pic.twitter.com/o3W5lLAXrH

— Mike Sington (@MikeSington) November 10, 2023

Certains services s’appuient même sur les humains pour simuler l’intelligence artificielle

Lors de l’ouverture de l’Amazon Go Grocery, le premier supermarché automatisé et sans caissiers à Seattle, « Just Walk Out » avait fait l’objet de présentation en tant que « technologie d’achat la plus avancée au monde. » Bien que le service dans ces supermarchés semblait entièrement automatisé, il s'appuyait sur plus de 1000 personnes en Inde qui regardaient et étiquetaient des vidéos pour assurer la facturation « automatique ». En d’autres termes, les caissiers étaient en réalité hors du site, et ils observaient les clients pendant leurs achats. Les rapports y relatifs font état de ce que l’entreprise a décidé de conserver sa « technologie » dans un petit nombre de magasins Fresh au Royaume-Uni et la retirer de ces derniers aux USA.

Just Walk Out a été introduit pour la première fois en 2016. Cette technologie avait fait l'objet de présentation comme la plus importante et la plus audacieuse d'Amazon en matière d'achats de produits d'épicerie. La technologie semblait incroyable jusqu'à ce qu'on en découvre les dessous. En effet, les clients mettaient souvent des heures à recevoir leurs reçus après avoir quitté le magasin, en grande partie parce que les caissiers délocalisés visionnaient à nouveau les vidéos et attribuaient les articles à différents clients. Le système de scanners et de caméras vidéo dans chaque magasin est en sus très coûteux. D’où la décision d’Amazon d’abandonner cette « technologie » en commençant par ses magasins Fresh aux USA.

Amazon’s ‘Just Walk Out’ stores and its ‘magical’ technology based on AI was hailed as the shopping experience of the future. However, a new report reveals that the artificial intelligence used was not that artificial pic.twitter.com/gNKTx1c1Q0

— RT (@RT_com) April 5, 2024

Amazon s'est orienté vers les Dash Carts, un scanner et un écran intégrés au panier d'achat du client. La nouvelle approche permet de gérer automatiquement les aspects en lien avec la facturation au fur et à mesure que le client effectue ses achats.


« Les entreprises doivent être transparentes », d'après certains observateurs

Certains pensent que les entreprises doivent être toujours transparentes sur le fonctionnement de leurs services. Si certaines sociétés offrent des services propulsés par l’intelligence artificielle, mais en réalité elles emploient des humains, c’est malhonnête et trompeur, pense certains observateurs.

« Et pour l’employé, on sent qu’on est poussés derrière les rideaux. Je n’aime pas que mon travail soit utilisé par une entreprise qui va mentir à ses clients sur ce qui est en train d’arriver réellement. »

L’ensemble de ces faits montrent réellement pourquoi il faut utiliser les bons termes pour décrire ce que font certains systèmes. Par exemple, au lieu de tout dépeindre comme étant une IA, le terme « machine learning » serait plus approprié.

Le problème aussi réside dans le fait que certaines entreprises ne sont pas complètement honnêtes avec leurs clients. Certes, il y a un besoin de prouver qu’il y a une réelle demande pour un service avant de songer à le rendre extensible. Mais les utilisateurs ont le droit aussi de savoir que leurs messages personnels peuvent être lus par un employé humain, par exemple, même si cette consultation est anonyme.

Et vous ?

Partagez-vous les avis selon lesquels il pourrait y avoir plus de pseudo-IA en production que ne laisse penser le battage médiatique autour de cette technologie ?
Que pensez-vous de l’expression « intelligence artificielle » ? Partagez-vous les avis selon lesquels c’est plus un slogan creux qu’autre chose ?
Que pensez-vous de la pratique qui consiste à présenter un service comme animé par une IA alors qu'il s'agit en réalité d'humains qui travaillent en arrière-plan ?
Partagez-vous les avis selon lesquels il y a exagération des capacités actuelles de l'intelligence artificielle ?

Voir aussi :

57 % des travailleurs dans l'industrie technologique dans la Silicon Valley ont déclaré être en burn out, d'après une enquête
Les chercheurs en intelligence artificielle peuvent-ils gagner jusqu'à 1 million $ par an dans la Silicon Valley ? un aperçu des salaires
La bulle technologique de la Silicon Valley est plus grande qu'elle ne l'était en 2000, mais sa fin approche selon des analystes