Une startup spécialisée dans l'IA a dépensé plus d'un million de dollars pour faire la publicité de son nouveau pendentif dans le métro de New York. Le collier est conçu pour vous écouter en permanence par via un microphone et envoyer des messages sarcastiques générés par l'IA sur votre smartphone. Cependant, la campagne a attisé la colère des New-Yorkais. Le collier, appelé « Friend », s'est avéré extrêmement controversé, suscitant une vague de critiques. Les affiches publicitaires pour Friend ont été vandalisées avec des avertissements sur les dangers de l'IA, notamment l'isolement et les troubles mentaux. Ils ont rappelé l'importance d'avoir des amis humains.Le collier Friend a été lancé par une startup du même nom. Il intervient après l'échec cuisant du gadget portable Humane AI Pin et l'assistant rabbit r1. Humane a attiré les consommateurs avec des promesses ambitieuses. Humane avait affirmé que son gadget portable aiderait l'humanité à se débarrasser de sa dépendance critique à l'égard du smartphone. Le fabricant du rabbit r1 avait des promesses similaires. Tous deux ont échoué lamentablement.
Friend pourrait connaitre le même destin. Le collier Friend de la startup est un gadget portable de 129 $ doté d'une IA. Porté autour du cou, Friend écoute en permanence vos conversations via un microphone intégré et peut envoyer des messages sarcastiques générés par l'IA sur votre smartphone.
Présenté comme un « ami numérique », ce bijou suscite de profondes inquiétudes, puisqu’il repose sur l’enregistrement permanent du son ambiant. La campagne publicitaire lancée par Friend pour promouvoir son collier dans le métro de New York s'est heurtée à des foules de résidents en colère. Rapidement après leur installation, les affiches publicitaires ont été vandalisées. Des passants ont griffonné des messages critiques sur les affiches publicitaires.
L'Union américaine pour les libertés civiles (ACLU) a émis un avertissement sévère à propos de cet appareil, rappelant les problèmes de confidentialité qu'il pose. « N'oubliez pas que tout ce qui est enregistré sur un appareil tel que cet « ami » IA peut être utilisé contre vous, que ce soit par des pirates informatiques, des entreprises privées ou le gouvernement », a écrit l'organisation à but non lucratif dans un message publié sur les réseaux sociaux.
Friend est largement rejeté et suscite des critiques virulentes
« Une personne ayant des amis n'a nullement besoin d'un compagnon IA avec qui discuter, tout en renforçant la capacité de surveillance de l'État à un point tel que George Orwell boirait un pot de mercure à température ambiante. Et ceux qui n'ont pas d'amis humains ont sans doute encore moins besoin de vous », a écrit Josh Gondelman, humoriste new-yorkais, dans un « discours d'encouragement » ironique destiné à l'appareil portable promu par Friend.
« Liez-vous d'amitié avec quelque chose de vivant », peut-on lire sur un graffiti ; « l'IA se fiche que vous viviez ou mouriez », a écrit un autre vandale ; « les relations humaines sont sacrées », a écrit un vandale, soulignant que « l'IA n'est pas votre amie » ; « les amis ne laissent pas leurs amis vendre leur âme », souligne un vandale. Un critique a écrit : « cette chose est effrayante Pensez simplement à tous les problèmes qu'elle pose pour la vie privée ».
Cet acte de vandalisme fait désormais partie d'une immense archive en ligne qui rassemble les publicités dégradées inspirées par la campagne Friend, car de nombreux New-Yorkais ont réagi avec virulence aux affirmations marketing selon lesquelles « l'ami IA ne vous laisserait jamais tomber pour un dîner ou ne vous abandonnerait jamais pour prendre le métro seul ». Selon les critiques, ce type de discours pousse les consommateurs à l'isolement.
En réponse à cette affirmation, un critique a mis en garde les consommateurs : « donner librement vos informations personnelles aux géants de la technologie ne guérira pas vos blessures ». Il a exhorté les usagers du métro à se joindre à la campagne contre Palantir, l'entreprise du milliardaire Peter Thiel utilise l'IA pour surveiller les individus et identifier des cibles militaires. D'autres ont dénoncé l'essor fulgurant des centres de données pour l'IA dans le pays.
Un vandale a déclaré que « les centres de données de la startup xAI du milliardaire Elon Musk empoisonnent les communautés noires des zones rurales des États-Unis ». En effet, le centre de données Colossus de xAI à Memphis, dans le Tennessee, utilise des turbines à méthane qui polluent considérablement l'environnement. Selon les experts, l'installation de xAI libère des gaz toxiques pour l'homme, dont le formaldéhyde, un agent cancérigène connu.
Le PDG de Friend dit avoir intentionnellement irrité les esprits
Avi Schiffmann, le PDG de Friend âgé de 22 ans, a fait une déclaration surprenante en affirmant qu'il avait intentionnellement provoqué toute cette haine en laissant suffisamment d'espace libre sur les publicités pour que tout le monde puisse y apposer des graffitis. « Je sais que les New-Yorkais détestent l'IA, et tout ce qui touche à l'accompagnement par l'IA et aux appareils portables, probablement plus que partout ailleurs dans le pays », a-t-il expliqué.
« J'ai donc acheté plus d'espaces publicitaires que quiconque auparavant, avec beaucoup d'espace blanc, afin qu'ils puissent commenter socialement le sujet », at-il ajouté. Au total, Friend a dépensé plus d'un million de dollars en publicités dans le métro de New York pour devenir la risée de tous.
En plus de déclencher une vague massive de sentiments anti-IA, le gadget de Friend laisse également beaucoup à désirer. Dans un article cinglant, Victoria Song, de The Verge, qui a testé l'appareil, a souligné son utilité extrêmement limitée et sa forte tendance à l'antagoniser. Cela rappelle l'histoire du Humane AI Pin. « Blorbo [le nom donné à l'appareil par Song] était irritant et il était pratiquement impossible d'interagir avec lui », a écrit Victoria Song.
« Probablement parce que Blorbo n'a qu'un seul micro, et qu'il est donc ironiquement très mauvais dans la seule chose qu'il est censé faire le mieux : écouter. Il m'a incitée à lui en dire plus sur les produits que je voyais et testais. Mais je ne pouvais pas ignorer l'artifice. La conversation ne dépassait jamais la formule standard de l'IA consistant à paraphraser ce que vous dites et à poser une question sans grand intérêt pour poursuivre la conversation ».
D'autres testeurs ont également déclaré que le gadget de Friend était « un appareil incroyablement antisocial à porter ». « Les gens n'étaient jamais enthousiastes à l'idée de le voir autour de mon cou », a écrit un testeur. Les commentaires sur la toile révèlent que d'autres perçoivent l'appareil comme un « espion numérique ».
[B]L'industrie de l'IA accusée de...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.