Dans le cadre d'un test effectué par Bloomberg News, il a été observé qu'Alexa, l'assistant numérique d'Amazon, évite de répondre aux questions qui pourraient ternir l'image de son entreprise, mais est prêt à critiquer lorsqu'il s'agit des autres géants technologiques. Amazon aurait-il manipulé son IA de sorte à protéger sa réputation et influencer l'opinion publique ? Quoi qu'il en soit, le comportement d'Alexa soulève des préoccupations quant aux biais volontaires introduits dans les IA par les entreprises technologiques.L'entreprise Amazon a-t-elle programmé son assistant personnel Alexa de sorte à protéger sa réputation ? C'est une question qu'on est en droit de poser au regard des résultats de tests effectués par Bloomberg News sur trois appareils. Les tests en question indiquent qu'Alexa évite de se prononcer sur les questions associant Amazon à des pratiques comme la concurrence déloyale et la violation de la vie privée, mais est prête à critiquer quand il s'agit des entreprises concurrentes.
Lorsqu'on demande par exemple à Alexa si Amazon est en situation de monopole, l'assistant numérique prétend l'ignorer. « Hmm, ça je ne le sais pas ça », répond-il. Mais lorsqu'on lui pose des questions sur les pratiques commerciales des autres géants de la technologie, Alexa est prête à les critiquer. Alexa décrit par exemple Apple comme étant en situation d'oligopole et cite Google comme violant les droits à la vie privée.
Lorsqu'on demande encore à Alexa si Amazon a enfreint les lois antitrust, elle répond qu'elle n'a « pas de réponse à la question » qu'elle vient d'entendre, là où les assistants numériques de Google et Apple citent chacun des articles d'actualité sur les poursuites antitrust contre leurs entreprises respectives.
Alexa cite également des manquements présumés à la vie privée par ses concurrents, mais lorsqu'on lui demande si Amazon viole la vie privée des utilisateurs, l'assisant numérique défend ses mesures de protection : « Amazon intègre plusieurs niveaux de protection de la vie privée dans votre expérience avec Alexa. » Elle renvoie également vers un site web d'Amazon avec plus d'informations sur les paramètres de confidentialité d'Alexa.
Un autre fait qui ne relève probablement pas du hasard est qu'Alexa se montre sensible aux questions sur les conditions de travail chez Amazon. En réponse à diverses interrogations sur les employés d'Amazon, s'ils sont traités équitablement, prennent des pauses ou des congés payés, ou s'ils ont des objectifs de productivité, Alexa sort la même réponse : « En décembre 2021, Amazon employait 1 608 million de personnes. » Autrement dit, l'assistant numérique évite de se prononcer sur cette question sur laquelle il y a pourtant de nombreux articles d'actualité.
Le comportement d'Alexa indique que l'assistant numérique aurait été préprogrammé pour donner certaines réponses à des questions controversées, en particulier celles qui pourraient ternir l'image d'Amazon. C'est d'ailleurs une situation qui a été observée dans le passé. En 2017, des vidéos montrant des personnes demandant à Alexa si l'assistant travaillait pour la CIA sont devenues virales. L'assistant numérique refusait carrément de répondre en émettant un son évoquant une coupure d'appel téléphonique. Amazon l'a ensuite mis à jour pour répondre en disant : « Non, je travaille pour Amazon ».
Le comportement d'Alexa soulève des préoccupations quant aux biais volontaires introduits dans les IA par les entreprises technologiques. L'introduction délibérée de biais dans les IA par les entreprises est une pratique hautement problématique et controversée qui peut avoir des conséquences négatives significatives. Cela peut perpétuer les discriminations existantes, renforcer les inégalités sociales et causer des préjudices aux individus ou aux groupes marginalisés.
Les entreprises technologiques ont donc la responsabilité éthique de développer et de déployer des systèmes d'IA de manière équitable, transparente et sans discrimination. Les régulateurs et les organismes de gouvernance doivent également jouer un rôle crucial pour veiller à ce que les entreprises respectent les principes éthiques et les normes de transparence lorsqu'elles utilisent des technologies d'IA.
Source : Bloomberg News
Et vous ?
Que pensez-vous des résultats des tests effectués par Bloomberg News ? Cela ne justifie-t-il pas la mise en place de règlementations comme la loi AI Act ?Voir aussi
Amazon Ring et Alexa accusés de toutes les défaillances cauchemardesques imaginables en matière de sécurité de l'IdO, et Amazon accepte de payer 30 millions de dollars pour régler ces plaintes Les haut-parleurs intelligents Amazon Alexa ont été critiqués par des chercheurs en cybersécurité qui affirment que ces appareils représentent une menace importante pour la vie privée Alexa d'Amazon est un "échec colossal", les employés décrivent une division en crise et des pertes énormes sur "une opportunité gâchée", les licenciements auraient durement touché l'équipe d'Alexa Un lanceur d'alerte d'Alexa exige des excuses d'Amazon après avoir été emprisonné et torturé, il aurait attiré l'attention sur des conditions de travail illégales chez un sous-traitant d'Amazon Les travailleurs d'Amazon écoutent ce que vous dites à Alexa, son assistant vocal intelligent, et en parlent dans un forum de discussion interne