Le 15 mai 2024, Zeeshan Aleem de MSNBC a publié un article exprimant des préoccupations concernant la dernière version du modèle de chatbot d’OpenAI, GPT-4o. Ce modèle avancé est doté de capacités vocales sophistiquées, permettant des conversations en temps réel avec une imitation convaincante des inflexions émotionnelles et du langage idiomatique humainOpenAI a annoncé lundi le lancement de son nouveau modèle phare d'intelligence artificielle, appelé GPT-4o, ainsi que des mises à jour comprenant un nouveau service desktop et des avancées dans ses capacités d'assistant vocal. Parmi les mises à jour dévoilées par OpenAI figurent l'amélioration de la qualité et de la vitesse des capacités linguistiques internationales de ChatGPT, ainsi que la possibilité de télécharger des images, des documents audio et des textes afin que le modèle puisse les analyser. L'entreprise a indiqué qu'elle mettrait progressivement en place les fonctionnalités afin de s'assurer qu'elles sont utilisées en toute sécurité.
Mira Murati, directrice de la technologie, est apparue sur scène devant une foule enthousiaste dans les bureaux d'OpenAI, vantant le nouveau modèle comme un pas en avant dans le domaine de l'IA. Le nouveau modèle mettra le modèle d'IA GPT-4, plus rapide et plus précis, à la disposition des utilisateurs gratuits, alors qu'il était auparavant réservé aux clients payants.
« Nous envisageons l'avenir de l'interaction entre nous et les machines », a déclaré Murati. « Nous pensons que GPT-4o est en train de changer ce paradigme ».
L'événement comprenait également une démonstration en direct des nouvelles capacités vocales du modèle, avec deux responsables de recherche de l'OpenAI s'entretenant avec un modèle vocal d'IA. L'assistant vocal a généré une histoire à dormir debout sur l'amour et les robots, les chercheurs lui demandant de parler avec une variété d'émotions et d'inflexions vocales. Une autre démonstration a utilisé la fonction appareil photo d'un téléphone pour montrer au modèle d'IA une équation mathématique, puis le mode vocal de ChatGPT leur a expliqué comment la résoudre.
À un moment de la démonstration, un chercheur a demandé au modèle d'IA de lire l'expression de son visage et de juger ses émotions. L'assistant vocal de ChatGPT a estimé qu'il avait l'air « heureux et gai, avec un grand sourire et peut-être même une pointe d'excitation ».
« Quoi qu'il en soit, il semble que vous soyez de bonne humeur », a déclaré ChatGPT d'une voix féminine enjouée. « Voulez-vous partager la source de ces bonnes vibrations ? »
Zeeshan Aleem se demande si le développement de ce type de technologie ne va pas exploiter les vulnérabilités humaines
Zeeshan Aleem soulève des questions éthiques sur l’impact de telles technologies, en particulier en ce qui concerne leur potentiel à exploiter les vulnérabilités humaines. L’auteur fait référence au film “Her” de 2013 pour illustrer ses inquiétudes, notant des similitudes entre le film et la manière dont GPT-4o a été présenté - comme un compagnon féminin séduisant :
« La société d'intelligence artificielle OpenAI lance le dernier modèle de ChatGPT, qui permet d'utiliser les capacités vocales pour tenir des conversations avec les utilisateurs en temps réel. La technologie vocale est étonnamment sophistiquée : elle répond au discours de l'utilisateur en imitant de manière convaincante la vitesse, les inflexions émotionnelles et le langage idiomatique d'un humain. Le chatbot est également capable de reconnaître des objets et des images en temps réel et, lors de démonstrations, les développeurs d'OpenAI ont mis leur téléphone en évidence et ont demandé au chatbot de commenter l'environnement de l'utilisateur comme s'il s'agissait d'une conversation vidéo avec un ami.
« Le dévoilement de GPT-4o par OpenAI a également suscité le buzz - et des froncements de sourcils - parce que l'entreprise l'a présenté comme un compagnon féminin et coquet. Le PDG d'OpenAI, Sam Altman, a affiché le mot "her" sur X avant le dévoilement, une référence apparente au film "Her" réalisé par Spike Jonze en 2013. Dans ce film, Joaquin Phoenix, qui incarne un écrivain solitaire en instance de divorce, tombe amoureux d'une charmante assistante personnelle dotée d'une IA superintelligente, interprétée par Scarlett Johansson. On ne peut s'empêcher de remarquer que la voix de GPT-4o ressemble un peu à celle de Scarlett Johansson. Pendant les démonstrations, GPT-4o s'est montré constamment enjoué, rieur et a même flatté l'apparence des utilisateurs. Alors qu'il était en train de résoudre un problème d'algèbre pour un utilisateur, il lui a dit : "Wow, c'est une sacrée tenue que tu portes". Ce commentaire était si ouvertement provocateur que les médias ont qualifié l'interaction de "flirt" et "d'incitation" ».
Voici l'interview en question :
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">Interview prep with GPT-4o <a href="https://t.co/st3LjUmywa">pic.twitter.com/st3LjUmywa</a></p>— OpenAI (@OpenAI) <a href="https://twitter.com/OpenAI/status/1790089521985466587?ref_src=twsrc%5Etfw">May 13, 2024</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
Pour Aleem, tout cela est un peu effrayant et soulève la question de savoir si le développement de ce type de technologie n'exploitera pas les vulnérabilités humaines et ne renforcera pas certains de nos pires instincts en tant que société.
Altman invite le public à désirer un monde comme celui dépeint dans « Her ». Mais l'histoire n'est pas vraiment joyeuse. « Her » est un conte effrayant qui illustre comment l'IA avancée est un remède inadéquat contre la solitude. Le personnage de Phoenix a des rapports sexuels verbaux avec son IA, mais il est incapable d'avoir une relation physique. Il croit avoir une relation romantique unique avec la voix jouée par Johannson, mais découvre que « Her » a en fait des conversations avec des milliers d'autres utilisateurs en même temps - et qu'elle tombe amoureuse de beaucoup d'entre eux aussi.
« À la fin du film, le bot interprété par Johannson quitte le personnage de Phoenix pour s'aventurer ailleurs avec d'autres IA capables de fonctionner à sa vitesse de calcul, et le personnage humain est pris au dépourvu et doit chercher à s'épanouir dans le monde réel avec d'autres humains. Les spectateurs ne sont pas tous d'accord sur le fait de savoir si ce détour loin des humains a été bénéfique ou non, mais le film met en évidence les limites et les déviations de la connexion avec l'IA plutôt qu'avec les personnes réelles ».
Une technologie qui pourrait renforcer les normes patriarcales
Et Aleem de continuer :
GPT-4o n'est pas aussi avancé que l'IA de « Her », mais il n'est pas difficile de comprendre comment les personnes qui ne comprennent pas comment elle fonctionne - en particulier si elles sont émotionnellement vulnérables - peuvent être enclines à projeter de la sensibilité sur le chatbot et à chercher un compagnon substantiel avec lui. (Et si ce n'est pas maintenant, ce sera au moins dans un avenir assez proche, étant donné le rythme effréné de l'innovation). Certains peuvent être optimistes quant à l'idée que les robots puissent fournir une sorte de compagnie aux gens, mais notre société n'a pas su éduquer les gens sur le fonctionnement de ces outils et sur les compromis qu'ils présentent.
La voix féminine coquette de GPT-4o soulève également la question de savoir si cette technologie renforce insidieusement les normes patriarcales en matière de genre. Nous devrions faire une pause et réfléchir à la production de masse de ce qui pourrait être la technologie vocale d'IA la plus humaine à ce jour, qui adopte les qualités sonores d'une femme coquette dont le travail consiste à recevoir docilement les ordres, à permettre l'interruption sans fin de son discours sans se plaindre et à récompenser l'utilisateur par...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
