Les chatbots IA peuvent donner des réponses « convaincantes mais complètement fictives »

Prévient le patron du moteur de recherche Google tandis qu'Alphabet prépare Bard, sa réponse à ChatGPT

Le patron du moteur de recherche de Google a mis en garde contre les pièges de l'intelligence artificielle dans les chatbots dans une interview à un journal publiée samedi, alors que la société mère de Google Alphabet se bat pour concurrencer l'application à succès ChatGPT. « Ce type d'intelligence artificielle dont nous parlons en ce moment peut parfois conduire à ce que nous appelons des hallucinations », a déclaré Prabhakar Raghavan, vice-président senior de Google et responsable de la recherche Google, au journal allemand Welt am Sonntag.

La capacité de ChatGPT à proposer une réponse concise et fidèle à une question pourrait faire gagner aux utilisateurs le temps qu'ils passent généralement à parcourir les liens sur Google pour trouver la même information. D'ailleurs, Microsoft a intégré une version améliorée de ChatGPT à certains de ses produits à l'instar de Teams ou de Bing, pour avoir une plus value sur la concurrence.

Pour ne pas être en reste, Google a accéléré son travail sur Apprentice Bard, l'une de ses réponses à ChatGPT.

Des membres anonymes du personnel ont expliqué aux médias que l'implémentation d'Apprentice Bard ressemble à ChatGPT (le bot fournit des réponses détaillées aux invites et aux questions des utilisateurs). Cependant, au lieu d'utiliser le code GPT-3.5 développé par Microsoft, Bard utilise LaMDA (ou Language Model for Dialogue Applications), le modèle de langage de Google pour l'application de dialogue.

LaMDA est le système de Google pour créer des chatbots basés sur ses grands modèles de langage les plus avancés, ainsi appelés parce qu'ils imitent la parole en ingérant des milliards de mots provenant d'Internet. La grande enseigne de la recherche a présenté publiquement LaMDA à l'édition 2021 de la Google I/O, sa conférence dédiée aux développeurs, avec l'objectif d'améliorer ses assistants d'intelligence artificielle conversationnelle et de rendre les conversations plus naturelles. La société utilise déjà une technologie de modèle de langage similaire pour la fonctionnalité Smart Compose de Gmail ou pour les requêtes des moteurs de recherche.

La semaine dernière, Google a annoncé son chatbot AI Bard. Mais le bot n'a pas pris un bon départ, les experts notant que Bard a fait une erreur factuelle dans sa toute première démo.

Un GIF partagé par Google montre Bard répondant à la question : « De quelles nouvelles découvertes du télescope spatial James Webb puis-je parler à mon enfant de 9 ans ? » Bard propose une liste à puces de trois éléments, parmi lesquels un élément indiquant que le télescope « a pris les toutes premières images d'une planète en dehors de notre propre système solaire ».


Cependant, un certain nombre d'astronomes sur Twitter ont souligné que c'était incorrect et que la première image d'une exoplanète avait été prise en 2004 - comme indiqué sur le site Web de la NASA : « Ce n'est pas pour faire mon connard (en fait, si finalement) et je suis sûr que Bard sera impressionnant, mais pour mémoire : JWST n'a pas pris 'la toute première image d'une planète en dehors de notre système solaire' », a tweeté l'astrophysicien Grant Tremblay.

Aussi, les employés ont exprimé leur mécontentement contre la direction de l'entreprise, en particulier le PDG, pour s'être précipitée et ne pas avoir réfléchi avant de communiquer sur la sortie du chatbot rival de ChatGPT. Ils ont estimé que cela n'avait pas été bien géré et que cela pourrait s'avérer une erreur coûteuse à long terme.

Sur Memegen, un forum interne populaire, ils ont qualifié de « précipitée », « bâclée » et « non Googley » cette stratégie de communication alors que des mèmes concernant la situation commençaient à apparaître en ligne.

Alors que les employés de Google se tournent souvent vers Memegen pour se moquer avec humour des bizarreries et des faux pas de l'entreprise, les messages après l'annonce de Bard ont pris un ton plus sérieux et sont même allés directement après Pichai.

« Cher Sundar, le lancement de Bard et les licenciements ont été précipités, bâclés et myopes », indiquait un mème qui comprenait une photo de Pichai. « Veuillez revenir à une perspective à long terme ». Le message a reçu de nombreux votes positifs de la part des employés.

« Sundar et le leadership méritent un Perf NI », était-il indiqué un autre mème très apprécié, faisant référence à la catégorie la plus basse du système d'évaluation des performances des employés de l'entreprise. « Ils sont comiquement myopes et non-Googlely dans leur quête d'accentuation de la netteté ».

Certaines personnes pensent que c'était une mauvaise tentative du PDG d'essayer de dire au monde qu'il était toujours dans la course avec les autres en termes de sa propre offre. N'oubliez pas que Microsoft a déjà rendu public son chatbot Bing et maintenant, tous les regards sont tournés vers la sortie de Google.

Le patron de Google invite à la prudence

C'est dans ce contexte que le patron du moteur de recherche de Google, Raghavan, conseille la prudence lors de l'utilisation de chatbots avec intelligence artificielle : « Ce type d'intelligence artificielle dont nous parlons peut parfois conduire à ce que nous appelons des hallucinations », a déclaré le patron du moteur de recherche de Google, Prabhakar Raghavan, à WELT AM SONNTAG.

Il a ajouté : « Ceci est alors exprimé de telle manière qu'une machine délivre une réponse convaincante mais complètement fictive ». Selon lui, l'une des tâches de base est de réduire cela au minimum.

Microsoft a récemment annoncé qu'il boosterait son moteur de recherche Bing avec une version améliorée de ChatGPT dans l'optique de mieux faire concurrence à Google. Bard, l'homologue de ChatGPT développé dans les cuisines internes de Google, est actuellement testé par certains utilisateurs. « De plus, nous réfléchissons à la manière dont nous pouvons intégrer ces options dans nos fonctions de recherche, en particulier pour les questions auxquelles il n'y a pas qu'une seule réponse », a expliqué Raghavan.

Le groupe n'a pas encore révélé quand Google rendra public son chatbot : « Bien sûr, nous ressentons l'urgence, mais nous ressentons aussi la grande responsabilité », a déclaré Raghavan. « Nous ne voulons certainement pas induire le public en erreur ».


Certaines personnes pensent que la présentation « précipitée » de Bard était une mauvaise tentative du PDG d'essayer de dire au monde qu'il était toujours dans la course avec les autres en termes de sa propre offre. N'oubliez pas que Microsoft a déjà rendu public son chatbot Bing et maintenant, tous les regards sont tournés vers la sortie de Google.

D'autre part, Google a récemment mentionné lors de son événement de diffusion en direct jeudi comment fonctionne exactement la technologie de chatbot. Mais pendant ce temps, nous avons également vu Microsoft faire sa présentation et lancer son moteur de recherche tout en envoyant des invitations à d'autres pour venir voir comment tout cela fonctionne personnellement.

« Les énormes modèles de langage derrière cette technologie empêchent les humains de surveiller tous les comportements imaginables du système », a déclaré Raghavan à WELT AM SONNTAG. « Mais nous voulons le tester à une échelle suffisamment grande pour qu'en fin de compte nous soyons satisfaits des mesures que nous utilisons pour vérifier la factualité des réponses ».

Les gens doivent toujours être vigilants lorsqu'ils sont confrontés aux résultats qui leur sont présentés par un chatbot boosté par l'intelligence artificielle, a déclaré le dirigeant de Google. Il est important que les utilisateurs disposent des outils nécessaires pour vérifier les résultats. Cela inclut également la divulgation des sources.

« Nous nous tenons à un niveau très élevé », a affirmé Raghavan. « Et c'est aussi notre objectif d'être un leader des chatbots en termes d'intégrité de l'information mais aussi des responsabilités que nous prenons. C'est la seule façon de conserver la confiance du public. »

Conclusion

Les actions d'Alphabet ont chuté de plus de 9% la semaine dernière en raison des inquiétudes concernant la menace de ChatGPT pour l'activité de recherche principale de Google et de la réaction précipitée de l'entreprise à l'événement de Microsoft. « Précipiter Bard sur le marché dans la panique a validé la peur du marché à notre sujet », était-il marqué sur un mème très apprécié.

Pour Maarten Bosma, un ancien ingénieur de recherche de Google Brain, division AI d'Alphabet, la présentation de Google a montré que l'entreprise ne prenait pas suffisamment l'IA au sérieux : « Je pense que la présentation de Google a signalé (à tort ou à raison) qu'ils ne le prenaient pas vraiment au sérieux*: c'était moins de 5 minutes, c'était présenté entre autre, c'était à Paris au lieu du siège, le PDG n'était pas là. Bing, d'autre part, a changé la page d'accueil ».

I think the Google presentation signaled (rightfully or wrongly) that they are not really taking it seriously: it was less than 5 minutes, it was presented amongst other feature, it was in Paris instead of HQ, CEO wasn't there. Bing, on the other hand, changed the homepage.

— Maarten Bosma (@MaartenBosma) February 9, 2023

La position de Google dans l'intelligence artificielle est une préoccupation familière. Lors d'une réunion générale en décembre, les employés ont posé des questions sur l'avantage concurrentiel de l'entreprise en matière d'IA alors que ChatGPT prenait son essor aux yeux du public. Les dirigeants ont répondu en disant que la réputation de l'entreprise pourrait en pâtir si elle évoluait trop rapidement sur la technologie AI-chat, qui est loin d'être parfaite.

Un mème très lu la semaine dernière a montré une image d'un incendie de benne à ordures avec le logo Google "G" dessus. Le texte disait: « Comment tout s'est ressenti depuis l'année dernière ».

Un autre mème faisait référence aux licenciements annoncés le mois dernier, qui ont entraîné la perte de 12 000 emplois, soit 6 % des effectifs de l'entreprise. Le mème comportait une photo de l'acteur Nicolas Cage souriant et disait: « Le licenciement de 12 000 personnes fait augmenter la capitalisation boursière de 3%, une présentation précipitée de l'IA la fait baisser de 8% ».

Source : Welt Am Sonntag

Et vous ?

Que pensez-vous des propos du patron de Google ?
Sont-ils, selon vous, motivés par la faille aperçue par le public, ajoutée à la colère des employés de l'entreprise qui ont critiqué le PDG Sundar Pichai pour l'annonce « précipitée et bâclée » de Bard, ou alors pas une observation froide de la réalité concernant ces outils en général ? Dans quelle mesure ?