
Changement de priorités
Buchheit, à qui l'on doit également la devise originale de Google « Don't be evil », pense que Google s'est peut-être égaré lorsqu'il s'est réorganisé sous sa nouvelle société mère, Alphabet, en 2015. Les fondateurs ont pris du recul et le PDG Sundar Pichai a pris la barre. C'est à ce moment-là que l'entreprise s'est concentrée sur la préservation de son monopole sur la recherche, a déclaré Buchheit.
« Ils ont, vous savez, cette mine d'or, la recherche est tellement précieuse », a-t-il déclaré.
Au lieu de se concentrer sur l’innovation en matière d’IA, l’entreprise a privilégié la préservation de son monopole dans le domaine de la recherche. Buchheit explique que l’IA est une technologie intrinsèquement perturbatrice, tandis que la recherche axée sur les annonces publicitaires crée une tension inhérente. Lorsque vous répondez directement aux requêtes des utilisateurs, vous les dissuadez de cliquer sur les annonces. Google a donc dû jongler entre rentabilité et qualité des résultats.
Ce n'est pas seulement l'analyse de Buchheit ; c'est aussi quelque chose que Page et Brin ont noté dans leur document fondateur de 1998 présentant Google. Ils ont déclaré que la technologie des moteurs de recherche était « en grande partie un art noir » et qu'elle était « orientée vers la publicité ». Avec Google, cependant, leur objectif était de « fournir des résultats de recherche de haute qualité sur un World Wide Web en pleine expansion ».
Les déboires de Google en matière d’IA
Malgré ses ressources considérables en données et en talents, Google n’a pas réussi à révolutionner le domaine de l’IA.
Lors d’une démonstration de Bard, son concurrent fait maison de ChatGPT, il a fourni une réponse incorrecte, entraînant une perte de 100 milliards de dollars de valeur boursière en une seule journée.
Google a ajouté une nouvelle fonctionnalité à son moteur de recherche : AI Overviews (aperçus de l'IA). Il s'agit de résumés concis générés par l'IA et qui apparaissent directement sur les pages de résultats de recherche de Google. Lancée le 14 mai, cette fonctionnalité est conçue pour aider les internautes à comprendre rapidement un sujet en combinant des informations provenant de différentes sources, dont les pages Web des résultats de recherche et la base de connaissances de Google. Les résumés sont placés en haut de la page des résultats de recherche, et au-dessus des résultats rédigés par des humains.
Peu après, les utilisateurs ont commencé à partager sur les réseaux sociaux les captures d'écran des réponses les plus farfelues générées par cette fonctionnalité. Google a largement défendu sa fonction de résumés générés par l'IA, affirmant qu'elle était généralement précise et qu'elle avait fait l'objet de tests approfondis au préalable. Mais Liz Reid, responsable de la recherche chez Google, a reconnu que « la fonctionnalité peut parfois générer des résumés bizarres, inexacts ou inutiles ». Toutefois, si certains des résumés sont des stupidités, d'autres sont des faussetés dangereuses ou nuisibles.
Par exemple, l'outil, qui fournit des résumés des résultats de recherche générés par l'IA, a semblé demander à un utilisateur de mettre de la colle sur une pizza lorsqu'il a cherché « le fromage n'adhère pas à la pizza ». En cherchant des solutions au problème du fromage qui ne colle pas à la pizza, une capture d'écran du résumé qu'il a généré, partagée sur X, montre qu'il a répondu « le fromage peut glisser de la pizza pour un certain nombre de raisons » et que l'utilisateur pourrait essayer d'ajouter « environ 1/8 de tasse de colle non toxique à la sauce pour augmenter son adhérence ».
Selon un autre utilisateur de X, la suggestion semble avoir été basée sur un commentaire Reddit datant d'il y a 11 ans, qui était probablement écrit sur le ton de la plaisanterie.
L'Associated Press a interrogé Google sur les champignons sauvages comestibles. Le moteur de recherche a répondu avec un long résumé généré par l'IA. Mais la réponse manquait de détails et l'IA semblait également se tromper sur les champions comestibles. « Le résumé était pour l'essentiel correct d'un point de vue technique, mais il manque de nombreuses informations susceptibles de provoquer des maladies, ou même des décès », a déclaré Mary Catherine Aime, professeur de mycologie et de botanique à l'université de Purdue, qui a examiné la réponse de Google à la requête de l'Associated Press.
« Par exemple, les informations sur les champignons connus sous le nom de "puffballs" étaient plus ou moins correctes, mais l'aperçu de Google mettait l'accent sur la recherche de ceux dont la chair est d'un blanc solide, ce qui est le cas de nombreux imitateurs de "puffballs" potentiellement mortels », a-t-elle déclaré. La situation suscite bien sûr des préoccupations, car un utilisateur qui fait confiance à l'IA Google et ramasse malencontreusement des champignons vénéneux s'expose à des dangers, voire la mort. Les experts en IA mettent en garde depuis des années contre une confiance excessive dans les réponses d'une IA.
Gemini, l'IA woke de Google ?
Fin février, Google a présenté ses excuses pour ce qu’il décrit comme des « inexactitudes dans certaines représentations historiques générées par l’image » avec son outil Gemini, en disant que ses tentatives de créer une « large gamme » de résultats ont manqué la cible. Gemini est un outil d’intelligence artificielle lancé par Google qui peut créer des images en réponse à des requêtes écrites. Il a rapidement attiré des critiques, qui ont accusé l’entreprise de former le bot à être trop «woke».
Les résultats semblaient montrer de manière écrasante ou exclusive des personnes de couleur générées par l'IA (bien sûr, tous les endroits qu'il a cités comptent des femmes de couleur, et aucune des femmes générées par l'IA n'existe dans aucun pays). La critique a été reprise par des comptes de droite qui ont demandé des images de groupes historiques ou de personnages tels que les Pères fondateurs et qui ont prétendument obtenu comme résultats des personnes générées par l'IA qui n'étaient pas blanches dans leur grande majorité.
Certains de ces comptes ont présenté les résultats de Google comme faisant partie d'une conspiration visant à éviter la représentation de...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.