Lorsque Larry Page et Sergey Brin ont lancé Google en 1998, ils l’ont imaginé comme une entreprise axée sur l’intelligence artificielle (IA). Cependant, au fil des années, Google a changé de cap. Paul Buchheit, le créateur de Gmail, a récemment expliqué dans un épisode du podcast Y Combinator Startup pourquoi il pense que Google a pris du retard dans la course à l’IA.Changement de priorités
Buchheit, à qui l'on doit également la devise originale de Google « Don't be evil », pense que Google s'est peut-être égaré lorsqu'il s'est réorganisé sous sa nouvelle société mère, Alphabet, en 2015. Les fondateurs ont pris du recul et le PDG Sundar Pichai a pris la barre. C'est à ce moment-là que l'entreprise s'est concentrée sur la préservation de son monopole sur la recherche, a déclaré Buchheit.
« Ils ont, vous savez, cette mine d'or, la recherche est tellement précieuse », a-t-il déclaré.
Au lieu de se concentrer sur l’innovation en matière d’IA, l’entreprise a privilégié la préservation de son monopole dans le domaine de la recherche. Buchheit explique que l’IA est une technologie intrinsèquement perturbatrice, tandis que la recherche axée sur les annonces publicitaires crée une tension inhérente. Lorsque vous répondez directement aux requêtes des utilisateurs, vous les dissuadez de cliquer sur les annonces. Google a donc dû jongler entre rentabilité et qualité des résultats.
Ce n'est pas seulement l'analyse de Buchheit ; c'est aussi quelque chose que Page et Brin ont noté dans leur document fondateur de 1998 présentant Google. Ils ont déclaré que la technologie des moteurs de recherche était « en grande partie un art noir » et qu'elle était « orientée vers la publicité ». Avec Google, cependant, leur objectif était de « fournir des résultats de recherche de haute qualité sur un World Wide Web en pleine expansion ».
Les déboires de Google en matière d’IA
Malgré ses ressources considérables en données et en talents, Google n’a pas réussi à révolutionner le domaine de l’IA.
Lors d’une démonstration de Bard, son concurrent fait maison de ChatGPT, il a fourni une réponse incorrecte, entraînant une perte de 100 milliards de dollars de valeur boursière en une seule journée.
Google a ajouté une nouvelle fonctionnalité à son moteur de recherche : AI Overviews (aperçus de l'IA). Il s'agit de résumés concis générés par l'IA et qui apparaissent directement sur les pages de résultats de recherche de Google. Lancée le 14 mai, cette fonctionnalité est conçue pour aider les internautes à comprendre rapidement un sujet en combinant des informations provenant de différentes sources, dont les pages Web des résultats de recherche et la base de connaissances de Google. Les résumés sont placés en haut de la page des résultats de recherche, et au-dessus des résultats rédigés par des humains.
Peu après, les utilisateurs ont commencé à partager sur les réseaux sociaux les captures d'écran des réponses les plus farfelues générées par cette fonctionnalité. Google a largement défendu sa fonction de résumés générés par l'IA, affirmant qu'elle était généralement précise et qu'elle avait fait l'objet de tests approfondis au préalable. Mais Liz Reid, responsable de la recherche chez Google, a reconnu que « la fonctionnalité peut parfois générer des résumés bizarres, inexacts ou inutiles ». Toutefois, si certains des résumés sont des stupidités, d'autres sont des faussetés dangereuses ou nuisibles.
Par exemple, l'outil, qui fournit des résumés des résultats de recherche générés par l'IA, a semblé demander à un utilisateur de mettre de la colle sur une pizza lorsqu'il a cherché « le fromage n'adhère pas à la pizza ». En cherchant des solutions au problème du fromage qui ne colle pas à la pizza, une capture d'écran du résumé qu'il a généré, partagée sur X, montre qu'il a répondu « le fromage peut glisser de la pizza pour un certain nombre de raisons » et que l'utilisateur pourrait essayer d'ajouter « environ 1/8 de tasse de colle non toxique à la sauce pour augmenter son adhérence ».
Selon un autre utilisateur de X, la suggestion semble avoir été basée sur un commentaire Reddit datant d'il y a 11 ans, qui était probablement écrit sur le ton de la plaisanterie.
L'Associated Press a interrogé Google sur les champignons sauvages comestibles. Le moteur de recherche a répondu avec un long résumé généré par l'IA. Mais la réponse manquait de détails et l'IA semblait également se tromper sur les champions comestibles. « Le résumé était pour l'essentiel correct d'un point de vue technique, mais il manque de nombreuses informations susceptibles de provoquer des maladies, ou même des décès », a déclaré Mary Catherine Aime, professeur de mycologie et de botanique à l'université de Purdue, qui a examiné la réponse de Google à la requête de l'Associated Press.
« Par exemple, les informations sur les champignons connus sous le nom de "puffballs" étaient plus ou moins correctes, mais l'aperçu de Google mettait l'accent sur la recherche de ceux dont la chair est d'un blanc solide, ce qui est le cas de nombreux imitateurs de "puffballs" potentiellement mortels », a-t-elle déclaré. La situation suscite bien sûr des préoccupations, car un utilisateur qui fait confiance à l'IA Google et ramasse malencontreusement des champignons vénéneux s'expose à des dangers, voire la mort. Les experts en IA mettent en garde depuis des années contre une confiance excessive dans les réponses d'une IA.
Gemini, l'IA woke de Google ?
Fin février, Google a présenté ses excuses pour ce qu’il décrit comme des « inexactitudes dans certaines représentations historiques générées par l’image » avec son outil Gemini, en disant que ses tentatives de créer une « large gamme » de résultats ont manqué la cible. Gemini est un outil d’intelligence artificielle lancé par Google qui peut créer des images en réponse à des requêtes écrites. Il a rapidement attiré des critiques, qui ont accusé l’entreprise de former le bot à être trop «woke».
Les résultats semblaient montrer de manière écrasante ou exclusive des personnes de couleur générées par l'IA (bien sûr, tous les endroits qu'il a cités comptent des femmes de couleur, et aucune des femmes générées par l'IA n'existe dans aucun pays). La critique a été reprise par des comptes de droite qui ont demandé des images de groupes historiques ou de personnages tels que les Pères fondateurs et qui ont prétendument obtenu comme résultats des personnes générées par l'IA qui n'étaient pas blanches dans leur grande majorité.
Certains de ces comptes ont présenté les résultats de Google comme faisant partie d'une conspiration visant à éviter la représentation de personnes blanches, et au moins un compte a utilisé une référence antisémite codée pour rejeter la faute sur les autres.
Google a décidé de suspendre la génération d'images de personnes par Gemini, le temps d'effectuer les modifications nécessaires.
Sundar Pichai, PDG de Google, a abordé la controverse sur Gemini, qualifiant d'inacceptables les réponses problématiques de l'application d'intelligence artificielle en matière d'origine ethnique et s'engageant à procéder à des changements structurels pour résoudre le problème.
La plupart des entreprises qui proposent des outils d'IA comme Gemini créent des garde-fous pour limiter les abus et éviter les préjugés, en particulier à la lumière d'autres expériences. Par exemple, les outils de génération d'images d'entreprises comme OpenAI ont été critiqués lorsqu'ils ont créé des images prédominantes de personnes blanches dans des rôles professionnels et dépeignant des personnes noires dans des rôles stéréotypés.
« Je sais que certaines de ses réponses ont offensé nos utilisateurs et montré des préjugés - pour être clair, c'est tout à fait inacceptable et nous nous sommes trompés », a déclaré Pichai dans la note.
Conclusion
En somme, Google a pris du retard dans la course à l’IA en raison de ses choix stratégiques et de ses priorités. Pour rester à la pointe de l’innovation, l’entreprise doit réévaluer sa vision et investir dans des domaines tels que l’apprentissage profond, la compréhension du langage naturel et la recherche fondamentale. Seule une approche équilibrée entre rentabilité et innovation permettra à Google de retrouver sa place de leader dans le domaine de l’IA.
Sources : fondateurs de Google, Paul Buchheit
Et vous ?
Quelle est votre opinion sur la direction actuelle de Google en matière d’IA ? Pensez-vous que Google devrait se recentrer sur l’innovation en IA ou soutenez-vous la priorité donnée à la recherche axée sur les annonces publicitaires ? Pensez-vous que l’IA devrait être une priorité pour les grandes entreprises technologiques ? Estimez-vous que les entreprises comme Google, Meta (anciennement Facebook) et Microsoft devraient investir davantage dans l’IA ? Pourquoi ? Quelles sont les implications de l’utilisation de l’IA dans la société ? Abordez les avantages et les inconvénients de l’IA, en particulier en ce qui concerne la vie privée, la sécurité et l’emploi. Quelles autres entreprises technologiques sont en avance dans la course à l’IA ? Partagez vos observations sur les entreprises qui excellent dans ce domaine et donnez votre avis sur les raisons qui peuvent l’expliquer.