Bing Chat, le chatbot IA de Microsoft, connaît une croissance exponentielle de sa demande depuis son lancement. La grande enseigne du logiciel a besoin de plus de ressources de calcul pour faire fonctionner ses modèles d’apprentissage automatique utilisés par Bing Search, son moteur de recherche. C’est pourquoi elle a conclu un accord pluriannuel avec Oracle pour lui louer des milliers de processeurs graphiques (GPU) disponibles sur son supercalculateur.En mars 2023, Microsoft a annoncé avoir dépassé les 100 millions d'utilisateurs actifs quotidiens sur Bing, seulement un mois après le lancement de son chatbot IA, selon Yusuf Mehdi, vice-président de Microsoft pour la vie moderne, la recherche et les appareils. Il a déclaré que la société était pleinement consciente qu'elle n'était encore qu'un « petit acteur avec une part de marché à un chiffre », mais il est intéressant de rappeler qu'il fut un temps où Bing ne faisait même pas partie de la conversation. Cette fois-ci, depuis que la grande enseigne de la technologie a publié la version « nouvelle génération » de Bing, même ceux qui ne l'ont pas utilisé dans le passé en font l'expérience pour leurs recherches : à ce moment-là, Mehdi a noté qu'un tiers des utilisateurs actifs quotidiens de Bing sont nouveaux sur le moteur de recherche.
« Nous voyons cet attrait du nouveau Bing comme une validation de notre point de vue selon lequel la recherche doit être réinventée et de la proposition de valeur unique de combiner Recherche + Réponses + Chat + Création en une seule expérience », a déclaré le vice-président.
En plus de voir une augmentation des chiffres, Microsoft connaît apparemment une croissance de l'engagement, avec plus de personnes effectuant plus de recherches. La société attribue deux facteurs à cette victoire particulière, le premier étant la croissance de l'utilisation d'Edge, probablement aidée par l'ajout de l'IA de chat de Bing en tant que nouvelle fonctionnalité. Elle a également déclaré que l'introduction de son modèle d'IA Prometheus a rendu les résultats de recherche de Bing plus pertinents, de sorte que les gens utilisent (ou du moins essaient) le moteur de recherche davantage.
Apparemment, environ un tiers des utilisateurs de l'aperçu quotidien de Bing se sert de manière quotidienne de son IA de chat pour les requêtes. En moyenne, Microsoft voit trois chats par session, avec plus de 45 millions de chats depuis qu'il a introduit le nouveau Bing. De plus, dans 15% de toutes les sessions de chat, les gens ont utilisé Bing pour générer du nouveau contenu. Le lancement du chatbot AI de Bing sur mobile a également propulsé le moteur de recherche à un nouveau niveau de popularité et a entraîné une multiplication par six du nombre d'utilisateurs actifs quotidiens avant qu'il ne soit disponible.
En intégrant un chatbot IA à Bing plus tôt cette année, Microsoft a donné à son moteur de recherche l'arme dont il a besoin pour pouvoir rivaliser avec Google. Cela dit, Google prévoit de lancer son propre chatbot et a introduit une IA de chat appelée Bard le mois dernier. Bard a diffusé des informations erronées lors de ses débuts non officiels, mais Google travaille avec les employés pour améliorer les réponses du chatbot avant qu'il ne soit disponible.
Une popularité qui va grandissante...
La demande pour les services d'IA de Microsoft est apparemment si grande (et les ressources de Redmond si limitées) que la grande enseigne du logiciel prévoit de transférer certains des modèles d'apprentissage automatique utilisés par Bing Search vers le supercluster GPU d'Oracle dans le cadre d'un accord pluriannuel.
L’accord, annoncé mardi, prévoit que Microsoft utilisera l’infrastructure d’IA d’Oracle Cloud Infrastructure (OCI), en complément de son infrastructure d’IA Azure, pour effectuer l’inférence des modèles d’IA qui sont optimisés pour alimenter les recherches conversationnelles de Bing Chat quotidiennement. L’inférence est le processus qui consiste à utiliser un modèle d’IA entraîné pour produire des résultats à partir de données nouvelles ou inconnues.
« Grâce à notre collaboration avec Oracle et à l’utilisation de l’infrastructure cloud d’Oracle ainsi que de notre infrastructure d’IA Azure, nous pourrons étendre l’accès aux clients et améliorer la vitesse de nombreux de nos résultats de recherche », a déclaré Divya Kumar, qui dirige l'équipe marketing de recherche et d'IA de Microsoft.
Le partenariat se résume essentiellement à ceci*: Microsoft a besoin de plus de ressources de calcul pour suivre la prétendue « croissance explosive » de ses services d'IA et Oracle dispose de dizaines de milliers de GPU Nvidia A100 et H100, qui offrent des performances élevées pour le calcul parallèle, l’analyse de données et l’apprentissage automatique. En utilisant l’interconnexion Oracle pour Microsoft Azure, Microsoft est en mesure d’utiliser des services gérés comme Azure Kubernetes Service (AKS) pour orchestrer le calcul OCI à une échelle massive pour soutenir la demande croissante de recherche conversationnelle Bing.
« L’IA générative est un bond technologique monumental et Oracle permet à Microsoft et à des milliers d’autres entreprises de construire et d’exécuter de nouveaux produits avec nos capacités d’IA OCI », a déclaré Karan Batta, vice-président senior d’Oracle Cloud Infrastructure. « En renforçant notre collaboration avec Microsoft, nous sommes en mesure d’apporter de nouvelles expériences à plus de personnes dans le monde entier », a-t-il ajouté.
...mais peine à être reflétée sur les baromètres populaires
Selon StatCounter, en octobre 2023, Bing détenait une part de marché mondiale de la recherche sur le Web de 3,1 % pour toutes les plateformes, contre 91,6 % pour Google, mais en hausse par rapport aux 3 % du mois précédent. Sur ordinateur, Bing a grimpé à 9,1 pour cent et à 4,6 pour cent pour les tablettes. Ce qui peut être surprenant compte tenu de la décision de Microsoft de s'associer à Oracle en raison de l'explosion
Ce n’est pas la première fois que les frères-ennemis s’appuient les uns sur les autres pour obtenir de l’aide. En septembre dernier, Oracle a annoncé qu'il colocaliserait ses systèmes de bases de données dans les centres de données Microsoft Azure.
Pour Bill Gates, l'essor de l'IA menace les bénéfices que Google tire de son moteur de recherche
Dans une interview, Bill Gates a abordé le sujet de l'IA, estimant que Google devrait bientôt perdre une partie des bénéfices qu'il tire de son moteur de recherche au profit de Microsoft. Selon lui, c'est une chose qui va arriver, car Microsoft a beaucoup investi dans le domaine de l'IA ces dernières années et a réalisé de grands progrès. Lors de l'interview, Bill Gates a expliqué : « Google a possédé tous les bénéfices de la recherche, donc les bénéfices de la recherche seront en baisse, et leur part pourrait être en baisse parce que Microsoft a été capable d'avancer assez rapidement sur ce point ».
Pour rappel, Google a affiché 224 milliards de dollars de revenus publicitaires en 2022, ce qui représente plus de douze fois les revenus publicitaires de Microsoft sur la même période, soit 18 milliards de dollars. Google a dominé la recherche au cours des deux dernières décennies et, selon le cabinet d'analyse Statcounter, il représente environ 93 % du marché mondial des moteurs de recherche, tandis que Bing en représente environ 3 %. Les commentaires Bill Gates sont intervenus deux semaines après que Microsoft a dévoilé une version de Bing pilotée par l'IA, qui se pose en challenger de la domination de Google dans le domaine de la recherche.
Il est encore trop tôt pour évaluer les impacts de ce lancement sur le moteur de recherche de Microsoft, mais il est important de rappeler que Google voit ChatGPT comme une « menace », et ce depuis son lancement.
Un coût considérable en termes de puissance de calcul et d'électricité
Bien sûr, le niveau d'intégration de l'IA que souhaitent Bill Gates, Microsoft et Google a un coût et ce dernier semble considérablement supérieur à celui d'un moteur de recherche standard. Autrement dit, transformer un chatbot en une activité viable va être un défi. Google dispose depuis sept ans d'une interface de recherche par chat, Google Assistant, et la plus grande société de publicité au monde n'a pas encore été en mesure de la monétiser. Outre la difficulté technique, la génération d'une session de chat pour chaque recherche nécessite beaucoup plus de puissance de calcul et d'électricité, ce qui revient beaucoup plus cher pour les entreprises.
Dans une récente interview, le président d'Alphabet, John Hennessy, a déclaré qu'une conversation avec un chatbot d'IA coûtait probablement 10 fois plus cher qu'une recherche standard par mots clefs, même si un réglage fin permettra de réduire rapidement cette dépense. Selon des analystes de Google, même avec les revenus tirés de potentielles annonces intégrées à la recherche par chat, la technologie devrait représenter plusieurs milliards de dollars de coûts supplémentaires. Morgan Stanley a estimé que les 3 300 milliards de requêtes de recherche enregistrées par Google l'année dernière coûtaient environ un cinquième de centime chacune.
Ce chiffre augmenterait en fonction de la quantité de texte que l'IA doit générer. Google, par exemple, pourrait être confronté à une hausse de 6 milliards de dollars de ses dépenses d'ici 2024 si une IA de type ChatGPT devait traiter la moitié des requêtes que la société reçoit avec des réponses de 50 mots. Sam Altman, PDG d'OpenAI, est également conscient du problème. Dans un tweet en décembre dernier, seulement quelques jours après le lancement de ChatGPT, Atman a annoncé que la société réfléchissait à un plan pour monétiser le chatbot, car son exploitation engendre des coûts exorbitants de quelques centimes ou plus par conversation.
Sources : Oracle, Statcounter
Et vous ?
Que pensez-vous de ce partenariat ? Comment pouvez-vous expliquer que Microsoft prétende que l'utilisation de Bing a explosée mais qu'elle ne se reflète pas encore sur les baromètres comme Statcounter ? La méthodologie de ces baromètres devrait-elle être modifiée ? Pensez-vous que Bing Chat respecte les droits d’auteur et la propriété intellectuelle des sources qu’il utilise pour générer du texte ? Quel est l’impact environnemental de la consommation de ressources de calcul pour faire fonctionner Bing Chat ? Vu le coût considérable en termes de puissance de calcul et de consommation d'électricité, le jeu en vaut-il la chandelle ? 
Envoyé par Stéphane le calme
