Sundar Pichai, PDG de Google, prédit l'avenir de l'IA : le développement de l'IA va commencer à ralentir, « Je pense que les progrès vont devenir plus difficiles, les fruits à portée de main ont disparu »

Sundar Pichai, PDG de Google, prédit l'avenir de l'IA : le développement de l'IA va commencer à ralentir, « Je pense que les progrès vont devenir plus difficiles, les fruits à portée de main ont disparu »

Sundar Pichai, PDG de Google, a prédit l'avenir de l'intelligence artificielle (IA). S'exprimant lors de l'événement The New York Times Dealbook, Sundar Pichai a déclaré que le développement de l'IA allait commencer à ralentir. « Je pense que les progrès vont devenir plus difficiles quand je regarde vers [2025]. Les fruits à portée de main ont disparu », a-t-il affirmé lors de son intervention.

Les prédictions de Sundar Pichai rejoignent les préoccupations croissantes des analystes du secteur quant à la trajectoire de l'IA générative. En effet, selon le cabinet d'analystes CCS Insight, l'IA générative, malgré l'attention considérable qu'elle suscite, sera confrontée à un ralentissement imminent et à des défis de plus en plus importants. Selon les experts, les coûts opérationnels élevés, les risques et la complexité de la technologie l'emporteront sur l'engouement initial. Ces systèmes reposent sur une immense puissance de calcul pour gérer leurs algorithmes complexes, ce qui fait de l'évolutivité une entreprise coûteuse.

À l'heure actuelle, la plupart des entreprises spécialisées dans le développement de l'IA publient un modèle général, puis commencent à travailler sur une version plus spécifique. Par exemple, OpenAI, fabricant de ChatGPT, a mis au point ChatGPT 4, qui a été transformé en 4o, lui-même divisé en « Mini » (une version moins coûteuse) et auquel succède maintenant o1.

Chaque nouveau modèle est accompagné de milliards d'instructions, ce qui, selon Sundar Pichai, n'est pas la voie à suivre. Il n'est plus question de grossir en termes de capacité.


Le prochain objectif de M. Pichai est de réaliser des « percées plus profondes », qu'il ne considère pas comme un mur : « Vous pouvez donc considérer qu'il y a un mur ou qu'il y a de petites barrières ».

L'une de ces barrières est la possibilité que les données générées par l'IA deviennent les données d'entraînement, ce qui empoisonnerait le puits.

En effet, une récente étude de l'université d'Oxford et de Cambridge a révélé que le fait de s'appuyer sur des contenus générés par l'IA pour la formation des modèles d'IA entraîne l'« effondrement » de ces modèles. Ce phénomène, connu sous le nom de contamination récursive des données, entraîne une dégradation des performances et des biais dans la précision des prédictions et rendra plus difficile la formation des futurs grands modèles de langage.

On estime qu'en 2024, 57 % de l'internet sera généré par l'IA, ce qui ne constitue pas de bonnes données à récolter.

L'IA est formée à partir de milliards de données provenant des médias, des livres et de l'internet. Et comme les entreprises commencent à manquer de matériel, il en résulte un effet de plateau alors que les grands modèles de langage comme ChatGPT sont mis à jour.

Les sauts importants entre les modèles observés entre le GPT 3.5 et le GPT 4 cesseront d'être aussi fréquents au fur et à mesure que les nouvelles données disponibles se tariront.

Pour contourner ce problème, les entreprises ont conclu des accords afin d'obtenir une source directe de nouveaux contenus. OpenAI, par exemple, s'est associé à des éditeurs tels que Future. Google lui-même a conclu un accord de 60 millions de dollars pour récolter les données de Reddit à des fins de formation.

L'industrie de l'IA confrontée à un plateau alors que la formation commence à ralentir

L'IA et son industrie sont actuellement dans une course effrénée pour être les meilleurs. Cependant, ses principales promesses, comme l'intelligence générale artificielle (AGI), qui permet à un ordinateur d'imiter théoriquement le cerveau humain, sont minimisées par les leaders de l'industrie.

Le PDG d'OpenAI, Sam Altman, a récemment revu à la baisse les attentes concernant le prochain obstacle majeur de l'IA. Alors qu'il prévoit un lancement en 2025, il a déclaré lors du 2024 New York Times DealBook Summit : « À mon avis, l'IA sera disponible plus tôt que ne le pensent la plupart des gens dans le monde, et elle aura beaucoup moins d'importance ».

OpenAI a vu plusieurs de ses dirigeants quitter l'entreprise, alors qu'elle s'apprête à devenir une société à but lucratif.

Sundar Pichai s'en est pris à Microsoft, l'une des entreprises les plus importantes dans le domaine de l'IA à l'heure actuelle. Le géant de la technologie travaille actuellement sur des centrales nucléaires pour alimenter ses centres de données pour l'IA, mais ne dispose pas encore de son propre modèle pour le public. Au lieu de cela, Microsoft détient une participation de 49 % dans OpenAI et utilise divers wrappers pour présenter le CoPilot alimenté par ChatGPT dans son logiciel.

Faisant allusion à Microsoft, Sundar Pichai a déclaré : « J'adorerais faire une comparaison côte à côte entre les modèles de Microsoft et les nôtres, n'importe quand, à n'importe quel moment... Ils utilisent les modèles de quelqu'un d'autre ».

Après deux années d'intérêt croissant et d'investissements sans précédent, l'IA semble toutefois perdre en popularité et certains investisseurs commencent à craindre qu'elle ne leur apporte pas les profits considérables escomptés.

En août 2024, les cours des actions des entreprises à l'origine de la révolution de l'IA ont chuté de 15 % par rapport à leurs précédents sommets, reflétant les inquiétudes des investisseurs quant à la capacité de la technologie à fournir des résultats à la hauteur des milliards injectés. Les experts s'interrogent également sur les limites des grands modèles de langage (LLM).

Toutefois, certains spécialistes restent optimistes et estiment que l'IA entre dans une phase de maturation. Selon eux, des applications à fort impact émergeront de cette période de consolidation, jetant les bases de progrès durables.

Source : Intervention du PDG de Google, Sundar Pichai, lors du sommet New York Times Dealbook

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous les prédictions du PDG de Google crédibles ou pertinentes ?

Voir aussi :

Selon un groupe de chercheurs en IA, les LLM actuels ne mèneront pas à l'AGI, mais les robots dotés d'une IA qui se développent dans le monde 3D pourraient le faire

Yann LeCun affirme que l'AGI est inévitable, mais qu'elle n'arrivera pas l'année prochaine et qu'elle ne sera pas uniquement l'œuvre des LLM, il propose une piste pour créer une IA de niveau humain

L'intelligence générale artificielle (AGI), qui surpasse l'intelligence humaine dans presque tous les domaines, verrait le jour d'ici 10 ans, a déclaré Masayoshi Son, PDG de SoftBank