M. Gates affirme que "de nombreuses personnes compétentes" travaillant chez OpenAI sont convaincues que GPT-5 sera nettement meilleur que GPT-4, y compris le PDG d'OpenAI, Sam Altman. Mais il pense que l'IA générative actuelle a atteint un plafond, même s'il admet qu'il peut se tromper.
Comme référence pour ce qu'il considère comme une amélioration majeure de la qualité, il a cité le grand bond en avant de la qualité entre GPT-2 et GPT-4, qu'il a qualifié d'"incroyable".
On ne sait pas encore quand OpenAI commencera la formation de GPT-5 ni quand elle publiera le modèle. Il semblerait que l'entreprise travaille sur plusieurs prototypes dans le but principal d'accroître l'efficacité du modèle afin de réduire les coûts d'inférence.
Deux à cinq ans pour une IA moins chère et plus fiable
M. Gates voit néanmoins un grand potentiel dans les systèmes d'IA actuels, en particulier si les coûts de développement élevés et les taux d'erreur peuvent être réduits et si la fiabilité peut être améliorée. Il pense que cet objectif peut être atteint dans les deux à cinq prochaines années, ce qui rendrait l'IA générative viable pour des applications médicales telles que la mise au point de médicaments ou les conseils en matière de santé.
M. Gates ne pense pas que NVIDIA dispose d'un avantage absolu en ce qui concerne la connaissance des puces. S'il est vrai que tout le monde veut des puces NVIDIA en ce moment, Gates affirme que Google, Microsoft, Amazon et cinq à dix autres entreprises développent des offres concurrentes.
"Tous ces semi-conducteurs sont fabriqués par des entreprises spécialisées qui utilisent les mêmes outils. Croyez-moi, le problème de la disponibilité sera résolu, que ce soit avec une puce d'AMD, d'Amazon, de Google ou de Microsoft", affirme M. Gates. OpenAI envisagerait également de développer ses propres puces d'IA.
Une autre étape importante, selon M. Gates, est le développement d'une IA compréhensible. "C'est bizarre, nous connaissons l'algorithme, mais nous ne savons pas vraiment comment il fonctionne", explique M. Gates. Il pense que cette tâche sera entièrement résolue au cours de la "prochaine décennie".
Bien que M. Gates ne soit plus officiellement impliqué dans les activités quotidiennes de Microsoft, il continue d'agir en tant que conseiller et connaît bien l'équipe dirigeante et les idées d'OpenAI. Microsoft est le principal actionnaire d'OpenAI, avec une participation de 49 %.
En février 2023, Gates a déclaré à Forbes qu'il ne pensait pas que l'approche d'OpenAI consistant à développer des modèles d'IA sans logique symbolique explicite serait viable. Cependant, OpenAI l'a convaincu que la mise à l'échelle pouvait conduire à des capacités émergentes significatives.
Source : Interview de Bill Gates pour le journal Handelsblatt
Et vous ?
Quel est votre avis sur le sujet ?
Êtes-vous d'accord avec le point de vue de M. Gates concernant le développement de la technologie GPT ?
Voir aussi
GPT-5 : OpenAI pourrait dévoiler cette nouvelle version d'ici la fin de l'année et révolutionner le domaine de l'IA, un investisseur allant jusqu'à affirmer que GPT-5 pourrait atteindre l'IAG
Le PDG d'OpenAI confirme que l'entreprise ne travaille pas actuellement sur GPT-5 : « Nous ne le faisons pas et ne le ferons pas avant un certain temps »
GPT-4 produirait des informations erronées, beaucoup plus que GPT-3.5, selon une étude de NewsGuard, OpenAI avait pourtant déclaré le contraire