OpenAI s'apprêterait à dévoiler GPT-5, une version améliorée de son modèle d'IA qui alimente ChatGPT, probablement au milieu de l'année 2024, probablement durant l'été. Deux sources anonymes bien informées ont indiqué que certaines entreprises clientes ont eu récemment des démonstrations de GPT-5 ainsi que des améliorations de ChatGPT. Cette mise à jour majeure, potentiellement nommée GPT-5, est décrite comme étant « matériellement meilleure » que son prédécesseur, le GPT-4, avec des capacités améliorées pour imiter la communication humaine et exécuter des tâches automatisées. Bien que l'entreprise n'ait pas confirmé les détails, des sources anonymes ont partagé des informations sur les récentes démonstrations du GPT-5 à des clients potentiels, suscitant l'enthousiasme quant à ses nouvelles fonctionnalités. L'OpenAI continue de travailler sur la formation et les tests de sécurité du GPT-5, mais une fois ces étapes franchies, sa sortie publique pourrait être imminente, bien que des retards potentiels soient possibles en raison du processus de test. Si le GPT-5 réussit à améliorer la qualité de sa généralisation tout en réduisant les erreurs courantes dans les modèles d'IA, il pourrait représenter une avancée significative pour l'entreprise. Bien que cette information soit basée sur des sources fiables, l'exactitude de la date de lancement reste sujette à confirmation.
Sam Altman a été interviewé par Ina Fried, journaliste chez Axios, en début d'année lors du forum de Davos. Au cours de cette interview, il a partagé des informations importantes concernant GPT-5 et a répondu à diverses questions difficiles. Il a notamment souligné que GPT-5 se focaliserait sur son intégration dans les flux de travail, évoquant des développements potentiels pour 2024, ainsi que la résolution de certains obstacles entravant l'IA, tout en mettant en avant son évolution vers le langage naturel et les expériences d'IA. À cet égard, il a donné un exemple d'utilisation évoquant le "rabbit r1", un gadget alimenté par l'IA capable d'utiliser les applications smartphone à la place de l'utilisateur.
En novembre 2023, Sam Altman a confirmé au Financial Times qu'OpenAI avait entamé le développement de GPT-5. Il a également mentionné la recherche de soutien financier supplémentaire auprès de son principal investisseur, Microsoft, dans le but de créer des outils technologiques aussi intelligents que les humains. OpenAI avait déjà signé un accord "pluriannuel" de 10 milliards de dollars avec Microsoft début 2023, élargissant ainsi un partenariat initié en 2019 avec un investissement initial de 1 milliard de dollars.
Lors d'une récente interview avec Axios, Sam Altman a discuté de l'impact potentiel de GPT-5 sur nos vies, a exploré les possibilités de transformation de l'IA et a laissé entendre un changement de nom pour le projet.
Cela fait déjà plus d'un an que ChatGPT a été lancé et ouvert au public. Il nous a tous étonnés au départ par sa capacité à comprendre et à générer du langage naturel. Cependant, la progression constante de l'innovation en matière d'IA signifie que l'OpenAI ne peut pas avoir tous les feux de la rampe. Entre le lancement de Bard de Google, l'annonce de son nouveau modèle de pointe Gemini, l'arrivée de nouveaux concurrents comme Anthropic, et le fort mouvement open-source porté par le LLaMA de Meta, l'OpenAI va devoir évoluer rapidement si elle veut conserver son avance dans le domaine de l'IA.
Aujourd'hui, alors que nous sommes à l'aube d'une nouvelle étape technologique, les attentes concernant le GPT-5 sont de plus en plus grandes. Elles sont principalement alimentées par notre imagination et les spéculations qui circulent au sein de la communauté technologique. Cet article tente de faire la lumière sur ce que nous pouvons attendre du TPG-5, en s'inspirant de ses prédécesseurs, comme le TPG-4, et de la trajectoire des principales avancées dans le domaine de l'IA.
Il est important de considérer qu'une grande partie de ce qui est discuté ici est basé sur des prédictions, peignant une image d'un futur à la fois excitant et, à ce jour, extrêmement incertain.
Qu'est-ce que le GPT-5 ?
Generative Pre-trained Transformer ou GPT est une série de grands modèles de langage (LLM) développés par OpenAI qui ont influencé de manière significative les domaines du ML et de l'IA. Le GPT, à la base, est conçu pour comprendre et générer des textes de type humain sur la base des données qu'il reçoit. Ces modèles sont formés à partir de vastes ensembles de données. La famille de modèles GPT a contribué à populariser les applications basées sur le LLM, établissant de nouvelles références pour ce qui est possible dans le traitement du langage naturel, la génération et au-delà.
GPT-5 représente la prochaine itération de la série GPT. Certains d'entre vous se demandent peut-être ce que signifie la prochaine itération. Jetons un coup d'œil à l'histoire des modèles GPT jusqu'à présent :
GPT-1
En 2018, OpenAI a introduit le concept de pré-entraînement génératif avec GPT-1, en utilisant une architecture de transformateur pour améliorer la compréhension du langage naturel. Ce modèle, détaillé dans leur article « Improving Language Understanding by Generative Pre-Training », a servi de preuve de concept et n'a pas été rendu public.
GPT-2
Un an plus tard, l'OpenAI a publié GPT-2, qui présentait des améliorations significatives en matière de génération de texte. GPT-2 était capable de générer de courts passages de texte, ce qui représentait une avancée notable par rapport à son prédécesseur. Il a été mis à la disposition du public, ce qui a permis d'élargir l'expérimentation dans la communauté de l'apprentissage automatique.
GPT-3
Avec la sortie de GPT-3 en 2020, OpenAI a considérablement augmenté la taille de son modèle, avec 100 fois plus de paramètres que GPT-2. Cette expansion a permis à GPT-3 de produire des textes beaucoup plus longs et plus cohérents, et de réaliser des performances impressionnantes dans diverses tâches. L'introduction de ChatGPT, une itération de la série GPT-3.5 axée sur la conversation, a démontré la remarquable capacité du modèle à générer des textes semblables à ceux d'un être humain, avec une adoption rapide et 100 millions d'utilisateurs en l'espace de deux mois.
GPT-4
GPT-4, la dernière itération de la série, affine encore les capacités introduites par ses prédécesseurs. Avec un ensemble de données encore plus vaste et davantage de paramètres, GPT-4 améliore les capacités de compréhension et de génération de langage naturel de GPT-3. Il se montre plus performant dans la génération de textes cohérents et contextuels sur de longs passages et fait preuve d'une meilleure compréhension dans des scénarios de conversation complexes.
Les avancées de GPT-4 comprennent une compréhension plus nuancée du contexte, une meilleure factualité et une réduction de la génération de contenu biaisé ou nuisible. Son adoption s'étend à diverses applications, des agents conversationnels avancés aux outils de création de contenu sophistiqués, ce qui souligne sa polyvalence et l'évolution continue des technologies de traitement du langage naturel basées sur l'IA.
En novembre 2023, l'OpenAI a dévoilé GPT-4 Turbo with Vision, qui a mis à jour plusieurs fonctionnalités. Pour en savoir plus sur l'évolution de la famille GPT, consultez notre précédent article sur le GPT-4.
GPT-5
Le GPT-5 représente donc probablement la prochaine version du Generative Pre-trained Transformer (transformateur génératif pré-entraîné). Bien que les informations sur la prochaine itération potentielle soient rares, nous savons que le GPT-4 présentait des améliorations significatives par rapport à ses prédécesseurs, notamment en ce qui concerne sa capacité de raisonnement logique. Même s'il n'est pas au courant des événements survenus au-delà d'avril 2023, le GPT-4 possède une base de connaissances générales plus étendue et une compréhension plus approfondie de notre monde. Tout porte donc à croire que le GPT-5 suivra la même tendance et améliorera le modèle actuel du GPT-4.
Sam Altman, PDG d'OpenAI, a affirmé en février que GPT-5 surpassera son prédécesseur, GPT-4, en termes d'intelligence, de rapidité, de polyvalence et de performance dans toutes les tâches. Lors du Sommet mondial des gouvernements (WGS) à Dubaï, il a présenté virtuellement les capacités du futur modèle de langage en développement. Bien qu'il n'ait pas précisé la date de sortie, Altman a souligné que GPT-5 sera un modèle d'IA multimodal plus avancé, doté d'une capacité de raisonnement lui permettant d'accomplir des tâches plus complexes. Il a également réitéré son appel en faveur d'une réglementation mondiale sur l'IA.
Cette déclaration n'est pas nouvelle pour Altman, qui a déjà évoqué à plusieurs reprises GPT-5, la prochaine itération du modèle de langage de pointe de l'OpenAI. Il l'a décrite comme une étape cruciale vers l'intelligence artificielle générale (AGI), capable d'imiter les processus de pensée humains. Bien qu'Altman ait annoncé le début du travail sur GPT-5 et vanté ses améliorations par rapport à son prédécesseur, il n'a pas fourni de détails techniques concrets.
Lors de sa dernière intervention, Altman est resté évasif sur les détails techniques de GPT-5, mais a souligné que le passage du GPT-4 au GPT-5 serait transformateur plutôt que simplement progressif. Selon lui, GPT-5 sera plus intelligent, plus rapide et plus polyvalent, représentant une avancée significative dans l'intelligence artificielle. Il a comparé cette évolution à la transition des téléphones portables primitifs aux smartphones modernes, soulignant que GPT-5 marque une nouvelle ère dans la capacité de l'IA à comprendre, interagir et aider dans une multitude de domaines.
Quelles améliorations révolutionnaires attendre dans le prochain modèle de langage d'OpenAI ?
Selon un nouveau rapport de Business Insider, OpenAI devrait lancer GPT-5, une version améliorée du modèle de langage d'IA qui alimente ChatGPT, au milieu de l'année 2024, et probablement au cours de l'été. Deux sources anonymes connaissant bien l'entreprise ont révélé que certaines entreprises clientes ont récemment reçu des démonstrations de GPT-5 et des améliorations connexes de ChatGPT.
Un PDG qui a récemment vu une version de GPT-5 l'a décrite comme « vraiment bonne » et « matériellement meilleure », OpenAI démontrant le nouveau modèle en utilisant des cas d'utilisation et des données propres à son entreprise. Le PDG a également fait allusion à d'autres capacités inédites du modèle, telles que la possibilité de lancer des agents d'IA développés par OpenAI pour exécuter des tâches automatiquement.
Nous avons interrogé les représentants d'OpenAI sur la date de sortie de GPT-5 et sur le rapport de Business Insider. Ils ont répondu qu'ils n'avaient pas de commentaire particulier à faire, mais ils ont inclus un extrait de la transcription de l'intervention récente de Altman dans le podcast de Lex Fridman. Dans cette conversation, Altman semble laisser entendre que l'entreprise est prête à lancer un modèle d'IA majeur cette année, mais la question de savoir s'il s'appellera « GPT-5 » ou s'il sera considéré comme une mise à jour majeure de GPT-4 Turbo (ou peut-être une mise à jour incrémentielle comme GPT-4.5) n'est pas tranchée.
Comme son prédécesseur, le GPT-5 (ou quel que soit son nom) devrait être un grand modèle de langage multimodal (LLM) qui peut accepter du texte ou une entrée visuelle codée (appelée « invite »). Comme le GPT-4, le GPT-5 sera un modèle de prédiction du prochain token, ce qui signifie qu'il émettra sa meilleure estimation du prochain token (un fragment de mot) le plus probable dans une séquence, ce qui permet de réaliser des tâches telles que compléter une phrase ou écrire un code. Lorsqu'ils sont configurés d'une manière spécifique, les modèles GPT peuvent alimenter des applications de chatbot conversationnel comme ChatGPT.
L'OpenAI a lancé GPT-4 en mars 2023 en tant que mise à jour de son prédécesseur le plus important, GPT-3, qui a vu le jour en 2020 (avec GPT-3.5 arrivant à la fin de 2022). En novembre dernier, OpenAI a publié GPT-4 Turbo, qui a considérablement réduit les coûts d'inférence (fonctionnement) du meilleur modèle d'IA d'OpenAI, mais qui a fait l'objet d'accusations de « paresse », le modèle refusant parfois de répondre aux invites ou d'achever les projets de codage demandés. OpenAI a tenté à plusieurs reprises de résoudre le problème de la paresse.
Les LLM tels que ceux développés par OpenAI sont formés sur des ensembles de données massives récupérées sur l'internet et sous licence de sociétés de médias, ce qui leur permet de répondre aux questions de l'utilisateur d'une manière semblable à celle d'un être humain. Toutefois, la qualité des informations fournies par le modèle peut varier en fonction des données d'entraînement utilisées et de la tendance du modèle à confabuler. Si le GPT-5 peut améliorer la généralisation (sa capacité à effectuer de nouvelles tâches) tout en réduisant ce que l'on appelle communément les « hallucinations » dans l'industrie, il représentera probablement une avancée notable pour l'entreprise.
Nouveaux détails sur le processus de test
Selon le rapport, OpenAI est encore en train de former GPT-5 et, une fois cette formation terminée, le modèle sera soumis à des tests de sécurité internes et à un « red teaming » plus poussé afin d'identifier et de résoudre les problèmes éventuels avant sa diffusion publique. La date de sortie pourrait être retardée en fonction de la durée du processus de test de sécurité. Nous savons désormais que le GPT-5 est suffisamment complet pour faire l'objet de tests, ce qui signifie que sa principale phase d'entraînement est probablement terminée. D'autres améliorations suivront probablement.
OpenAI prévoit de dévoiler GPT-5, une version améliorée de son modèle d'intelligence artificielle utilisé par ChatGPT, probablement au cours de l'été 2024. Deux sources anonymes bien informées ont révélé que certaines entreprises clientes ont récemment assisté à des démonstrations de GPT-5 ainsi qu'à des améliorations de ChatGPT. Cette mise à jour majeure, potentiellement baptisée GPT-5, est présentée comme étant « matériellement meilleure » que son prédécesseur, le GPT-4, avec des capacités accrues pour imiter la communication humaine et exécuter des tâches automatisées. Bien que les détails n'aient pas été confirmés par l'entreprise, des sources anonymes ont partagé des informations sur ces récentes démonstrations, suscitant un vif intérêt pour les nouvelles fonctionnalités du GPT-5.
OpenAI poursuit actuellement le travail de formation et de tests de sécurité du GPT-5. Une fois ces étapes franchies, sa sortie publique pourrait être imminente, bien que des retards potentiels puissent survenir en raison du processus de test. Si le GPT-5 parvient à améliorer la qualité de sa généralisation tout en réduisant les erreurs courantes dans les modèles d'IA, il pourrait représenter une avancée significative pour l'entreprise. Cependant, bien que basée sur des sources fiables, l'exactitude de la date de lancement reste à confirmer.
Il est clair que l'annonce de la sortie potentielle de GPT-5 par OpenAI suscite des réactions variées et parfois contradictoires. D'un côté, certains avis remettent en question la pertinence du titre du rapport, soulignant les déclarations de Sam Altman selon lesquelles les prochaines mises à jour ne seront peut-être pas nécessairement GPT-5, mais plutôt des améliorations itératives du modèle existant. Cette perspective met en lumière la nécessité de ne pas surestimer les avancées en matière d'IA et d'être prudents quant aux attentes du public.
D'autre part, d'autres critiques expriment une certaine frustration ou scepticisme quant à la capacité d'OpenAI à réellement révolutionner le domaine de l'IA avec une nouvelle version de GPT. Certains remettent en question l'utilité des itérations précédentes du modèle, soulignant que l'enthousiasme initial a pu s'estomper avec le temps. Ils mettent en doute la réelle valeur ajoutée de ces mises à jour par rapport aux attentes initiales.
Toutefois, il est important de garder à l'esprit que ces critiques ne représentent qu'une fraction des opinions et des perspectives sur ce sujet. La sortie potentielle de GPT-5 et les implications de cette avancée dans le domaine de l'IA sont des sujets complexes qui suscitent naturellement un large éventail de réactions et d'interprétations. Il sera intéressant de voir comment OpenAI répondra à ces attentes et comment la communauté réagira une fois que la nouvelle version sera effectivement dévoilée.
Source : Report from Business Insider
Et vous ?
Quel est votre avis sur le sujet ? Quelle est la réelle valeur ajoutée attendue de GPT-5 par rapport aux attentes initiales des utilisateurs et aux performances des versions précédentes du modèle, et comment ces attentes se comparent-elles aux annonces et aux communications officielles d'OpenAI ? Comment OpenAI prévoit-elle de gérer les attentes du public concernant le GPT-5, compte tenu des réactions variées et parfois contradictoires ?Voir aussi :
Sam Altman donne des infos importantes sur GPT-5 et ChatGPT, évoque de nouvelles utilisations de l'IA au niveau de l'OS, anticipe une accélération des découvertes scientifiques, parle du procès NYT « GPT-5 sera plus intelligent, plus rapide, plus polyvalent et meilleur dans toutes les tâches que GPT-4 », affirme Sam Altman, qui appelle une nouvelle fois à une réglementation mondiale sur l'IA Des chercheurs ont découvert que le modèle d'IA GPT-4 d'OpenAI est capable de pirater des sites web et de voler des informations dans des bases de données, en ligne sans aide humaine