Un nouvel aperçu de recherche de GPT-4.5 d'OpenAI montre que le modèle d'IA améliore sa capacité à reconnaître des motifs, à établir des connexions et à générer des idées créatives sans raisonnement

OpenAI a récemment publié un aperçu de recherche de GPT-4.5, son plus grand et meilleur modèle de chat à ce jour. GPT-4.5 est un pas en avant dans la mise à l'échelle de la pré-formation et de la post-formation. En augmentant l'apprentissage non supervisé, GPT-4.5 améliore sa capacité à reconnaître des motifs, à établir des connexions et à générer des idées créatives sans raisonnement.

L'aperçu de la recherche d'OpenAI sur GPT-4.5 s'inscrit dans le cadre d'un changement plus large de la stratégie de développement de l'entreprise. Sam Altman, PDG d'OpenAI, a en effet récemment annoncé l'annulation du lancement du modèle « o3 » d'OpenAI au profit d'une version unifiée baptisée GPT-5. Cette décision coïncide également avec l'attention croissante portée par les investisseurs à l'augmentation des coûts de développement de l'IA, notamment à la suite de l'émergence d'alternatives peu coûteuses telles que DeepSeek.

Les premiers tests réalisés par OpenAI montrent que l'interaction avec GPT-4.5 semble plus naturelle. Sa base de connaissances plus large, sa capacité accrue à suivre l'intention de l'utilisateur et son meilleur « QE » le rendent utile pour des tâches telles que l'amélioration de l'écriture, la programmation et la résolution de problèmes pratiques. Il est également prévu qu'il produise moins d'hallucinations.

OpenAI partage GPT-4.5 en tant qu'aperçu de recherche afin de mieux comprendre ses forces et ses limites. L'entreprise continue d'explorer ses capacités et est impatiente de voir comment les gens l'utilisent d'une manière inattendue.


Mise à l'échelle de l'apprentissage non supervisé

OpenAI fait progresser les capacités de l'IA en mettant à l'échelle deux paradigmes complémentaires : l'apprentissage non supervisé et le raisonnement. Ils représentent deux axes de l'intelligence.

1. La mise à l'échelle du raisonnement apprend aux modèles à réfléchir et à produire une chaîne de pensée avant de répondre, ce qui leur permet de s'attaquer à des problèmes STEM ou de logique complexes. Des modèles comme OpenAI o1 et OpenAI o3-mini font progresser ce paradigme.
2. L'apprentissage non supervisé, quant à lui, augmente la précision et l'intuition des modèles du monde.

GPT-4.5 est un exemple de mise à l'échelle de l'apprentissage non supervisé en augmentant la capacité de calcul et les données, ainsi que les innovations en matière d'architecture et d'optimisation. GPT-4.5 a été entraîné sur les supercalculateurs Microsoft Azure AI. Le résultat est un modèle qui a une connaissance plus large et une compréhension plus profonde du monde, ce qui conduit à une réduction des hallucinations et à une plus grande fiabilité dans un large éventail de sujets.

Mise à l'échelle du paradigme GPT


Connaissance approfondie du monde

SimpleQA mesure la factualité du LLM sur des questions de connaissance simples mais complexes.

Entraînement à la collaboration humaine

À mesure qu'OpenAI fait évoluer ses modèles et qu'ils résolvent des problèmes plus complexes, il devient de plus en plus important de leur apprendre à mieux comprendre les besoins et les intentions des humains. Pour GPT-4.5, l'entreprise a mis au point de nouvelles techniques évolutives qui permettent d'entraîner des modèles plus grands et plus puissants à l'aide de données dérivées de modèles plus petits. Ces techniques améliorent l'orientation de GPT-4.5, la compréhension des nuances et la conversation naturelle.

La préférence humaine mesure le pourcentage de requêtes pour lesquelles les testeurs ont préféré GPT-4.5 à GPT-4o.

La combinaison d'une compréhension approfondie du monde et d'une collaboration améliorée permet d'obtenir un modèle qui intègre naturellement les idées dans des conversations chaleureuses et intuitives, mieux adaptées à la collaboration humaine. GPT-4.5 comprend mieux ce que les humains veulent dire et interprète les indices subtils ou les attentes implicites avec plus de nuance et de « QE ». GPT-4.5 fait également preuve d'une intuition esthétique et d'une créativité plus fortes. Elle excelle notamment dans l'aide à l'écriture et à la...