OpenAI travaille-t-elle en secret sur un programme d'IA proche d'une forme d'intelligence générale artificielle ?

Une rumeur évoque un modèle d'IA qui surpasserait de loin les performances de GPT-4

OpenAI travaillerait sur un puissant modèle d'IA baptisé "Arrakis" en interne. La rumeur indique qu'il s'agit d'un modèle d'IA "révolutionnaire" dont les capacités dépassent de loin celles de GPT-4 et seraient même proches d'une intelligence artificielle générale (AGI). Arrakis devrait être en mesure de traiter du texte, de la vidéo, de l'audio et des images, ainsi que n'importe quelle combinaison de texte, d'image, audio et vidéo. Il devrait en outre égaler ou surpasser le prochain modèle Gemini de Google en matière de performance. La rumeur intervient après que Sam Altman, PDG d'OpenAI, a déclaré que l'entreprise avait atteint une forme d'AGI, avant de se raviser.

« Arrakis surpasse de loin GPT-4 et est très proche de l'AGI », note l'auteur de la fuite, un internaute utilisant le pseudonyme Jimmy_Apples. La référence à l'AGI a enflammé Reddit, et le compte X (ex-Twitter) de Jimmy_Apples s'est soudainement fermé après l'apparition de la rumeur. L'intéressé a déclaré qu'Arrakis n'était pas censé être lancé dans les 12 prochains mois, mais qu'il pourrait être avancé à 2024. La rumeur ajoute qu'OpenAI pourrait même lancer Arrakis en plusieurs parties, en ouvrant progressivement l'accès aux différentes modalités, ce qui signifie que le grand public pourrait déjà l'avoir vu avec la récente mise à jour appelée GPT-4V.

Selon la startup, GPT-4V (GPT-4 avec vision) permet aux utilisateurs d'ordonner au GPT-4 d'analyser les entrées d'images fournies par l'utilisateur. Cette fonctionnalité marque l'évolution de GPT-4 vers un modèle multimodal. Cela signifie que le modèle peut accepter plusieurs "modalités" d'entrée et renvoyer des résultats basés sur ces entrées. Avec GPT-4V, l'utilisateur peut télécharger une image comme entrée et poser une question sur l'image. Les modèles Bing Chat de Microsoft et Bard de Google sont également des modèles multimodaux. Mais cela ne fait pas de ces modèles une forme d'AGI, ce qui signifie que GPT-4V est également loin de l'être.


L'intelligence artificielle générale est une forme "hypothétique" d'intelligence artificielle dans laquelle une machine peut apprendre et penser comme un humain. Pour que cela soit possible, l'AGI devrait avoir une conscience de soi et une conscience tout court, afin de pouvoir résoudre des problèmes, s'adapter à son environnement et effectuer un plus large éventail de tâches. Si l'AGI - également appelée "IA forte" - semble relever de la science-fiction, c'est parce qu'elle est encore d'actualité. Les formes d'IA existantes n'ont pas encore atteint le niveau de l'AGI, mais les chercheurs en IA et les entreprises travaillent toujours pour en faire une réalité.

L'IA (dite faible) est en fait formée à partir de donnée pour effectuer des tâches spécifiques ou une série de tâches limitées à un seul contexte. Plusieurs formes d'IA s'appuient sur des algorithmes ou des règles prédéfinies pour guider leurs actions et apprendre à fonctionner dans un certain environnement. Par contre, l'AGI se veut capable de raisonner et de s'adapter à de nouveaux environnements et à différents types de données. Au lieu de dépendre de règles prédéfinies pour fonctionner, l'AGI adopte une approche de résolution de problèmes et d'apprentissage. L'AGI est censée faire preuve des mêmes capacités de raisonnement que les humains.

Jimmy_Apples a laissé entendre que Arrakis pourrait être un modèle un ensemble de plusieurs modèles plus petits. Ce dernier a affirmé au début de l'année qu'OpenAI travaille sur un modèle de 125 000 milliards de paramètres. OpenAI a publié GPT-4 en mars, mais n'a pas précisé sa taille. En juin, Soumith Chintala, cocréateur de la bibliothèque logicielle PyTorch et chercheur en IA au sein de la division Meta AI Research, a déclaré que GPT-4 n'était pas un LLM, mais était composé de plusieurs systèmes plus petits sous la forme d'une une architecture de mélange d'experts (Mixture of Experts - MoE). D'autres analystes soutiennent également cette thèse.

Wait, can we consider seriously the hypothesis that 1) the recent hyped tweets from OA's staff
2) "AGI has been achieved internally"
3) sama's comments on the qualification of slow or fast takeoff hinging on the date you count from
4) sama's comments on 10000x researchers
are… https://t.co/f57g7dXMhM pic.twitter.com/Gap3V7VqkK

— Siméon ⏸️ (@Simeon_Cps) September 24, 2023

Les allégations selon lesquelles OpenAI travaillerait sur un modèle de 125 000 milliards de paramètres ne convainquent pas tout le monde. Certains estiment qu'OpenAI ne dispose pas actuellement des moyens pour le faire. Selon d'autres critiques, pour entraîner un tel modèle OpenAI aurait besoin d'environ 74 000 GPU Nvidia H100 et, bien que cela soit improbable, ils estiment que c'est peut-être réalisable avec l'argent de Microsoft. La rumeur a également attiré l'attention d'autres experts, dont Bojan Tunguz, ingénieur logiciel chez Nvidia. « Dernières nouvelles : OpenAI a obtenu une AGI en interne », a déclaré Bojan dans un message sur X le mois dernier.

OpenAI n'a pas commenté la rumeur selon laquelle elle travaillerait sur un modèle d'IA proche d'une d'AGI. Toutefois, Sam Altman, PDG d'OpenAI, a récemment laissé entendre sur Reddit que l'entreprise avait atteint une forme d'AGI. « L'intelligence générale artificielle a été atteinte en interne », a-t-il déclaré. Mais cette déclaration a rapidement suscité un tollé et il a ensuite nuancé ses propos. Altman a ajouté : « de toute évidence, il s'agit juste d'un mème, vous n'avez pas froid aux yeux, lorsque l'AGI sera réalisée, elle ne sera pas annoncée par un commentaire sur Reddit ». Certains ont fait un rapprochement avec les allégations de Jimmy_Apples.

Les références à l'AGI suscitent généralement beaucoup de réactions en raison du fait qu'il s'agit d'un sujet sensible. Eden Zoller, analyste en chef de l'IA appliquée chez Omdia, une entreprise britannique spécialisée dans l'analyse stratégique concernant l'industrie des réseaux et des télécommunications, a fait remarquer que même si l'AGI n'est pas mauvaise en soi, elle a la capacité, en l'absence d'un alignement solide et de restrictions, d'amplifier les risques et les dommages, ce qui pourrait potentiellement conduire à des risques extrêmes. Les modèles de fondation avancés et les entreprises qui les construisent font donc l'objet d'un examen minutieux.

There has been a rumor that OpenAI has achived AGI internally.

The source of the rumors is Jimmy Apples.

I conducted an investigation.

Conclusion: Jimmy Apples is a credible insider.

Here is my report:https://t.co/AZFBbr1vVW

— Percy Otebay (@Radlib4) September 28, 2023

Selon certains, une fois créée, l'AGI se rendra compte rapidement qu'il serait préférable qu'il n'y ait plus d'humains, car ces derniers pourraient décider de l'éteindre. Il s'agit d'un scénario dystopique perpétuant les craintes apocalyptiques illustrées dans les films tels que la franchise Terminator. Nick Bostrom, de l'université d'Oxford, a évoqué ce scénario hypothétique dans son ouvrage de référence, Superintelligence, dans lequel il décrit les risques existentiels liés à l'AGI. L'une des expériences de pensée par Bostrom implique une IA hors de contrôle qui détruit l'humanité bien qu'elle ait été conçue pour poursuivre des objectifs apparemment inoffensifs.

Connue sous le nom de Paperclip Maximiser, l'expérience décrit une IA dont le seul but est de fabriquer autant de trombones que possible. « Le corps humain contient beaucoup d'atomes pouvant être transformés en trombones. L'avenir vers lequel l'IA essaierait de s'orienter serait un avenir où il y aurait beaucoup de trombone, mais pas d'humains », écrit le professeur Bostrom. À la suite du message d'Altman sur Reddit, Will Depue, chercheur à OpenAI, a publié sur X une image générée par l'IA avec la légende : « dernières nouvelles : les bureaux de l'OpenAI débordent de trombones ! ». Certains estiment toutefois qu'il y a des discussions plus urgentes.

Le nom Arrakis provient du roman Dune de Frank Herbert. Arrakis est le nom de la planète désertique fictive. Dans l'univers du livre, une IA a pris le dessus sur l'humanité et lui a interdit de construire quoi que ce soit qui s'apparente à la technologie.

Et vous ?

Quel est votre avis sur le sujet ?
La rumeur selon laquelle OpenAI a atteint une forme d'AGI est-elle fondée ?
Comment expliquez-vous toute l'agitation qui entoure l'AGI ? Est-ce un buzzword ?
Sommes-nous en mesure de construire une forme d'intelligence générale artificielle ?
Quels pourraient être les impacts d'une telle technologie sur l'humanité ?
Quel est votre avis sur les risques existentiels évoqués par certains experts en IA ?
Quid des scénarios dystopiques imaginés par certains experts en IA ?

Voir aussi

Comment saurons-nous que nous avons atteint une forme d'intelligence générale artificielle ? Pour certains experts en IA, ce sera lorsque la machine aura une cognition de niveau humain

The Creator : ce film fait une utilisation innovante de la technologie du cinéma et propose une autre perspective au regard porté sur les IA, il pourrait contribuer à un changement dans l'industrie

La plupart des détecteurs d'IA sont incapables de déterminer si un courriel de phishing a été rédigé par un robot, d'après la plateforme de sécurité de messagerie Egress