Le conseil d'administration d'OpenAI, composé de six membres, décidera « quand nous aurons atteint l'IAG »

Que la société définit comme « un système hautement autonome qui surpasse les humains »

OpenAI a annoncé la formation d’un conseil d’administration de six membres qui aura le pouvoir de décider quand l’organisation aura atteint son objectif ultime: l’intelligence artificielle générale (IAG), que l'entreprise définit comme « un système hautement autonome qui surpasse les humains dans le travail le plus économiquement rentable ». Grâce à une branche à but lucratif qui est « légalement tenue de poursuivre la mission de l'organisation à but non lucratif », une fois que le conseil d'administration aura décidé que l'IAG a été atteinte, un tel système sera « exclu des licences de propriétés intellectuelles et autres conditions commerciales avec Microsoft », qui ne s’appliquent qu’à la technologie pré-IAG.

L'IAG est le niveau d’intelligence artificielle qui peut accomplir n’importe quelle tâche intellectuelle qu’un humain peut faire. Bien que les chercheurs peinent à trouver une définition universelle, il s’agit d’un objectif ambitieux et controversé, qui soulève de nombreuses questions tant éthiques et sociales que techniques. Certains experts estiment que l’IAG est impossible à atteindre, tandis que d’autres prédisent qu’elle pourrait se produire dans les prochaines décennies.

OpenAI considère que l’IAG est une technologie potentiellement révolutionnaire, mais aussi très risquée, qui nécessite une gouvernance et une supervision rigoureuses. C’est pourquoi OpenAI a mis en place un conseil d’administration composé de six membres, qui a le pouvoir de décider quand l’organisation a atteint l’IAG (en se basant sur des critères objectifs et mesurables) et comment elle doit la gérer. Le conseil d’administration a la responsabilité de définir la vision, la stratégie et les principes d’OpenAI, ainsi que d’approuver les projets, les budgets et les embauches.

Selon la structure d’OpenAI, l’IAG est exclue des licences de propriété intellectuelle et des autres termes commerciaux avec Microsoft, qui ne s’appliquent qu’à la technologie pré-IAG.


La branche à but lucratif est soumise à la mission à but non lucratif d'OpenAI

L'information a été incluse dans un fil de discussion sur X ce week-end par Logan Kilpatrick, Developer Relations pour le compte d'OpenAI. Kilpatrick répondait à un commentaire du président de Microsoft, Brad Smith, qui, lors d'un récent panel avec le scientifique en chef de Meta, Yann LeCun, a tenté de présenter OpenAI comme étant plus fiable en raison de son statut « à but non lucratif » (même si le Wall Street Journal a récemment rapporté qu'OpenAI recherche une nouvelle valorisation pouvant atteindre 90 milliards de dollars dans le cadre d'une vente d'actions existantes).

Smith a déclaré : « Meta appartient aux actionnaires. OpenAI appartient à une organisation à but non lucratif. En quoi auriez-vous le plus confiance ? Obtenir votre technologie auprès d’une entreprise à but non lucratif ou à but lucratif entièrement contrôlée par un seul être humain*?*»

[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">"Meta is owned by shareholders. OpenAI is owned by a non-profit. Which would you have more confidence in? Getting your technology from a non-profit or a for profit company that is entirely controlled by one human being" -- Brad Smith, Microsoft <br><br>... absolutely ridiculous <a href="https://t.co/ubpblmdut5">pic.twitter.com/ubpblmdut5</a></p>— martin_casado (@martin_casado) <a href="https://twitter.com/martin_casado/status/1723112508234539270?ref_src=twsrc%5Etfw">November 10, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]

Dans son fil de discussion, Kilpatrick a cité la page « Notre structure » sur le site Web d’OpenAI, qui offre des détails sur la structure complexe à but non lucratif/à profit plafonné d’OpenAI. Selon la page, la filiale à but lucratif d’OpenAI est « entièrement contrôlée » par l’organisation à but non lucratif OpenAI (qui est enregistrée dans le Delaware). Alors que la filiale à but lucratif OpenAI Global, LLC – qui semble avoir quitté la société en commandite OpenAI LP, précédemment annoncée en 2019, environ trois ans après la création de l'organisation à but non lucratif OpenAI originale – est « autorisée à réaliser et à distribuer des bénéfices, » elle est soumise à la mission de l'association....