OpenAI est en pourparlers pour supprimer une disposition qui exclut Microsoft de ses modèles les plus avancés lorsque la start-up parvient à « l'intelligence artificielle générale », dans le but de débloquer des milliards de dollars d'investissements futurs. Selon les termes actuels, lorsqu'OpenAI parviendra à créer l'IAG (définie comme un « système hautement autonome qui surpasse les humains dans la plupart des tâches économiquement utiles »), l'accès de Microsoft à cette technologie serait annulé. Le conseil d'administration de l'OpenAI déterminerait le moment où l'IAG serait atteint. Selon des analystes, le fait que Sam Altman revoit à la baisse les attentes en matière d'intelligence artificielle générale était déjà le signal indiquant qu'en interne cette posture se préparait à être adoptée.Un partenariat stratégique, mais contraignant
Depuis 2019, OpenAI bénéficie d’un soutien financier et technologique considérable de Microsoft. Ce partenariat a permis à OpenAI de développer ses modèles avancés, notamment GPT-4 et DALL·E, tout en s’appuyant sur l’infrastructure cloud Azure de Microsoft. Cependant, la clause dite "IAG" stipulait que les développements visant l'intelligence artificielle générale devaient prioritairement être alignés sur des objectifs de bénéfice pour l'humanité. Cela limitait, en théorie, l’autonomie d’OpenAI pour diversifier ses investisseurs ou orienter certains de ses projets.
La décision de supprimer cette clause pourrait être perçue comme une manière de lever ces barrières, ouvrant ainsi la voie à de nouveaux financements et à une indépendance accrue. Mais à quel prix ?
La quête de l’investissement : un double tranchant
En abandonnant cette clause, OpenAI cherche à séduire des investisseurs au-delà de Microsoft et à garantir une plus grande flexibilité stratégique. Toutefois, cette décision pourrait renforcer la perception que la mission originelle d’OpenAI (celle de veiller à un développement éthique et contrôlé de l’IA) est reléguée au second plan. Le risque ici est que la recherche de profits ou de domination technologique prime sur l'engagement éthique initial.
Envoyé par OpenAI
Notre mission est de veiller à ce que l'intelligence artificielle générale - des systèmes d'intelligence artificielle généralement plus intelligents que les humains - profite à l'ensemble de l'humanité.
Si l'IAG est créée avec succès, cette technologie pourrait nous aider à élever l'humanité en augmentant l'abondance, en donnant un coup de fouet à l'économie mondiale et en contribuant à la découverte de nouvelles connaissances scientifiques qui repoussent les limites du possible.
L'IAG a le potentiel de donner à chacun d'incroyables nouvelles capacités ; nous pouvons imaginer un monde où chacun d'entre nous aurait accès à de l'aide pour presque toutes les tâches cognitives, ce qui multiplierait considérablement la force de l'ingéniosité et de la créativité humaines.
D'un autre côté, l'AGI s'accompagnerait également d'un risque sérieux de mauvaise utilisation, d'accidents graves et de perturbations sociétales. Étant donné que l'AGI présente des avantages considérables, nous ne pensons pas qu'il soit possible ou souhaitable pour la société d'arrêter définitivement son développement ; au contraire, la société et les développeurs de l'AGI doivent trouver le moyen de bien faire les choses.
Si l'IAG est créée avec succès, cette technologie pourrait nous aider à élever l'humanité en augmentant l'abondance, en donnant un coup de fouet à l'économie mondiale et en contribuant à la découverte de nouvelles connaissances scientifiques qui repoussent les limites du possible.
L'IAG a le potentiel de donner à chacun d'incroyables nouvelles capacités ; nous pouvons imaginer un monde où chacun d'entre nous aurait accès à de l'aide pour presque toutes les tâches cognitives, ce qui multiplierait considérablement la force de l'ingéniosité et de la créativité humaines.
D'un autre côté, l'AGI s'accompagnerait également d'un risque sérieux de mauvaise utilisation, d'accidents graves et de perturbations sociétales. Étant donné que l'AGI présente des avantages considérables, nous ne pensons pas qu'il soit possible ou souhaitable pour la société d'arrêter définitivement son développement ; au contraire, la société et les développeurs de l'AGI doivent trouver le moyen de bien faire les choses.
La clause a été incluse pour protéger la technologie potentiellement puissante d'une utilisation abusive à des fins commerciales
La start-up envisage de supprimer la stipulation de sa structure d'entreprise, ce qui permettrait au groupe Big Tech de continuer à investir dans la technologie OpenAI et d'y accéder après la réalisation de l'IAG, selon plusieurs personnes au fait des discussions. La décision finale n'a pas encore été prise et le conseil d'administration étudie actuellement les différentes options possibles, ont-elles ajouté.
La clause a été incluse pour protéger la technologie potentiellement puissante d'une utilisation abusive à des fins commerciales, en donnant la propriété de la technologie à son conseil d'administration à but non lucratif. Selon le site web d'OpenAI : « L'IAG est explicitement exclue de tous les accords de licence commerciale et de propriété intellectuelle ».
Mais cette disposition risque de limiter la valeur de son partenariat pour Microsoft, qui a injecté plus de 13 milliards de dollars dans OpenAI, et pourrait dissuader le groupe Big Tech d'investir davantage.
Des fonds supplémentaires seront nécessaires compte tenu des coûts exorbitants qu'implique le développement de modèles d'IA avancés dans une course contre des rivaux au portefeuille bien garni tels que Google et Amazon.
Le groupe de San Francisco dirigé par Sam Altman, qui a récemment été évalué à 150 milliards de dollars, est en train de se restructurer pour devenir une société d'utilité publique. Cette décision marque une rupture avec ses origines de laboratoire de recherche à but non lucratif.
Des discussions sur les nouvelles conditions avec les investisseurs
Dans le cadre de ces changements, OpenAI discute de nouvelles conditions avec les investisseurs, y compris avec son principal actionnaire, Microsoft, selon plusieurs personnes au courant de ces conversations. « Lorsque nous avons commencé, nous n'avions aucune idée que nous allions devenir une entreprise de produits ou que le capital dont nous avions besoin serait si important », a déclaré Altman lors d'une conférence organisée par le New York Times mercredi. « Si nous avions su cela, nous aurions choisi une structure différente ».
« Nous avons également dit que notre intention était de considérer l'IAG comme une borne kilométrique sur le chemin. Nous nous sommes laissé une certaine marge de manœuvre parce que nous ne savons pas ce qui va se passer », a ajouté Altman, qui pourrait recevoir pour la première fois une participation directe au capital d'OpenAI dans le cadre de la restructuration.
De plus en plus, les membres de l'OpenAI s'éloignent de la définition de l'IAG comme un point unique, soulignant plutôt qu'il s'agit d'un processus continu et qu'il sera défini par la société dans son ensemble.
OpenAI a commencé à lever des capitaux extérieurs en 2019, recevant cette année-là un investissement de 1 milliard de dollars de la part de Microsoft. À l'époque, la société a déclaré qu'elle avait l'intention « d'accorder une licence à Microsoft pour certaines de nos technologies pré-IAG » afin de couvrir les coûts de développement de l'IA de pointe.
OpenAI a conseillé aux bailleurs de fonds d'envisager leurs investissements « dans l'esprit d'un don, en sachant qu'il peut être difficile de savoir quel rôle jouera l'argent dans un monde post-IAG ». Mais son évolution constante vers une entité à but lucratif a suscité de vives critiques de la part de ses rivaux, notamment d'Elon Musk, l'un des premiers bailleurs de fonds et cofondateur d'OpenAI. Le chef milliardaire de Tesla, qui a depuis fondé une start-up rivale, xAI, a récemment intenté une action en justice contre OpenAI et Microsoft, accusant Altman de « tromperie aux proportions shakespeariennes » et cherchant à annuler son partenariat commercial avec Microsoft.
Dans le cadre de la restructuration proposée, le fabricant de ChatGPT conservera également une entité indépendante à but non lucratif, qui détiendra une participation dans la nouvelle société d'intérêt public et potentiellement un trust, selon des personnes au fait des discussions. L'entité à but non lucratif aurait accès à la recherche et à la technologie, mais se concentrerait uniquement sur la poursuite de la mission d'OpenAI, qui est de bénéficier à l'humanité.
OpenAI a refusé de commenter les détails des négociations autour de la restructuration, mais Bret Taylor, président du conseil d'administration d'OpenAI, a déclaré que le conseil d'administration de l'organisation à but non lucratif « s'attache à remplir son obligation fiduciaire en veillant à ce que l'entreprise soit bien positionnée pour continuer à faire avancer sa mission, qui consiste à faire en sorte que l'IAG profite à l'ensemble de l'humanité ».
Il a ajouté : « Bien que notre travail se poursuive et que nous continuions à consulter des conseillers financiers et juridiques indépendants, toute restructuration potentielle garantirait que l'association à but non lucratif continue d'exister et de prospérer, et qu'elle reçoive la pleine valeur de sa participation actuelle dans l'entreprise à but lucratif OpenAI, avec une capacité accrue de poursuivre sa mission. »
Un tournant dans la gouvernance d’OpenAI
Cette évolution reflète également un glissement dans la gouvernance de l’organisation. OpenAI, à l’origine une organisation à but non lucratif, s’est transformée en 2019 en une entité "for-profit", mais avec des limites de rendement ("capped profit"). Cette transition avait déjà suscité des débats sur la compatibilité entre rentabilité et impact social.
Aujourd’hui, le choix de modifier sa relation contractuelle avec Microsoft marque une étape supplémentaire vers une logique plus commerciale. Cela pose une question fondamentale : OpenAI peut-elle concilier son rôle de pionnier technologique et sa responsabilité éthique dans un cadre fortement dicté par des considérations de marché ?
Sources : vidéo dans le texte, OpenAI
Et vous ?
Quelle analyse faites-vous de l'étude de la suppression de la clause IAG ? Compromettrait-elle, selon vous, l'engagement d'OpenAI envers une IA bénéfique pour l'humanité ? Pourquoi ? La dépendance envers un partenaire majeur comme Microsoft est-elle une force ou une faiblesse pour OpenAI dans sa quête d’autonomie ? Selon vous, qui devrait être responsable de la gouvernance des technologies liées à l’IAG : des entreprises privées, des gouvernements, ou des organismes indépendants ? 
