La promesse visant à créer une IA responsable et centrée sur les valeurs humaines pourrait n'être rien d'autre que de la poudre aux yeux. C'est du moins ce qu'a laissé entendre Dave Lee, chroniqueur technologique américain de Bloomberg Opinion, dans une analyse du chaos au sein d'OpenAI. Il explique que contrairement aux apparences, les événements qui ont suivi l'éviction de Sam Altman de son poste de PDG d'OpenAI ont révélé qu'il était beaucoup plus préoccupé par la satisfaction des actionnaires que par le développement d'une IA qui profitera à l'humanité. Il affirme qu'Altman n'est plus qu'un dirigeant d'une grande entreprise technologique comme d'autres PDG.Altman ne serait qu'un autre dirigeant de la technologie à la quête de profits
Évincé de son poste de PDG par le conseil d'administration d'OpenAI vendredi, Sam Altman, 38 ans, a trouvé rapidement refuge chez Microsoft où il est attendu pour diriger une nouvelle équipe de recherche sur l’IA. Le cofondateur de Twitch Emmett Shear, quant à lui, a confirmé sa nomination en tant que nouveau PDG d'OpenAI. Il succède à Mira Murati, directrice technique, qui a été la PDG par intérim pendant environ deux jours. Quoi qu'il en soit, les choses sont allées si vite que jusqu'à présent, les raisons exactes à l'origine de l'éviction d'Altman par le conseil d'administration restent inconnues ; toute la communication autour est ambigüe.
Dans son analyse de la situation, Dave Lee fait remarquer que les récents événements au sein d'OpenAI ont tout de même le mérite d'avoir révélé qu'OpenAI, en particulier Altman, servait davantage l'agenda des actionnaires au lieu de développer une IA au service de l'humanité comme il l'avait promis. « En tant qu'employé de Microsoft, Altman aura beaucoup plus de mal à convaincre le monde et les régulateurs qu'il travaille pour le bien de l'humanité, et non pour celui des actionnaires. Il n'est plus qu'un dirigeant de Big Tech comme les autres. Mais ne nous voilons pas la face, il l'a toujours été », a déclaré Lee dans un article d'opinion publié lundi.
Selon le chroniqueur, en se dépêchant pour embaucher Altman, la préoccupation immédiate du PDG de Microsoft, Satya Nadella, n'est pas de savoir comment rétablir des contrôles et des équilibres éthiques dans le développement de l'IA, mais plutôt de savoir la vitesse à laquelle tout le monde peut se remettre au travail pour développer l'IA. D'autres analystes pensent que Nadella s'est pressé pour trouver un poste à Altman chez Microsoft pour empêcher les concurrents de faire des offres à l'ex-PDG d'OpenAI. D'ailleurs, Khosla Ventures, l'un des principaux investisseurs d'OpenAI, s'est déjà dit prêt à soutenir la prochaine entreprise d'Altman.
Mais si Altman est chez Microsoft, il est peu probable que cela arrive. « Plus de 500 employés d'OpenAI menacent de quitter le navire et de le rejoindre. Satya Nadella doit penser qu'il rêve : en l'espace d'un week-end mouvementé, il est passé d'une situation où l'investissement de 10 milliards de dollars de l'entreprise dans OpenAI était menacé à une situation où il a réussi à renforcer la position du géant du logiciel dans le secteur de l'IA. Les investisseurs sont d'accord, et les actions de la société basée à Redmond, dans l'État de Washington, ont atteint un niveau record », a déclaré Lee. Microsoft a une grande longueur d'avance sur les autres investisseurs.
Les employés d'OpenAI ont adressé au reste du conseil d'administration une lettre ouverte dans laquelle ils réclament sa démission et le retour d'Altman. Dans le cas contraire, ils démissionneront et rejoindront Altman chez Microsoft. Selon les derniers décomptes, la lettre avait été signée par plus de 95 % des employés. Dans la lettre, les employés insistent sur le fait qu'ils démissionneront si les membres restants du conseil d'administration ne le font pas, si de nouveaux membres du conseil d'administration ne sont pas nommés et si Altman n'est pas réintégré. Selon certains employés, un climat de chaos règnerait au sein de l'entreprise.
Greg Brockman, cofondateur d'OpenAI, a été également démis de ses fonctions de président du conseil d'administration, après quoi il a rapidement démissionné. Il a été embauché par Microsoft en même temps qu'Altman. Selon Lee, si les employés d'OpenAI les suivent, Microsoft aura réussi l'acquisition la plus stupéfiante de l'histoire de la Silicon Valley. Ben Thompson, un analyste, a déclaré : « Microsoft vient d'acquérir OpenAI en dépensant zéro dollar et ne risque aucun procès antitrust ».
IA responsable : un simple battage médiatique de la part des organisations ?
Selon Lee, Altman a exposé à tous la supercherie derrière l'engagement des principaux acteurs de la course à l'IA à développer une IA responsable. Pour faire simple, l'IA responsable est une pratique qui consiste à concevoir, développer et déployer l'IA avec de bonnes intentions afin de responsabiliser les employés et les entreprises, et d'avoir un impact équitable sur les clients et la société. Cela permet aux entreprises de susciter la confiance et de développer l'IA en toute confiance. Microsoft, par exemple, a défini six principes qui régissent une IA responsable : équité, fiabilité et sécurité, confidentialité et sécurité, inclusion, transparence et responsabilité.
Mais d'après Lee, l'IA responsable qui profite à l'humanité n'est pas la préoccupation première de Microsoft ni celle des autres acteurs de la course à l'IA. Il est soutenu par plusieurs critiques. « Enfin ! Quelqu'un l'a dit clairement. Altman n'est qu'un autre "cadre de la technologie" qui cherche à se faire de l'argent, à lui et à ses copains, sur le dos de véritables chercheurs révolutionnaires. Les titres comme "Helping Humanity with AGI" n'étaient que des salades », a écrit un critique. Un autre a souligné que cela était visible depuis au moins 2019, année où OpenAI a abandonné son statut d'organisation à but non lucratif et est devenu une entreprise très fermée.
L'on ignore les raisons exactes à l'origine de la décision du conseil d'administration d'OpenAI. Toutefois, la rumeur indique qu'Altman et Ilya Sutskever, cofondateur et scientifique en chef d'OpenAI, sont en désaccord sur la rapidité de la commercialisation de l'IA générative et sur la manière de réduire les éventuels préjudices pour le public ; ce désaccord aurait atteint son paroxysme lors de la toute première journée des développeurs d'OpenAI qui a eu lieu ce mois-ci. À l'échelle de l'industrie, cela reflète une divergence d'opinions fondamentale sur la sécurité entre deux camps qui développent l'IA et qui réfléchissent à ses impacts potentiels sur la société.
D'un côté, il y a ceux qui, comme Altman, pensent que le développement rapide et, surtout, le déploiement public de l'IA sont essentiels pour tester et perfectionner la technologie. De l'autre côté, certains chercheurs affirment que la voie la plus sûre consiste à développer et à tester l'IA en laboratoire pour s'assurer qu'elle est propre à la consommation humaine. Ces derniers craignent que les logiciels d'IA deviennent incontrôlables et conduisent à une catastrophe, ce qui inquiète les travailleurs de la technologie qui suivent un mouvement social appelé "altruisme efficace" et qui pensent que les progrès dans le domaine de l'IA devraient profiter à l'humanité.
Sutskever fait partie de ceux qui partagent ces craintes, tandis qu'Altman serait favorable à une commercialisation plus rapide de l'IA. D'ailleurs, les rapports indiquent que Sutskever a joué le rôle de meneur dans la décision brutale d'évincer Altman, exploitant ce désaccord stratégique. Toutefois, évoquant le départ d'Altman dans un communiqué, le conseil d'administration a simplement déclaré : « son départ fait suite à un processus d’examen délibéré par le conseil d’administration, qui a conclu qu’il n’était pas toujours franc dans ses communications avec le conseil d’administration, ce qui a empêché ce dernier d’exercer ses responsabilités ».
« Je pense que les gens n'ont pas encore réalisé que toute cette histoire de sécurité de l'IA est une fumisterie. Ce n'est qu'un voile de plus, comme l'altruisme efficace, pour obtenir de bonnes relations publiques et faire carrière. Les seules personnes qui croient vraiment à cette histoire de sécurité de l'IA sont celles qui n'ont aucune connaissance ou expertise technique », a écrit un autre critique à propos des déclarations des entreprises sur la nécessité de développer une IA responsable.
Altman est soutenu par un puissant groupe d'investisseurs en capital-risque
« Le conseil d'administration plus prudent a pu penser, peut-être naïvement, que les freins et contrepoids intégrés dans la structure de gouvernance unique d'OpenAI - un conseil d'administration à but non lucratif supervisant une entité à but lucratif - lui donneraient la capacité de tempérer les instincts d'Altman. Ils se sont trompés, et au moins l'un d'entre eux, le scientifique en chef et cofondateur Ilya Sutskever, dit aujourd'hui regretter d'avoir plongé l'entreprise dans le désarroi », écrit Lee. Il a déclaré qu'OpenAI n'est pas différent des géants de la Tech qui l'ont précédé. Le soutien dont bénéficie Altman semble lié à l'agenda des investisseurs.
Au cours de l'année écoulée, beaucoup se sont sentis rassurés (bien que perplexes) par le fait que Altman, contrairement aux fondateurs qui l'ont précédé, ne détenait pas d'actions dans OpenAI. La raison invoquée était d'éliminer tout sentiment que l'appât du gain était le facteur motivant la recherche de profits, tout en soumettant Altman à ce qui avait été considéré comme un niveau de responsabilité plus élevé que la normale. « Il s'est avéré que rien de tout cela n'avait d'importance : malgré les avertissements successifs, les événements de ce week-end prouvent que le culte du fondateur est bien vivant dans la Silicon Valley », note le chroniqueur.
D'après Lee, ce week-end, nous avons peut-être vu une autre facette de cet homme de 38 ans, un soupçon d'arrogance qui laisse entrevoir la dynamique qui règne au sein du conseil d'administration d'OpenAI. En visite dans les bureaux de l'entreprise dimanche, Altman a pris le temps de partager sur les médias sociaux une photo de lui avec un badge destiné aux visiteurs d'OpenAI. « Cette photo, ainsi que les rapports faisant état de "délais" réguliers pour que le conseil d'administration réponde à ses exigences suggèrent un homme qui a vraiment l'impression d'être OpenAI, plutôt qu'une personne travaillant pour l'entreprise », a fait remarquer Lee.
Dans une interview avec CNBC lundi, Nadella a déclaré que ce type de changement brutal, notamment l'éviction d'Altman, était inacceptable. Interrogé sur la nécessité pour Microsoft de siéger au conseil d'administration d'OpenAI, il n'a pas répondu par l'affirmative, mais a affirmé que les choses doivent changer. Nadella a déclaré : « il est clair que quelque chose doit changer au niveau de la gouvernance. Nous aurons un bon dialogue avec leur conseil d'administration à ce sujet, et nous suivrons l'évolution de la situation ». D'un autre côté, certains investisseurs d'OpenAI envisageraient de poursuivre en justice le conseil d'administration de la société.
Des sources au fait de ces discussions ont déclaré que les investisseurs travaillent avec des conseillers juridiques pour étudier leurs options. Il n'a pas été précisé dans l'immédiat si ces investisseurs allaient poursuivre OpenAI en justice. Les investisseurs craignent de perdre des centaines de millions de dollars qu'ils ont investis dans OpenAI, un joyau de la couronne dans certains de leurs portefeuilles, avec l'effondrement potentiel de la startup la plus en vue dans le secteur en pleine croissance de l'IA générative. Les sources familières avec le dossier indiquent que Microsoft détient jusqu'à 49 % de la société d'exploitation à but lucratif d'OpenAI.
D'autres investisseurs et employés contrôlent 49 %, et 2 % appartiennent à la société mère à but non lucratif d'OpenAI. Les investisseurs en capital-risque détiennent généralement des sièges au conseil d'administration ou des droits de vote dans les entreprises de leur portefeuille. Mais ce n'est pas le cas avec OpenAI. Le laboratoire d'IA est contrôlé par sa société mère à but non lucratif qui, selon le site Web d'OpenAI, a été créée pour bénéficier à "l'humanité, et non aux investisseurs d'OpenAI". Cependant, cet argument a été remis en cause au cours de ces dernières années, des critiques exacerbées par les événements de ces derniers jours.
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous des allégations du chroniqueur technologique ? Sam Altman n'est-il qu'un dirigeant de Big Tech comme les autres ? Que pensez-vous des promesses visant à développer une IA responsable ? Ces promesses ne sont-elles qu'un battage médiatique ou une vaste fumisterie ? Que pensez-vous du soutien des investisseurs d'OpenAI à l'ancien PDG Sam Altman ? Pensez-vous qu'OpenAI développe l'IA pour qu'elle profite à l'humanité comme il le prétend ? Altman a-t-il été évincé parce qu'il défendait plus les intérêts des investisseurs que la vision d'OpenAI ? Que vous inspirent les événements qui ont lieu depuis quelques jours au sein d'OpenAI ?Voir aussi
Les investisseurs d'OpenAI envisagent de poursuivre le conseil d'administration après le licenciement brutal du PDG, Sam Altman Sam Altman s'efforcerait toujours de redevenir le PDG d'OpenAI et Satya Nadella, PDG de Microsoft, appelle à des changements clés dans la gouvernance de la startup d'IA Le conseil d'administration d'OpenAI a retardé la promesse de l'IA en imposant des restrictions et des contrôles sur les projets estime Vinod Khosla, l'un des premiers investisseurs 
Envoyé par kmedghaith
