Le retour de Sam Altman en tant que PDG d'OpenAI suscite de nouvelles craintes quant à l'apocalypse de l'IA,

Les critiques craignent qu'OpenAI soit plus axé sur le profit que sur la sécurité de l'IA

Le retour de Sam Altman à la tête d'OpenAI est considéré comme une victoire éclatante pour les entreprises et les investisseurs qui souhaitent commercialiser l'IA le plus rapidement possible. Selon les observateurs, cela pourrait être le signe d'un abandon de l'idéalisme académique, plus axé sur la sécurité de l'IA, au profit d'un plus grand pragmatisme commercial. Ils suggèrent que l'arrivée de Microsoft, principal bailleur de fonds d'OpenAI qui mise énormément sur l'IA pour son avenir, au conseil d'administration pourrait conduire à un déploiement accéléré et anarchique de l'IA en vue d'engranger des bénéfices. Cela suscite de nouvelles craintes quant à l'apocalypse de l'IA.

L'ancien conseil d'administration d'OpenAI a été impuissant face à Sam Altman

Limogé par le conseil d'administration d'OpenAI le 17 novembre, Sam Altman a retrouvé son ancien poste de PDG le 22 novembre. Son exil en dehors d'OpenAI n'aura duré que cinq jours et l'on ne sait toujours pas ce qui a conduit à ce chaos momentané. L'annonce de l'éviction d'Altman indique qu'il n'a pas toujours été franc dans ses communications avec le conseil d'administration, ce qui a empêché ce dernier d'exercer ses responsabilités. Toutefois, son retour a précipité le départ de la plupart des membres de l'ancien conseil d'administration, à l'exception d'Adam D’Angelo, PDG de Quora, qui conserve sa place au sein du nouveau conseil d'administration.

i love openai, and everything i’ve done over the past few days has been in service of keeping this team and its mission together. when i decided to join msft on sun evening, it was clear that was the best path for me and the team. with the new board and w satya’s support, i’m…

— Sam Altman (@sama) November 22, 2023

Selon les observateurs, cela montre que le conseil d'administration n'avait pas de réel pouvoir sur Altman comme il le prétendait. En fait, le conseil d'administration de l'entreprise est indépendant des opérations d'OpenAI et lié à une déclaration de mission selon laquelle "OpenAI développe l'IA pour le bien de l'humanité". OpenAI lui-même est structuré d'une manière peu conventionnelle : il y a en effet une organisation à but non lucratif originelle (OpenAI inc.) qui est la société mère d'une filiale à but lucratif plafonné (OpenAI LP). Pour Altman, cette structure presque inédite constitue un coupe-feu contre le développement irresponsable d'une IA puissante.

Lors de son tour du monde cette année, Altman a déclaré à qui voulait l'entendre que le conseil d'administration pouvait le contrôler, ainsi que d'autres dirigeants de la société. S'il commençait à agir dangereusement ou contre les intérêts de l'humanité, le conseil d'administration pourrait l'éjecter. « Le conseil d'administration peut me renvoyer, je pense que c'est important », a déclaré Altman à Bloomberg en juin. Cependant, à la lumière des récents événements, plusieurs analystes affirment qu'il ne s'agissait que d'une farce et que son retour presque "triomphale" montre qu'Altman était là pour protéger les intérêts d'un certain nombre d'investisseurs.

« Il s'est avéré qu'ils ne pouvaient pas le renvoyer, et c'était une mauvaise chose », déclare Toby Ord, chercheur principal en philosophie à l'université d'Oxford, et l'une des principales figures qui pensent que l'IA pourrait représenter une menace existentielle pour l'humanité. Le nouveau conseil d'administration est composé de figures de l'establishment de la Tech et de l'ancien secrétaire américain au Trésor Larry Summers. Les deux seules femmes, qui sont associées au mouvement appelé "altruisme efficace" ont été retirées du conseil d'administration. Cette décision a cristallisé les clivages existants sur la manière dont l'avenir de l'IA devrait être gouverné.

« Dans une certaine mesure, il s'agissait d'une trajectoire de collision qui avait été fixée depuis longtemps. S'il est vrai que le conseil d'administration à but non lucratif d'OpenAI était impuissant à affecter réellement son comportement, alors je pense que le fait d'exposer qu'il était impuissant était probablement une bonne chose », a déclaré Ord, qui est également considéré comme le cofondateur du mouvement de l'altruisme efficace, dont certaines parties sont devenues obsédées par l'extrémité la plus sombre du spectre des risques liés à l'IA. Par exemple, selon des sources internes à la société, c'est le cas du scientifique en chef OpenAI Ilya Sutskever.

Altman protègerait les intérêts des investisseurs et s'inquiète peu de la sécurité

Quelques heures après leur licenciement, Altman et Greg Brockman, membre de l'ancien conseil d'administration, ont trouvé refuge chez Microsoft. L'entreprise a déclaré qu'elle créerait un nouveau laboratoire d'IA qui accueillera les deux hommes. En outre, Microsoft s'est engagé à embaucher le reste de l'équipe d'OpenAI. On ne saura jamais s'il s'agissait ou non d'un projet sérieux. Cela dit, il a conféré à Altman un énorme pouvoir lors de la négociation de son retour à OpenAI. Le 20 novembre, alors que ces négociations étaient en cours, Satya Nadella, PDG de Microsoft, a déclaré : « indépendamment de l'endroit où Sam se trouve, il travaille avec Microsoft ».

We are encouraged by the changes to the OpenAI board. We believe this is a first essential step on a path to more stable, well-informed, and effective governance. Sam, Greg, and I have talked and agreed they have a key role to play along with the OAI leadership team in ensuring… https://t.co/djO6Fuz6t9

— Satya Nadella (@satyanadella) November 22, 2023

Le manque de communication d'OpenAI au milieu de tout ce chaos a donné lieu à de nombreuses rumeurs. Selon l'une d'entre elles, Altman consacrait trop de temps à des projets secondaires ou qu'il était trop déférent à l'égard de Microsoft. Il a également nourri des théories du complot, comme l'idée que l'OpenAI avait créée l'AGI et que le conseil d'administration avait appuyé sur le bouton d'arrêt sur les conseils de Sutskever. Mais David Shrier, professeur d'IA et d'innovation à l'Imperial College Business School de Londres, a balayé ces spéculations d'un revers de la main en déclarant : « ce que je sais avec certitude, c'est que nous n'avons pas l'AGI ».

Shrier, pense plutôt que les récents...