Sam Altman a déclaré que le contrôle de l'IA est la question urgente de notre époque et que l'humanité doit faire face à un choix stratégique. Il a détaillé les mesures que les secteurs privé et public devraient prendre pour s'assurer que l'IA démocratique l'emporte sur l'IA autoritaire. Il a rappelé que le président russe Vladimir Poutine a déclaré que le vainqueur de la course à l'IA deviendra "le maître du monde" et que la Chine prévoit d'être le leader mondial de l'IA d'ici à 2030. Pourtant, Sam Altman lève des fonds auprès des monarchies du Moyen-Orient et est accusé d'avoir cherché à prendre en otage la réglementation sur l'IA pour qu'OpenAI règne en maître.Sam Altman : l'IA démocratique doit coûte que coûte l'emporter sur l'IA autoritaire
Sam Altman, cofondateur et PDG d'OpenAI, a récemment publié une tribune dans le Washington Post dans lequel il exprime ses préoccupations face à la victoire potentielle d'un gouvernement autoritaire dans la course à l'IA. Il a déclaré que le monde se trouve à un moment charnière de l'histoire de la technologie et que les gouvernements démocratiques doivent mettre les bouchées doubles pour empêcher les gouvernements autoritaires de gagner la course à l'IA. Le PDG d'OpenAI a déclaré que le contrôle de l'IA est la "question urgente de notre époque" et que le monde doit faire face à un choix stratégique. Il explique notamment :
« S'ils parviennent à prendre la tête de l'IA, les gouvernements autoritaires forceront les entreprises américaines et celles d'autres pays à partager les données des utilisateurs, en tirant parti de la technologie pour développer de nouveaux moyens d'espionner leurs propres citoyens ou de créer des cyberarmes de nouvelle génération à utiliser contre d'autres pays ». Selon Altman, il n'y a que deux issues possibles à cette bataille et les États-Unis et leurs alliés se doivent de l'emporter.
Envoyé par Sam Altman
Ce sera un monde où les États-Unis et les nations alliées feront progresser une IA mondiale qui répandra les avantages de la technologie et en ouvrira l'accès, ou un monde autoritaire, où des nations ou des mouvements qui ne partagent pas nos valeurs utiliseront l'IA pour asseoir et étendre leur pouvoir.
Il n'y a pas de troisième option et il est temps de décider de la voie à suivre.
Les États-Unis ont actuellement une longueur d'avance dans le développement de l'IA, mais le maintien de ce leadership est loin d'être garanti. Les gouvernements autoritaires du monde entier sont prêts à dépenser d'énormes sommes d'argent pour nous rattraper et finalement nous dépasser.
Sam Altman est accusé de jouer à un jeu de dupe pour servir ses propres intérêts
« Si nous voulons un monde plus démocratique, l'histoire nous dit que notre seul choix est de développer une stratégie d'IA qui contribuera à le créer, et que les nations et les technologues qui ont une longueur d'avance ont la responsabilité de faire ce choix - maintenant », a déclaré Altman. Pour permettre à l'IA démocratique de gagner, Altman a appelé à une coalition mondiale dirigée par les États-Unis et à de nouvelles stratégies, soulignant quatre étapes clés :
- sécurité de base : élaborer des mesures de sécurité robustes pour garantir que la coalition conserve son avance en matière d'IA ;
- infrastructure : construire des quantités beaucoup plus importantes d'infrastructures d'IA, comme des centres de données ou des centrales électriques ;
- diplomatie commerciale : créer une politique de diplomatie commerciale qui définisse les contrôles des exportations d'IA et les règles d'investissement à l'étranger ;
- gouvernance mondiale : établir des modèles permettant au monde entier de fixer des normes pour le développement et le déploiement de l'IA, en citant des exemples tels que l'ICANN.
Bien qu'il ne l'affirme pas clairement, Altman semble expliquer que l'IA développée par les gouvernements autoritaires est de facto "dangereuse" et "destructrice" et que l'IA des gouvernements démocratiques est "inoffensive" et alignée sur les valeurs humaines. « Bien qu'il soit important d'identifier le bon organe de décision, l'essentiel est que l'IA démocratique a une longueur d'avance sur l'IA autoritaire parce que notre système politique a permis aux entreprises, aux entrepreneurs et aux universitaires américains de faire de la recherche, d'innover et de construire », a écrit Altman dans son article d'opinion, tout en ajoutant :
« Si la vision démocratique ne l'emporte pas, le monde ne sera pas en mesure de maximiser les avantages de la technologie et d'en minimiser les risques ». Cependant, Altman a été fortement critiqué pour ses propos qui placent face à ses propres contradictions. Tout d'abord, OpenAI semble ouvert aux applications militaires de l'IA et a même nommé un ancien général de l'armée américaine à son conseil d'administration. Ensuite, Altman ne semble pas du tout craintif lorsqu'il s'agit de lever des milliards auprès des "régimes autocratiques" tels que l'Arabie saoudite pour permettre à OpenAI de dominer le secteur de l'IA.
Les craintes ont atteint leur paroxysme en mai, lorsque l'entreprise a publié GPT-4o avec une option vocale qui ressemblait à celle de Scarlett Johansson. Selon l'actrice, Altman lui a demandé en septembre dernier de prêter sa voix au système, mais elle a refusé. « Lorsque j'ai écouté la démo publiée, j'ai été choquée, en colère et incrédule qu'Altman a choisi une voix si étrangement similaire à la mienne que mes amis les plus proches et les médias n'ont pas pu faire la différence », a déclaré Johansson. OpenAI a déclaré que la voix n'était pas celle de Johansson, mais a tout de même interrompu l'utilisation de cette option.
Sam Altman cherche à lever des milliards dans les monarchies du Moyen-Orient
Au début de l'année, un rapport a révélé qu'Altman est en pourparlers avec TSMC et des investisseurs du Moyen-Orient dans le cadre d'une initiative visant à créer sa propre puce d'IA. Le projet vise à répondre aux besoins croissants d'OpenAI en semiconducteurs et à réduire sa dépendance à l'égard de Nvidia, dont les accélérateurs d'IA figurent parmi les composants informatiques les plus convoités dans l'industrie ces dernières années. Nvidia est le leader incontesté du secteur, contrôlant plus de 90 % du marché, et Altman veut défier ce monopole et permettre à OpenAI de dominer à la fois l'IA et l'écosystème qui l'entoure.
Si les discussions aboutissent, cela permettrait à OpenAI de mettre en place un réseau d'usines de fabrication de puces d'IA qui, selon les indiscrétions, devraient être capables de rivaliser avec les puces de Nvidia. Altman ne semble pas gêné à l'idée d'aller grappiller des milliards pour ses projets auprès des monarchies autoritaires, un comportement qui rend ses discours sur la sécurité de l'IA de plus en plus inaudible auprès d'une grande partie de la communauté. Toutefois, il est important de souligner qu'OpenAI n'est pas la seule entreprise américaine ayant des liens avec le Moyen-Orient ; et leur nombre continue à grimper.
Les entreprises d'IA de la Silicon Valley s'ouvrent de plus en plus aux financements du Moyen-Orient, encouragées par l'administration Biden qui voudrait s'en servir comme rempart contre la Chine. Les préoccupations liées aux abus des droits de l'homme dans ces régimes autoritaires sont passées au second plan face au gigantesque gouffre financier qu'est l'IA, notamment en raison de ses besoins énergétiques, en centres de données et en matière de puces.
Envoyé par Critique
Ils cherchent désespérément à faire perdurer leur projet après les articles sur leur taux d'épuisement phénoménal et leur adoption commerciale morose, et face aux solutions plus ouvertes (pas open source, mais sans doute plus ouvertes de toute façon) de Meta et d'autres.
Il faut s'assurer que personne n'utilise les grands modèles de langage (LLM) chinois et tirer la sonnette d'alarme pour que les autorités fédérales soient prêtes à injecter de l'argent dans ce domaine au cas où tout échouerait sur les marchés privés.
Il est difficile de ne pas y voir une bulle plus importante que celle des dotcoms, mais en réalité bien pire, car elle est concentrée dans quelques entreprises.
Sam Altman est devenu un personnage "très controversé" dans le domaine de l'IA
Le scénario du licenciement temporaire d'Altman en novembre dernier a révélé certains aspects cachés du personnage. Sa menace d'évider OpenAI à moins que le conseil d'administration ne le réengage, et son insistance à remplir le conseil d'administration avec de nouveaux membres biaisés en sa faveur ont révélé au grand jour sa détermination à conserver le pouvoir et à éviter les contrôles futurs. D'anciens collègues et employés ont décrit Altman comme un manipulateur qui tient un double langage : par exemple, c'est quelqu'un qui affirme vouloir donner la priorité à la sécurité, mais toutes ses actions le contredisent.
Selon les anciens collègues et employés, tout cela a conduit à une perte progressive de la confiance du public dans OpenAI et dans la capacité de l'entreprise à respecter les engagements pris lors de sa création. D'ailleurs, Elon Musk, qui a cofondé OpenAI en 2015 avec Sam Altman et le chercheur en IA Ilya Sutskever, a publiquement accusé aujourd'hui la société d'avoir rompu ses accords initiaux. Musk, qui a quitté OpenAI depuis 2018 en raison de désaccords, accuse OpenAI d'avoir abandonné son objectif initial de développer une IA qui bénéficierait à toute l'humanité afin de poursuivre plutôt un succès commercial.
Envoyé par Critique
Je suis tout à fait favorable à ce que l'IA soit mise entre les mains des citoyens. Je pense que l'IA deviendra un outil essentiel pour certaines industries, à l'instar de Photoshop ou des images de synthèse pour la presse écrite et le cinéma respectivement. Cependant, Altman est un cancer et il n'a qu'un seul objectif. S'enrichir au détriment de tout et de rien. Et cela parce qu'il croit, avec une ferveur quasi religieuse, qu'il est le seul à comprendre l'IA.
Il pense être le seul à pouvoir nous guider dans cette vision démocratique de l'IA. Il est tellement imbu de sa personne qu'il représente un danger absolu pour tout ce qu'il préconise. Altman est la dernière personne à qui l'on devrait demander conseil en matière d'IA.
Nous n'avons pas besoin de centrales nucléaires ni de milliards de fermes de serveurs. Ce dont nous avons besoin, c'est d'innovation dans les algorithmes eux-mêmes. Nous avons besoin d'optimisations dans le pipeline complet de chaque réseau neuronal. Nous avons besoin de discussions ouvertes et d'outils à la disposition de tous ceux qui le souhaitent. Nous n'avons pas besoin d'immenses fermes de serveurs, tout ce dont nous avons besoin, c'est de l'innovation.
« Se retirer de ce travail a été l'une des choses les plus difficiles que j'aie jamais faites, car il est urgent de trouver comment diriger et contrôler des systèmes d'intelligence artificielle beaucoup plus intelligents que nous. J'ai rejoint la société parce que je pensais qu'OpenAI serait le meilleur endroit au monde pour faire cette recherche. Cependant, j'ai été en désaccord avec la direction d'OpenAI sur les priorités fondamentales de l'entreprise pendant un certain temps, jusqu'à ce que nous ayons finalement atteint un point de rupture. Au cours des derniers mois, mon équipe a navigué à contre-courant », a écrit Jan Leike.
Source : Sam Altman
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de l'appel de Sam Altman à militer pour la victoire de l'IA démocratique sur l'IA autocratique ? Sam Altman est-il la personne idéale pour porter ce combat ? Selon vous, pourquoi est-il devenu un personnage si controversé ? Que pensez-vous des liens des entreprises d'IA de la Silicon Valley avec le Moyen-Orient ? L'IA démocratique est-elle systématiquement plus sûre que l'IA autocratique comme Sam Altman le laisse entendre ? Peut-on dire qu'une IA est démocratique ou autocratique ?Voir aussi
Greg Brockman et Sam Altman répondent aux critiques de Jan Leike. Après avoir quitté son poste de chef de l'équipe de superalignement, il a révélé que « mon équipe a navigué à contre-courant » Sam Altman serait en pourparlers avec les Émirats arabes unis et TSMC dans le cadre d'un projet visant à créer ses propres puces d'IA pour répondre aux besoins d'OpenAI et rivaliser avec Nvidia Les entreprises IA de la Silicon Valley s'ouvrent aux financements du Moyen-Orient, encouragées par l'administration Biden qui voudrait s'en servir comme rempart contre la Chine 
