OpenAI vient de nommer un ancien directeur de la National Security Agency (NSA) à son conseil d'administration, et Edward Snowden n'est pas content. « Ne faites jamais confiance à OpenAI ou à ses produits », a écrit l'ancien employé de la NSA devenu lanceur d'alerte sur X vendredi, après que l'entreprise a annoncé la nomination du général Paul Nakasone, retraité de l'armée américaine, au nouveau comité de sûreté et de sécurité du conseil d'administration. « Il n'y a qu'une seule raison de nommer [un directeur de la NSA] à votre conseil d'administration. Il s'agit d'une trahison délibérée et calculée des droits de chaque personne sur terre ».OpenAI a nommé au sein de son conseil d'administration un ancien cyber-guerrier et agent de renseignement américain de haut niveau, affirmant qu'il contribuera à protéger le fabricant de ChatGPT contre des « acteurs malveillants de plus en plus sophistiqués ». Le général Paul Nakasone, aujourd'hui à la retraite, était le commandant du U.S. Cyber Command et le directeur de la National Security Agency avant de quitter ses fonctions au début de l'année.
Il rejoindra le conseil d'administration d'OpenAI et le nouveau comité de sûreté et de sécurité du groupe, qui est censé conseiller le conseil d'administration sur les « décisions critiques en matière de sûreté et de sécurité » pour ses projets et ses opérations. Ce nouveau groupe de sécurité remplace une ancienne équipe de sécurité qui a été dissoute après le départ de plusieurs de ses responsables.
« Les idées de M. Nakasone contribueront également aux efforts d'OpenAI pour mieux comprendre comment l'IA peut être utilisée pour renforcer la cybersécurité en détectant et en répondant rapidement aux menaces de cybersécurité », a déclaré OpenAI dans un billet de blog. Ses premières responsabilités consisteront à rejoindre le comité de sûreté et de sécurité du conseil d'administration, où il prendra « des décisions critiques en matière de sûreté et de sécurité pour tous les projets et opérations d'OpenAI », selon le billet.
En tant que membre du conseil d'administration, Nakasone rejoint Adam D'Angelo, PDG de Quora, l'entrepreneur technologique Tasha McCauley, Helen Toner du Georgetown Center for Security and Emerging Technology, Sue Desmond-Hellmann, ancienne PDG de la Fondation Bill et Melinda Gates, Nicole Seligman, ancienne vice-présidente exécutive et avocate générale mondiale de Sony Corp. et Fidji Simo, PDG et président d'Instacart. Le conseil d'administration comprend également l'ancien secrétaire au Trésor américain Larry Summers, le président d'OpenAI Bret Taylor et le PDG Sam Altman.
OpenAI a récemment connu des départs importants : le cofondateur et ancien scientifique en chef, Ilya Sutskever, a quitté l'entreprise en raison de désaccords sur la sécurité et le développement. Il a été suivi par Jan Leike, chef de l'équipe "superalignment", chargée de veiller à ce que l'IA ne devienne pas une menace pour l'humanité. Peu après son départ, Jan Leike a écrit sur X : « La culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants ». Lors d'interviews, il a expliqué qu'il avait perdu ses illusions quant à la capacité de l'entreprise à faire face à la menace de l'IA de manière responsable.
Le président d'OpenAI Bret Taylor semble penser que l'ancien chef de l'espionnage Paul Nakasone pourrait être utile à cet égard.
« L'intelligence artificielle a le potentiel d'avoir d'énormes impacts positifs sur la vie des gens, mais elle ne peut atteindre ce potentiel que si ces innovations sont construites et déployées en toute sécurité », a déclaré M. Taylor dans un communiqué. « L'expérience inégalée du général Nakasone dans des domaines tels que la cybersécurité contribuera à guider OpenAI dans la réalisation de sa mission, qui consiste à faire en sorte que l'intelligence artificielle générale profite à l'ensemble de l'humanité. »
Nakasone dirigeait déjà la branche armée du U.S. Cyber Command lorsque le président Donald Trump l'a choisi en 2018 pour être directeur de la NSA, l'un des principaux services de renseignement du pays, et chef du U.S. Cyber Command. Il a conservé cette double fonction lorsque le président Joe Biden a pris ses fonctions en 2021. Il a pris sa retraite en février.
Edward Snowden dénonce la décision d'OpenAI de nommer un ancien directeur de la NSA à son conseil d'administration
Edward Snowden, célèbre lanceur d'alerte qui a travaillé à la NSA, s'est connecté à son compte sur la plateforme de médias sociaux X (anciennement connue sous le nom de Twitter) pour partager son point de vue sur les récentes mesures prises par l'entreprise OpenAI.
Il a mis en garde contre l'utilisation d'OpenAI et de ses produits.
Snowden a commenté la récente nouvelle selon laquelle OpenAI, dirigée par Sam Altman, a nommé un général de l'armée américaine à la retraite et ancien chef de la NSA, Paul Nakasone, au sein de son conseil d'administration. Ce général a dirigé la National Security Agency entre 2018 et 2023. Le tweet de l'utilisateur @MarioNawfal que Snowden a cité indique que Paul Nakasone « aidera à améliorer le rôle de l'IA dans la cybersécurité en détectant et en répondant rapidement aux menaces ». La nomination de l'ancien patron de la NSA a été annoncée à la suite de préoccupations croissantes concernant la culture de la sécurité au sein de l'OpenAI.
Edward Snowden a tweeté qu'OpenAI avait « fait tomber le masque ». Il a lancé un avertissement critique à ses followers : « Ne faites jamais confiance à OpenAI ou à ses produits (ChatGPT, etc.) ».
Envoyé par Edward Snowden
Ils ont fait tomber le masque : ne faite jamais confiance à OpenAI ou à ses produits (ChatGPT etc.). Il n'y a qu'une seule raison de nommer un directeur de la NSA à votre conseil d'administration. Il s'agit d'une trahison délibérée et calculée des droits de chaque personne sur Terre. Vous avez été prévenu
Snowden n'a pas donné de détails, mais OpenAI a fait l'objet d'un examen minutieux pour la manière dont elle recueille des données afin d'entraîner ses modèles d'intelligence artificielle. ChatGPT traite les conversations de dizaines de millions d'utilisateurs par jour, ce qui pourrait également faire de cette technologie un moyen précieux de surveillance.
« Je pense que la plus grande application de l'IA sera la surveillance de masse de la population, donc faire entrer l'ancien chef de la NSA dans l'OpenAI a une logique solide », a...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
