Sam Altman est accusé d'avoir manqué de transparence au sujet des efforts d'OpenAI en matière de sécurité,

Et d'avoir réduit ses employés au silence par le biais d'accords de non-divulgation

OpenAI et son PDG Sam Altman sont interpellés au sujet d'allégations selon lesquelles l'entreprise étouffe les risques liés à la sécurité de ses grands modèles de langage. L'entreprise utiliserait notamment des accords contraignants et des menaces de représailles afin de réduire ses employés au silence, les empêchant de divulguer des informations aux autorités. OpenAI fait désormais face à une pression croissante de la part des législateurs américains pour cesser d'appliquer ces accords et prouver qu'il ne cache pas les risques liés à l'IA. La pression s'accroît sur OpenAI alors que Sam Altman est de plus en plus controversé dans la communauté de l'IA.

Un sénateur demande à OpenAI de prouver qu'il ne réduit pas son personnel au silence

Des employés d'OpenAI ont déposé cette année une plainte contre leur employeur auprès de la Securities and Exchange Commission (SEC) des États-Unis. La plainte accuse OpenAI d'avoir violé les droits des lanceurs d'alerte en les réduisant au silence par le biais d'accords contraignants et des menaces de représailles. Elle indique qu'OpenAI a illégalement interdit à ses employés de divulguer aux régulateurs des informations sur les risques de sa technologie pour l'humanité. Ces accusations ont attiré l'attention des législateurs du Congrès américain qui demandent des explications à OpenAI et la suppression de ces accords.


Dans une lettre adressée à OpenAI, le sénateur Chuck Grassley (R-Iowa) a exigé "des preuves qu'OpenAI n'exige plus d'accords qui pourraient empêcher ses employés de faire des divulgations protégées aux régulateurs gouvernementaux". Grassley a demandé à OpenAI de produire des accords actuels d'emploi, d'indemnités de licenciement, de non-dénigrement et de non-divulgation pour rassurer le Congrès sur le fait que les contrats ne découragent pas les divulgations.

Le sénateur a déclaré : « c'est essentiel, pour qu'il soit possible de compter sur les lanceurs d'alerte qui exposent les menaces émergentes afin d'aider à élaborer des politiques d'IA efficaces qui protègent contre les risques existentiels de l'IA à mesure que les technologies progressent ». Selon la lettre, ce n'est pas la première fois que Grassley demande ces documents à OpenAI. Il l'aurait apparemment demandé deux fois déjà sans obtenir de réponse de la part d'OpenAI.

« Il ne suffit pas de prétendre avoir fait des "mises à jour". Altman doit fournir des dossiers et des réponses à mes demandes de surveillance afin que le Congrès puisse évaluer avec précision si OpenAI protège adéquatement ses employés et ses utilisateurs », affirme Grassley. Selon son porte-parole Clare Slattery, jusqu'à présent, OpenAI n'a pas répondu à la demande la plus récente d'envoi de documents. Le silence de l'entreprise sur les demandes suscite des inquiétudes.

La lettre de Grassley intervient quelques jours seulement après que cinq sénateurs ont envoyé à Altman une lettre exigeant des informations sur la manière dont l'entreprise respecterait ses "engagements publics" afin de garantir que sa technologie d'IA ne cause pas de dommages, par exemple en apprenant aux utilisateurs à fabriquer des armes biologiques ou en aidant les pirates informatiques à mettre au point de nouveaux types de cyberattaques.

En outre, les employés craignent qu'OpenAI fasse passer le profit avant la sécurité. Des rapports indiquent en effet qu'OpenAI a précipité la sortie de son dernier modèle d'IA, GPT-4 Omni, pour respecter la date de sortie fixée au mois de mai. Les dirigeants de l'entreprise ont procédé au lancement malgré les craintes des employés concernant le calendrier, et ont accéléré les tests de sécurité complets, mettant à mal l'engagement de sécurité pris auprès de la Maison Blanche.

OpenAI invité à faire preuve de transparence sur ses pratiques en matière de sécurité

En plus de demander les accords d'employés récemment mis à jour par OpenAI, Grassley invite OpenAI à divulguer le nombre total de demandes qu'il a reçues de la part d'employés cherchant à faire "des divulgations fédérales" depuis 2023. Grassley veut savoir quelles informations les employés voulaient divulguer aux autorités et si OpenAI a effectivement approuvé leurs demandes. Dans le même ordre d'idées, le sénateur a demandé à OpenAI de confirmer le nombre d'enquêtes que la SEC a ouvertes sur OpenAI depuis 2023. OpenAI accusé d'avoir relégué la question de la sécurité au second plan depuis plusieurs années.

"as we said last july, we’re committed to allocating at least 20% of the computing resources to safety efforts across the entire company."

1) We've heard this promise before. Talk is cheap. Your top safety-focused employees quit and became whistleblowers because they don't trust…

— AI Notkilleveryoneism Memes ⏸️ (@AISafetyMemes) August 1, 2024

Ensemble, ces documents permettraient de de savoir si les employés d'OpenAI sont potentiellement toujours réduits au silence pour faire des divulgations fédérales, quels types de divulgations OpenAI nie et à quel point la SEC surveille de près les efforts apparents d'OpenAI pour cacher les risques de sécurité. « Il est crucial qu'OpenAI s'assure que ses employés peuvent fournir des divulgations protégées sans restrictions illégales », a écrit Grassley dans sa lettre.

Le sénateur a demandé une réponse à OpenAI avant le 15 août afin que le Congrès puisse mener une surveillance objective et indépendante sur les protocoles de sécurité et les accords de non-divulgation d'OpenAI. Mais les appels à plus de transparence de la part d'OpenAI vont au-delà des législateurs. La veille du jour où Grassley a envoyé sa lettre, Altman a écrit sur X affirmant qu'OpenAI avait consacré d'amples ressources aux efforts de sécurité depuis juillet.

« Comme nous l'avons dit en juillet dernier, nous nous sommes engagés à allouer au...