Des lanceurs d'alerte affirment qu'OpenAI a illégalement interdit à son personnel de divulguer les risques de sécurité liés à son IA

En s'appuyant sur des accords contraignants et des menaces de représailles

OpenAI a mis en place des accords contraignants visant à faire taire les lanceurs d'alerte qui seraient tentés d'évoquer publiquement les risques relatives à sa technologie d'IA. C'est du moins ce qui ressort d'une plainte déposée auprès de la Securities and Exchange Commission (SEC) des États-Unis et qui accuse OpenAI d'avoir violé les droits des lanceurs d'alerte. La plainte indique qu'OpenAI a illégalement interdit à ses employés de divulguer aux régulateurs des informations sur les risques de sa technologie pour l'humanité. OpenAI aurait réduit ses employés au silence et a violé sa promesse de tester la dangerosité de son IA avant de la diffuser.

OpenAI a perdu peu à peu son image de startup ouverte travaillant sur une IA responsable qui sera profitable et accessible à toute l'humanité sans aucune discrimination. Le point de départ de tout ceci semble être la création en 2019 d'une entité à but lucratif au sein même de l'organisation à but non lucratif de départ. Ce choix a été soutenu par un investissement d'un milliard de dollars par Microsoft dans OpenAI, poussant la startup à abandonner sa politique d'ouverture, rendre ses modèles fermés au public et experts externes et se lancer à la recherche du profit. Une direction controversée et source de scandales.

L'un de ces scandales a été révélé au mois de mai et concerne des accords "étranges" qu'OpenAI fait signer aux employés avant leurs arrivées et départs de l'entreprise. Des documents divulgués avaient révélé des "tactiques agressives" à l'égard d'anciens employés d'OpenAI avec la signature du PDG Sam Altman, menaçant de les priver de leurs options d'achats s'ils ne signent pas des accords de sortie étendus et très restrictifs. La semaine dernière, le Washington Post a rapporté l'existence d'une lettre adressée à la SEC par des employés d'OpenAI dans laquelle ils dénoncent ces agissements et donnent encore plus de détails.


Les lanceurs d'alerte ont déclaré qu'OpenAI a délivré à ses travailleurs des accords d'emploi, de départ et de non-divulgation trop restrictifs qui auraient pu entraîner des représailles contre les travailleurs qui ont soulevé des préoccupations au sujet d'OpenAI auprès des régulateurs fédéraux. OpenAI a fait signer à ses employés des accords qui les obligeaient à renoncer à leurs droits fédéraux à l'indemnisation des lanceurs d'alerte. Selon la plainte, ces accords exigeaient également que le personnel d'OpenAI obtienne le consentement préalable de l'entreprise s'il souhaitait divulguer des informations aux autorités fédérales.

« Ces accords envoient aux employés le message suivant : "nous ne voulons pas que les employés parlent aux régulateurs fédéraux". Je ne pense pas que les entreprises d'IA puissent construire des technologies sûres et dans l'intérêt du public si elles se protègent de l'examen et de la dissidence », a déclaré l'un des lanceurs d'alerte, qui a parlé sous le couvert de l'anonymat par crainte de représailles. De plus en plus d'employés de secteur technologique exigent des protections pour alerter sur les risques sérieux relatifs à l'IA sans subir de représailles. Ces derniers travailleurs pour Google, OpenAI, Microsoft et d'autres firmes.

« Les politiques et les pratiques d'OpenAI semblent jeter un froid sur le droit des lanceurs d'alerte à s'exprimer et à recevoir une compensation approprié pour leurs divulgations protégées. Pour que le gouvernement fédéral garde une longueur d'avance sur l'IA, les accords de non-divulgation d'OpenAI doivent changer », affirme le sénateur Chuck Grassley (R-Iowa) dans une déclaration. La lettre indique que la SEC doit prendre des mesures "rapides et agressives" pour lutter contre ces accords illégaux, car ils pourraient concerner le secteur de l'IA au sens large et violer les initiatives prises pour assurer la sécurité de l'IA.

La lettre fait référence à la plainte formelle et a été obtenue en exclusivité par le Washington Post. OpenAI n'a pas créé d'exemptions dans ses clauses de non-dénigrement afin de permettre la divulgation de violations de valeurs mobilières à la SEC...