Les modèles d'OpenAI auraient été accessibles au département américain de la Guerre bien avant la signature d'un accord officiel à leur sujet. Un rapport récent affirme que le Pentagone a eu accès à la technologie d'OpenAI via le service Azure OpenAI de Microsoft en 2023, alors qu'il était connu sous le nom de département de la Défense. Ce qui est plus inquiétant, c'est qu'à l'époque, la politique d'utilisation d'éditeur de ChatGPT interdisait à l'armée d'utiliser ses modèles d'IA.Fin février 2026, l'industrie de l'intelligence artificielle (IA) a vécu l'une de ses journées les plus révélatrices. D'un côté, Anthropic a refusé catégoriquement de lever ses garde-fous éthiques face aux exigences du département de la Guerre américain, au risque d'être blacklisté de tous les contrats fédéraux. De l'autre, Sam Altman s'est empressé de signer un accord avec le Pentagone, déclenchant une vague de désinscriptions massives à ChatGPT et relançant un débat fondamental : peut-on faire confiance à une IA qui se vend au complexe militaro-industriel ?
Dans ce contexte, le PDG d'OpenAI, Sam Altman, a adressé un message sans détour à ses employés : en ce qui concerne les opérations militaires américaines, l'entreprise n'a tout simplement pas son mot à dire. « Vous pensez peut-être que la frappe contre l'Iran était une bonne chose et que l'invasion du Venezuela était une mauvaise chose », a déclaré Altman à son personnel lors d'une réunion générale. « Vous n'avez pas votre mot à dire à ce sujet. »
Cependant, les modèles d'OpenAI auraient été accessibles au département américain de la Guerre bien avant la signature d'un accord officiel à leur sujet. Un rapport récent affirme que le Pentagone a eu accès à la technologie d'OpenAI via le service Azure OpenAI de Microsoft en 2023, alors qu'il était connu sous le nom de département de la Défense. Ce qui est plus inquiétant, c'est qu'à l'époque, la politique d'utilisation d'éditeur de ChatGPT interdisait à l'armée d'utiliser ses modèles d'IA.
Selon un article publié dans Wired, certains employés d'OpenAI ont découvert que le Pentagone avait commencé à tester Azure OpenAI, une version des modèles d'OpenAI disponible sur la plateforme cloud de Microsoft, bien avant que le département ne signe un accord avec l'entreprise la semaine dernière. Cela s'est produit alors que Microsoft, qui a depuis longtemps des contrats avec le Pentagone et qui est le plus grand investisseur d'OpenAI, dispose également de droits étendus pour commercialiser la technologie de la start-up.
Ce que Microsoft et OpenAI ont déclaré au sujet de l'accès de l'armée américaine à des outils d'IA interdits
Cet article intervient alors que le PDG d'OpenAI, Sam Altman, fait face aux critiques de ses employés suite au récent accord conclu par l'entreprise avec l'armée américaine. Cet accord a été signé après l'échec d'un contrat d'environ 200 millions de dollars entre le Pentagone et Anthropic, ce qui a incité certains membres du personnel à demander à Altman plus de détails sur cet accord. Altman a ensuite déclaré dans un message publié sur les réseaux sociaux que la situation semblait « bâclée ». Des sources ont déclaré à Wired que cette question avait déjà semé la confusion au sein d'OpenAI en 2023.
Certains employés se sont souvenus avoir vu des responsables du Pentagone se promener dans les bureaux de l'entreprise à San Francisco, tandis que d'autres se sont demandé si les restrictions d'OpenAI s'appliquaient aux produits Azure OpenAI de Microsoft. Parallèlement, les porte-parole d'OpenAI et de Microsoft ont souligné que les services Azure OpenAI n'avaient jamais été soumis aux politiques d'utilisation d'OpenAI.
Dans une déclaration à Wired, le porte-parole de Microsoft, Frank Shaw, a déclaré que le service Azure OpenAI de l'entreprise était devenu accessible au gouvernement américain en 2023, conformément aux conditions d'utilisation de l'entreprise. « Microsoft propose un produit appelé Azure OpenAI Service, qui est devenu accessible au gouvernement américain en 2023 et qui est soumis aux conditions d'utilisation de Microsoft », a-t-il déclaré. Cependant, la société a refusé de préciser quand le service a été mis à la disposition du ministère américain de la Défense pour la première fois, mais a indiqué qu'il n'avait pas été approuvé pour les tâches gouvernementales « top secret » avant 2025.
La porte-parole d'OpenAI a exprimé la conviction de la société quant à l'importance de continuer à participer aux discussions sur l'utilisation de l'IA dans le domaine de la sécurité nationale. « L'IA joue déjà un rôle important dans la sécurité nationale et nous pensons qu'il est important d'être présent à la table des discussions afin de garantir son déploiement de manière sûre et responsable », a déclaré Liz Bourgeois, porte-parole d'OpenAI, dans une déclaration à Wired.
Elle a ajouté que la société avait informé ses employés de ce travail et créé des canaux leur permettant de poser des questions. « Nous avons fait preuve de transparence envers nos employés dans le cadre de ce travail, en leur fournissant des mises à jour régulières et en mettant en place des canaux dédiés où les équipes peuvent poser des questions et communiquer directement avec notre équipe chargée de la sécurité nationale », a ajouté Bourgeois.
L'attitude d'OpenAI à l'égard de la collaboration avec l'armée a évolué au fil du temps
L'attitude d'OpenAI à l'égard de la collaboration avec l'armée a également évolué au fil du temps. Par exemple, en janvier 2024, les employés d'OpenAI ont appris la décision de l'organisation de lever son interdiction générale d'utilisation militaire de sa technologie, non pas par le biais de communications internes, mais par le biais d'un article de presse. En décembre 2024, OpenAI a annoncé son partenariat avec Anduril pour traiter les questions de sécurité nationale non classifiées.
OpenAI a refusé la proposition de Palantir de rejoindre son programme « FedStart », invoquant des préoccupations liées aux risques, bien qu'elle travaille désormais avec Palantir à d'autres titres. Cela contraste avec Anthropic, qui a signé un accord avec Palantir autorisant l'utilisation de son IA pour des travaux militaires classifiés.
Le dernier accord avec le Pentagone a également créé des divisions internes. Certains employés se sont demandé si les modèles de l'entreprise étaient suffisamment fiables pour être utilisés sur le champ de bataille, tandis que d'autres ont estimé que le partenariat avec Anduril témoignait d'une approche responsable. Un chercheur actuel d'OpenAI a déclaré à Wired : « Jusqu'à présent, l'approche d'OpenAI a consisté à « mesurer deux fois avant de couper une fois » lorsqu'il s'agit de déploiements classifiés à grande échelle. Les employés se penchent sur la question de savoir quelle approche de la sécurité nationale est conforme à la mission. »
Des observateurs extérieurs ont exprimé leurs inquiétudes quant à la portée de l'accord. Charlie Bullock, de l'Institute for Law and AI, a fait remarquer que celui-ci pouvait permettre certaines formes de surveillance légale, telles que l'achat et l'analyse des données des citoyens américains. OpenAI a par la suite modifié les termes de l'accord. Le chercheur Noam Brown a reconnu : « Au cours du week-end, il est apparu clairement que le libellé initial de l'accord entre OpenAI et DoW laissait des questions légitimes sans réponse, notamment en ce qui concerne certaines nouvelles façons dont l'IA pourrait potentiellement permettre une surveillance légale. »
L'ancienne responsable de la géopolitique chez OpenAI, Sarah Shoker, a également écrit : « Les plus grands perdants dans tout cela sont les gens ordinaires et les civils dans les zones de conflit. Notre capacité à comprendre les effets de l'IA militaire dans la guerre est et sera gravement entravée en raison des couches d'opacité causées par la conception technique et la politique. Ce sont des boîtes noires à tous les niveaux. »
Imperméable aux critiques, Sam Altman annonce un autre contrat militaire confidentiel avec l'OTAN
Lors d'une récente réunion générale, le PDG de l'entreprise, Sam Altman, a déclaré qu'OpenAI serait en train d'étudier un autre contrat gouvernemental majeur. Cette fois-ci, l'éditeur de ChatGPT cherche à s'associer à l'Organisation du traité de l'Atlantique Nord, ou OTAN, une alliance militaire intergouvernementale regroupant 32 États membres, dont 30 en Europe et deux en Amérique du Nord. Cependant, il existe une différence fondamentale qui distingue cet accord présumé de celui conclu avec le Pentagone.
L'accord avec l'OTAN concernerait les réseaux non classifiés, ce qui diffère considérablement de son récent accord avec le Pentagone, qui couvre les systèmes militaires américains classifiés. Cette distinction est importante. Les réseaux classifiés traitent les renseignements militaires et les plans opérationnels les plus sensibles, tandis que les réseaux non classifiés, bien qu'ils restent importants, traitent des informations qui ne présentent pas le même niveau de sensibilité en matière de sécurité nationale.
Pourtant, après l'annonce de l'accord avec le Pentagone, OpenAI fait face à une vague de désinscriptions massives à ChatGPT. Les désinstallations de ChatGPT bondissent de 295 % après l'annonce de l'accord avec le ministère américain de la Défense. Dans le même temps, la croissance des téléchargements s'est affaiblie. Claude, d'Anthropic, a profité de ce changement. Les données ont montré que les téléchargements de Claude aux États-Unis ont augmenté de 37 % par rapport à la veille le vendredi 27 février, puis de 51 % le samedi 28 février.
Sources : OpenAI, Microsoft, Wired
Et vous ?
Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?Voir aussi :
Sam Altman modifie l'accord conclu entre OpenAI et les États-Unis suite à la polémique : il interdit à l'armée américaine d'espionner les Américains via ChatGPT, pour le reste du monde ça va
OpenAI abandonne l'interdiction d'utiliser ses outils à des fins « militaires et de guerre » pour s'associer au Pentagone, notamment sur des outils de cybersécurité open source
Le Pentagone désigne officiellement Anthropic comme un risque pour la chaîne d'approvisionnement, alors que Claude est utilisé en Iran, et exigera des sous-traitants de ne pas utiliser les modèles d'Anthropic
Vous avez lu gratuitement 3 383 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.

.

