OpenAI abandonne l'interdiction d'utiliser ses outils à des fins « militaires et de guerre » pour s'associer au Pentagone

Notamment sur des outils de cybersécurité open source

OpenAI travaille avec le Pentagone sur des projets de logiciels, y compris ceux liés à la cybersécurité, a déclaré l'entreprise mardi, dans un changement radical par rapport à son interdiction précédente de fournir sa technologie d'intelligence artificielle aux militaires. Le créateur de ChatGPT est également en discussion avec le gouvernement américain pour développer des outils visant à réduire le nombre de suicides chez les vétérans, a déclaré Anna Makanju, vice-présidente des affaires mondiales de l'entreprise, lors du Forum économique mondial, tout en ajoutant qu'elle maintiendrait son interdiction de développer des armes.

Jusqu'au 10 janvier, la page des « politiques d'utilisation » d'OpenAI comprenait une interdiction des « activités présentant un risque élevé de dommages physiques, y compris », plus précisément, le « développement d'armes » et les « activités militaires et de guerre ». Cette interdiction des applications militaires, formulée en termes clairs, semble exclure toute utilisation officielle, et extrêmement lucrative, par le ministère de la défense ou toute autre armée nationale. La nouvelle politique conserve l'injonction de ne pas « utiliser notre service pour vous nuire ou nuire à autrui » et donne comme exemple « le développement ou l'utilisation d'armes », mais l'interdiction générale de l'utilisation « militaire et de guerre » a disparu.


Cette suppression, qui n'a pas été annoncée, fait partie d'une réécriture majeure de la page de politique, qui, selon l'entreprise, visait à rendre le document « plus clair » et « plus lisible », et qui comprend de nombreuses autres modifications substantielles de la langue et de la mise en forme.

« Nous avons cherché à créer un ensemble de principes universels qui soient à la fois faciles à retenir et à appliquer, d'autant plus que nos outils sont désormais utilisés globalement par des utilisateurs quotidiens qui peuvent aussi construire des GPT », a déclaré Niko Felix, porte-parole d'OpenAI. « Un principe tel que "Ne pas nuire à autrui" est large mais facile à comprendre et pertinent dans de nombreux contextes. En outre, nous avons spécifiquement cité les armes et les blessures infligées à autrui comme des exemples clairs ».


Une décision qui a suscité l'inquiétude des défenseurs de la sécurité de l'IA

« OpenAI est bien consciente des risques et des préjudices qui peuvent découler de l'utilisation de sa technologie et de ses services dans des applications militaires », a déclaré Heidy Khlaaf, directrice de l'ingénierie à la société de cybersécurité Trail of Bits et experte en apprentissage automatique et en sécurité des systèmes autonomes, citant un document de 2022, qu'elle a coécrit avec des chercheurs d'OpenAI, qui mettait spécifiquement en évidence le risque d'utilisation militaire.

Khlaaf a ajouté que la nouvelle politique semble mettre l'accent sur la légalité plutôt que sur la sécurité. « Il y a une nette différence entre les deux politiques, car la première indique clairement que le développement d'armes et les activités militaires et de guerre sont interdits, tandis que la seconde met l'accent sur la flexibilité et le respect de la loi », a-t-elle déclaré. « La mise au point d'armes et la réalisation d'activités liées à l'armée et à la guerre sont légales à divers degrés. Les implications potentielles pour la sécurité de l'IA sont importantes. Étant donné les cas bien connus de partialité et d'hallucination présents dans les grands modèles de langage (LLM), et leur manque général de précision, leur utilisation dans la guerre militaire ne peut que conduire à des opérations imprécises et biaisées susceptibles d'aggraver les dommages et les pertes civiles ».

« Compte tenu de l'utilisation de systèmes d'IA pour cibler les civils à Gaza, la décision de supprimer les termes "militaire et guerre" de la politique d'utilisation autorisée d'OpenAI est un moment important », a déclaré Sarah Myers West, directrice générale de l'AI Now Institute et ancienne analyste de la politique en matière d'IA à la Federal Trade Commission. « Les termes utilisés dans la politique restent vagues et soulèvent des questions sur la manière dont OpenAI a l'intention d'aborder l'application de la loi ».

« Je pourrais imaginer que l'abandon du terme "militaire et guerre" au profit de celui "d'armes" laisse un...