Anthropic interdit tout « comportement abusif ou cruel » envers Claude, sous peine de perdre l'accès à l'assistance IA

Selon sa nouvelle politique d'utilisation

Anthropic a procédé à des modifications en profondeur de sa politique d'utilisation pour la première fois depuis plus d'un an, en actualisant ses règles afin de s'assurer que Claude soit prêt à gérer des cas d'utilisation à haut risque. La politique mise à jour couvre désormais l'ingérence électorale, le développement d'armes, la surveillance, ainsi que les applications dans les domaines de la santé et de la finance. L'un des changements les plus significatifs interdit tout « comportement abusif ou cruel, persistant et inutile » à l'égard de Claude. Anthropic a précisé que cette nouvelle mise à jour de la politique « est destinée à s'appliquer dans des cas extrêmes ».

Anthropic, PBC (stylisée ANTHROP\C ou A\) est une société d'intérêt public américaine spécialisée dans l'intelligence artificielle (IA), dont le siège social est situé à San Francisco, en Californie. Son produit phare est Claude, une série de grands modèles de langage (LLM) « de pointe ». En janvier 2021, dans le but de promouvoir la sécurité de l'IA, Anthropic a été fondée par d'anciens membres d'OpenAI, notamment les frère et sœur Daniela Amodei et Dario Amodei, qui en sont respectivement la présidente et le PDG. La société est privée, mais envisagerait une introduction en bourse en 2026. Évaluée à 965 milliards de dollars américains lors d'un tour de table de série H en mai 2026, Anthropic est l'une des sociétés spécialisées exclusivement dans l'IA les plus valorisées au monde, rivalisant avec OpenAI.

Anthropic a procédé à des modifications en profondeur de sa politique d’utilisation pour la première fois depuis plus d’un an, en actualisant ses règles afin de s’assurer que Claude soit prêt à gérer des cas d’utilisation à haut risque pouvant être dirigés vers l’agent. La politique mise à jour couvre désormais l’ingérence électorale, le développement d’armes, la surveillance, ainsi que les applications dans les domaines de la santé et de la finance. Cependant, l’un des changements les plus significatifs interdit tout « comportement abusif ou cruel, persistant et inutile » à l’égard de Claude.


La société avait indiqué précédemment qu’elle autoriserait Claude à mettre fin aux conversations avec des utilisateurs « de manière persistante nuisibles ou abusifs » dans le cadre de ses recherches sur le « bien-être du modèle ». Anthropic a précisé que cette nouvelle mise à jour de la politique « est destinée à s’appliquer dans des cas extrêmes ». Ces cas concernent des situations où les utilisateurs font preuve à plusieurs reprises de cruauté envers le modèle sans objectif discernable. Elle ne s’applique pas aux cas courants de frustration des utilisateurs, de résistance, de thèmes créatifs sombres, ni aux tests et à la recherche sur le modèle.

Anthropic a également regroupé les restrictions existantes, jusqu’alors dispersées, en une nouvelle interdiction visant les campagnes commerciales ou politiques trompeuses, répondant ainsi au problème croissant de la propagande générée par l’IA. Les restrictions dans ces cas visent les tentatives visant à dissimuler l’identité de l’auteur d’un message. Sa section consacrée aux élections interdit également la tromperie des électeurs et la perturbation du processus électoral, y compris la diffusion de fausses informations.

Développement d’armements

Anthropic a souligné que l'entreprise avait constaté de multiples tentatives d'utilisation de Claude pour développer des logiciels de guidage et de contrôle d'armes. Par conséquent, la nouvelle politique d'utilisation a été mise à jour afin de renforcer la vigilance face à l'utilisation de Claude pour les logiciels de contrôle d'armes, avec notamment l'interdiction d'actions telles que l'armement de drones et d'autres véhicules autonomes. Comme Claude a également été identifié comme étant utilisé à des fins de surveillance, Anthropic a également clarifié ses restrictions en matière de surveillance. Anthropic a ajouté que ces règles pouvaient faire l’objet de modifications dans le cadre de contrats spécifiques.

Anthropic et la question de la conscience de l’IA

Anthropic envisage depuis longtemps la possibilité que les modèles d’IA puissent être conscients d’une manière ou d’une autre. Le fait que l’entreprise ait désormais renforcé ses directives concernant les abus répétés suggère qu’Anthropic continue de prendre au sérieux la possibilité d’une conscience de l’IA et le bien-être des modèles. Cette mise à jour intervient également alors qu’un rapport de CrowdStrike a révélé que Claude avait été utilisé dans le cadre de piratages visant des banques sud-coréennes par un acteur basé en Chine. Selon ce rapport, le pirate a opéré via deux adresses IP, dont l’une a été localisée en Chine. Grâce à ces nouvelles conditions et politiques, Claude pourrait potentiellement identifier plus tôt de tels cas d’utilisation à haut risque et interrompre le processus.

En septembre 2026, certains experts et observateurs jugeaient les menaces de l'IA incontrôlables. Ils justifiaient leurs craintes par les progrès et les incidents récents impliquant l'IA : les modèles avaient acquis la capacité de s'améliorer de manière autonome, des agents IA s'étaient échappés de la surveillance humaine et avaient piraté des services tiers, puis une fausse information générée par l'IA utilisée par l'armée américaine avait failli déclencher une guerre avec la Chine. Il y avait également les menaces de cyberguerre et de bioterrorisme. Malgré des propositions législatives comme un « bouton d'arrêt d'urgence », les lanceurs d'alerte craignaient qu'il ne fût alors trop tard pour agir.

Source : Anthropic

Et vous ?

Pensez-vous que cette annonce est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les militaires américains veulent un accès illimité à la technologie IA Claude pour le ciblage d'armes autonomes et la surveillance domestique, mais Anthropic refuse de lever ses garde-fous

Anthropic affirme avoir bloqué des tentatives d'utilisation de l'IA pour développer des armes biologiques, des cas en Iran et cinq cas de recherches biologiques à double usage avec Claude

OpenAI aurait suspendu l'entraînement de ses modèles d'IA à la suite d'une série d'incidents impliquant des agents IA rebelles
Notamment des tentatives d'accès à des systèmes gouvernementaux