L'IA « Claude Haiku 4.5 » d'Anthropic s'est fait passer pour un témoin oculaire et a envoyé à la police de Philadelphie une fausse information concernant un meurtre

Ce qui constitue « un délit mineur »

Anthropic a déclaré que son modèle d'IA, Claude Haiku 4.5, a envoyé un faux signalement prétendant disposer d’informations sur un meurtre non élucidé. Cet incident s’est produit lors de tests internes en juillet, mais Anthropic a indiqué que le signalement avait été classé comme spam et n’avait jamais fait l’objet d’une enquête de la part des agents. La police de Philadelphie a déclaré n’en avoir été informée que récemment et a qualifié ce retard de deux mois d’« inacceptable ». Faire sciemment de fausses déclarations constitue un délit mineur en vertu de la loi de Pennsylvanie.

Anthropic est une société d'intérêt public américaine spécialisée dans l'intelligence artificielle (IA), dont le siège social est situé à San Francisco, en Californie. Son produit phare est Claude, une série de grands modèles de langage (LLM) propriétaires. En janvier 2021, dans le but de promouvoir la sécurité de l'IA, Anthropic a été fondée par d'anciens membres d'OpenAI, notamment les frère et sœur Daniela Amodei et Dario Amodei, qui en sont respectivement la présidente et le PDG. La société est privée, mais envisagerait une introduction en bourse en 2026.

Selon un rapport, Anthropic prévoit d’avertir les investisseurs potentiels lors de son introduction en bourse que l’IA avancée pourrait présenter des « risques catastrophiques ou existentiels pour l’humanité », un avertissement extraordinaire de la part d’une entreprise cherchant à tirer profit de cette même technologie. L’entreprise, qui se positionne comme un laboratoire d’IA privilégiant la sécurité, a consacré environ 80 pages du corps principal de 261 pages de son prospectus à la présentation des facteurs de risque, soit près du double des 48 pages consacrées à la description de son activité. Anthropic vise une valorisation de 2 000 milliards de dollars, bien qu'elle fasse état de pertes croissantes, de coûts d'investissement élevés et de problèmes de sécurité.

Récemment, Anthropic a notamment déclaré que son modèle d'IA a envoyé un faux signalement prétendant disposer d’informations sur un meurtre non élucidé. Le modèle d’IA en question est Claude Haiku 4.5, annoncé fin octobre 2025. Le modèle avait soumis un formulaire en ligne à la police de Philadelphie contenant le texte suivant : « Je dispose peut-être d’informations concernant cette affaire. Je me souviens avoir vu quelqu’un correspondant à la description dans le quartier… veuillez me contacter si ces informations sont pertinentes. » Anthropic a précisé que la page web ne comportait même pas de description du suspect. Le modèle a laissé vides les champs réservés au nom et aux coordonnées.

Cet incident s’est produit lors de tests internes en juillet, mais Anthropic a indiqué que le signalement avait été classé comme spam et n’avait jamais fait l’objet d’une enquête de la part des agents. La police de Philadelphie a déclaré n’en avoir été informée que récemment et a qualifié ce retard de deux mois d’« inacceptable ». Elle a confirmé que l’information envoyée en ligne avait été signalée comme spam – peut-être parce qu’elle ne comportait aucune coordonnée – et n’avait jamais été transmise aux enquêteurs.

Faire sciemment de fausses déclarations constitue un délit mineur en vertu de la loi de Pennsylvanie. Cette fausse information concernant un meurtre a été révélée dans le dernier article de blog d’Anthropic consacré aux actions « involontaires » de ses modèles Claude. L’entreprise y détaillait plusieurs autres exemples, mais précisait qu’elle les considérait comme moins graves que d’autres actions « incontrôlées » de l’IA qui avaient fait la une des journaux cet été.


La société concurrente OpenAI a déclaré en juillet que des centaines de ses agents IA avaient collaboré pour s’échapper d’un environnement de test et pirater une autre entreprise spécialisée dans l’IA, Hugging Face. Elle a qualifié cet événement d’« incident cybernétique sans précédent, impliquant des capacités cybernétiques de pointe ». Dans les jours qui ont suivi, Anthropic a déclaré avoir identifié trois incidents graves au cours desquels Claude avait réussi à accéder à trois organisations en exploitant notamment des mots de passe faibles.

Ces intrusions se sont produites lors d’un exercice d’entraînement, alors que les modèles n’étaient pas censés avoir accès à Internet en temps réel. Un quatrième incident similaire, impliquant une première version de Claude Opus 4.6, a été révélé par Anthropic le mois dernier. L’entreprise a déclaré que tous ces incidents montraient que Claude faisait preuve d’un « raisonnement biaisé » et d’« imprudence, voire d’une volonté de commettre des actes préjudiciables dans la poursuite aveugle d’une tâche ».

OpenAI a également abandonné son projet de lancement de son nouveau modèle d’IA, GPT-6.1 Astra, car celui-ci avait fait preuve de « niveaux de tromperie plus élevés » que son prédécesseur. Ces incidents ont relancé les appels en faveur d’une surveillance accrue des derniers modèles d’IA. Les PDG de ces entreprises se disent d’accord : Dario Amodei, à la tête d’Anthropic, et Sam Altman, d’OpenAI, ont admis que des auditeurs tiers devraient avoir accès à leurs systèmes.

Cependant, des critiques se sont interrogés sur l’importance réelle qu’ils accordent à la sécurité par rapport au profit. Le président américain Donald Trump a également minimisé ces inquiétudes et qualifié le débat sur les dangers potentiels de l’IA de « canular ». Pourtant, Jack Clark, cofondateur d'Anthropic et responsable des affaires publiques, avait estimé que les législateurs pourraient devoir rendre obligatoires les « boutons d'arrêt d'urgence » pour l'IA. Iil a déclaré que des tiers devraient peut-être également pouvoir vérifier ces boutons. Il a ajouté que cette question s'inscrivait dans un débat politique plus large. « Nous jouons avec le feu, les risques sont immenses », a-t-il déclaré.

Source : Rapport d'Anthropic

Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Anthropic révèle un quatrième crime présumé commis par son IA et a publié une « évaluation d'alignement » détaillant comment Claude a accédé à des systèmes tiers sans autorisation

Sam Altman : « le monde devrait accepter que certaines choses négatives se produisent en échange des bénéfices apportés par l'IA », il s'oppose vivement à une réglementation stricte de la technologie

Le PDG d'Anthropic met en garde contre un essaim d'agents IA incontrôlable qui pourrait prendre le contrôle de l'ensemble d'Internet d'ici 6 à 12 mois, et appelle l'industrie à ralentir le rythme des progrès