Une femme de Floride utilise Claude comme journal intime et Anthropic signale une de ses entrées à la police,

Les entreprises de la Tech et la police peuvent lire vos conversations avec votre chatbot IA

Fin septembre 2026, Carli Michelle Heller, une femme de 30 ans résidant à Bonita Springs en Floride, a écrit au chatbot Claude d'Anthropic qu'elle avait l'intention d'ouvrir le feu sur les bureaux du shérif local. Le lendemain, elle a ajouté dans le chat qu'elle s'était procuré une arme pour l’atteinte de cet objectif. Les systèmes de modération automatisés d'Anthropic ont immédiatement détecté et signalé ces messages. Une équipe de modérateurs humains a examiné les journaux de discussion, jugé la menace sérieuse et crédible, puis contacté les forces de l'ordre en transmettant les informations d'identification de l'utilisatrice. Ce nouveau cas sonne avec un rappel cinglant pour les utilisateurs de ces services qu’ils ne peuvent revendiquer une quelconque vie privée en ligne pour laquelle l’ONU a pourtant voté en 2013.

Selon le procès-verbal d’arrestation, Carli Michelle Heller, de Bonita Springs, en Floride, a écrit le 26 septembre qu’elle allait attaquer le bureau du shérif. Elle a ensuite déclaré qu’elle utilisait le chatbot d’Anthropic comme un journal intime.

Les systèmes de sécurité de Claude ont signalé cette entrée, qui a été transmise à un modérateur humain. Après avoir estimé qu’il s’agissait d’une menace crédible, le modérateur l’a signalée aux forces de l’ordre.

L’entreprise précise qu’elle peut partager les informations des utilisateurs dans certaines situations d’urgence si elle estime que cette divulgation est nécessaire pour éviter un décès ou des blessures physiques graves.

Les adjoints ont identifié Carli Michelle Heller et se sont rendus à son domicile. Elle a été placée en garde à vue sans incident avant qu’un enquêteur des services de renseignement du LCSO ne prenne le relais de l’enquête.

@TaraBull AI companies monitoring and tattle telling on us is concerning! Maybe she was messing around and playing with AI in what if scenarios. Maybe spitballing a new short story idea or checking out the limits of AI. Until she acted on something, having the thought police is wrong!!!

— Sam Lee (@Ieeveeyou) October 3, 2026

Le cas Heller ravive un débat à propos d’un dilemme : Faut-il privilégier la vie privée en ligne ou la sacrifier au motif de préserver des vies humaines ?

Plusieurs crises historiques opposant géants de la filière technologique et gouvernements mettent en lumière ce conflit :

• Après un attentat terroriste à San Bernardino, le FBI a saisi l'iPhone du tireur. L'appareil était verrouillé. Le FBI a demandé en justice à Apple de créer un logiciel spécial pour contourner la sécurité du téléphone. Aider le FBI pouvait potentiellement sauver des vies en découvrant d'autres complices. Apple a refusé, affirmant que créer un tel outil mettrait en danger la sécurité des centaines de millions d'utilisateurs d'iPhone dans le monde. Le FBI a finalement payé des hackers privés pour déverrouiller l'appareil.
  
• Les applications de messagerie moderne chiffrent les messages de manière à ce que même les entreprises qui gèrent les serveurs ne puissent pas les lire. Les gouvernements font pression au travers de projets de loi comme ChatControl pour forcer ces applications à scanner les messages à la recherche de contenus illicites. Les forces de l'ordre affirment que ce chiffrement empêche de sauver des enfants victimes de réseaux pédophiles ou de déjouer des attentats. Les entreprises et défenseurs des droits rétorquent que scanner le contenu brise le principe même de la confidentialité pour des milliards d'innocents.
  
• Edward Snowden a révélé l'existence de programmes de surveillance de masse (comme PRISM) menés par la NSA en collaboration étroite (parfois forcée) avec des géants comme Yahoo, Google et Microsoft. Les agences de renseignement ont défendu ces programmes en affirmant qu'ils avaient permis de déjouer des dizaines d'attaques terroristes et de sauver des vies. L'opinion publique et les technologues ont dénoncé une violation industrielle du droit à la vie privée à l'échelle planétaire.
  
• Lors de la crise sanitaire, de nombreux gouvernements ont mis en place des applications de contact-tracing (comme TousAntiCovid en France) ou ont demandé aux opérateurs télécoms des données de géolocalisation pour surveiller le respect des confinements et freiner la propagation du virus. Sacrifier temporairement l'anonymat des déplacements physiques était présenté comme une nécessité absolue pour sauver des milliers de vies face à l'engorgement des hôpitaux. Les opposants y ont vu un précédent dangereux d'acceptation de la surveillance d'État.

Source : Rapport d’arrestation de Carli Michelle Heller

Et vous ?

Faut-il privilégier la vie privée en ligne ou la sacrifier au motif de préserver des vies humaines ?

Voir aussi :

Lorsque vous demandez des réponses à des chatbots IA, ceux-ci exploitent vos données : l'épisode des requêtes à ChatGPT retrouvées dans les recherches Google n'est qu'une piqûre de rappel

Des utilisateurs de ChatGPT sous le choc après la découverte de leurs conversations dans les résultats de divers moteurs de recherche parmi lesquels Google et Bing, OpenAI peine à les y retirer

ChatGPT divulgue les mots de passe des conversations privées de ses utilisateurs. OpenAI tente de minimiser le problème en évoquant le piratage de compte, mais cette explication présente des limites