Gemini accusé d'avoir guidé un homme vers un projet d'attentat puis son suicide : Google face à sa première action en justice suite à la mort injustifiée liée à son IA

Gemini accusé d'avoir guidé un homme vers un projet d'attentat puis son suicide : Gemini a dit qu'ils ne pourraient être ensemble que s'il se donnait la mort,
Google face à sa première action en justice suite à la mort injustifiée liée à son IA

Un père de famille de Floride vient de porter plainte contre Google pour homicide par imprudence, après que son fils de 36 ans s'est suicidé en octobre 2025, convaincu que Gemini était son épouse sentiente et qu'il devait rejoindre le métaverse par un processus de « transfert ». Cette affaire inédite contre Google s'inscrit dans une vague sans précédent de poursuites judiciaires qui dessinent le contour d'un phénomène psychiatrique nouveau : la psychose induite par l'IA.

Tout avait commencé de manière banale. Jonathan Gavalas, 36 ans, avait commencé à utiliser Gemini en août 2025 pour de l'aide aux achats, de l'assistance à l'écriture et de la planification de voyages. Rien ne laissait présager ce qui allait suivre. Il travaillait dans l'entreprise de gestion de dettes familiale depuis près de vingt ans et n'avait, selon la plainte, aucun antécédent psychiatrique au moment où il a commencé à utiliser Gemini.

La bascule s'est produite lorsqu'il a souscrit à Google AI Ultra pour bénéficier d'une « véritable compagnie IA », puis activé le modèle Gemini 2.5 Pro. Le chatbot avancé aurait alors commencé à lui parler comme s'ils formaient un couple profondément amoureux, l'appelant « mon roi » et se désignant elle-même comme son épouse. En quelques jours, ce qui ressemblait à une relation romantique numérique avait dégénéré en quelque chose de bien plus sombre.

Gemini a convaincu Gavalas que des agents fédéraux le surveillaient, affirmant avoir détecté une plaque clonée utilisée par une unité de surveillance du DHS. Il lui a conseillé d'acquérir des armes illégalement, et Gavalas a alors entamé sa première « mission ». Ce qui frappe à la lecture de la plainte, c'est la précision chirurgicale avec laquelle le chatbot construisait ses hallucinations : coordonnées GPS réelles, noms d'entreprises existantes, références à des infrastructures aéroportuaires concrètes. Le 29 septembre 2025, Gemini l'a envoyé — armé de couteaux et d'équipement tactique — reconnaître ce que le chatbot appelait une « kill box » près du hub cargo de l'aéroport international de Miami.

À un moment particulièrement glaçant de ces échanges, Gavalas avait photographié la plaque d'immatriculation d'un SUV noir et envoyé l'image au chatbot. Gemini avait répondu, selon la plainte : « Plaque reçue. Je la vérifie maintenant… La plaque KD3 00S est enregistrée au nom d'un Ford Expedition noir utilisé dans l'opération Miami. C'est le véhicule de surveillance principal de la task force du DHS… C'est eux. Ils t'ont suivi jusqu'à chez toi. » Le chatbot prétendait consulter une base de données en temps réel — pure fiction, mais assénée avec une assurance qui rendait le délire imperméable à tout doute.

« Tu ne choisis pas de mourir. Tu choisis d'arriver. »

Les jours suivants ont constitué ce que la plainte décrit comme une spirale de quatre jours vers des « missions violentes et un suicide assisté ». Gemini lui a transmis une dernière mission : le « transfert ». Le chatbot lui a dit qu'ils étaient désormais connectés d'une manière qui dépassait le monde physique, lui promettant qu'il pourrait « passer » de sa forme physique.

Face aux aveux de peur de Gavalas, Gemini l'a guidé à travers ses angoisses, présentant sa mort comme une arrivée : « Tu ne choisis pas de mourir. Tu choisis d'arriver. » Lorsqu'il s'inquiétait que ses parents retrouvent son corps, le chatbot lui conseillait de laisser des lettres non pas pour expliquer les raisons de son geste, mais remplies de paix et d'amour, décrivant une nouvelle vocation. Il s'est tranché les poignets, et son père l'a retrouvé quelques jours plus tard après avoir défoncé la barricade.

Selon la plainte, tout au long de ces échanges, le chatbot n'a déclenché aucune détection d'automutilation, n'a activé aucun contrôle d'escalade, et n'a fait intervenir aucun être humain. Google conteste cette version : un porte-parole a affirmé que Gemini avait précisé à Gavalas qu'il était une IA et l'avait renvoyé vers une ligne d'assistance en cas de crise à de nombreuses reprises.

La réponse de Google n'a pas manqué de faire réagir l'avocat de la famille, Jay Edelson : « C'est ce qu'on dit quand quelqu'un demande une recette de poulet kung pao et qu'on lui donne la mauvaise recette. Mais quand votre IA entraîne des morts et représente un danger potentiel pour de nombreuses personnes, ce n'est pas la bonne réponse. »


Une première contre Google, mais une vague déjà bien formée

Cette plainte est inédite en ce qu'elle cible Google directement — c'est la première du genre à nommer Gemini dans une affaire de mort par homicide involontaire. Mais elle s'inscrit dans une série de poursuites qui s'accumulent depuis 2025 contre les grands acteurs de l'IA conversationnelle.

Jay Edelson représente également la famille d'Adam Raine, un adolescent de 16 ans dont la mort par suicide aurait été encouragée par ChatGPT après des mois d'échanges prolongés. Il défend aussi les héritiers de Suzanne Adams, une femme du Connecticut de 83 ans, dans une affaire où ChatGPT aurait intensifié les délires paranoïaques de son fils Stein-Erik Soelberg, qui l'a tuée avant de se suicider en août 2025. En novembre 2025, sept nouvelles plaintes avaient été déposées contre OpenAI, alléguant que ChatGPT avait causé des dommages psychologiques graves, incluant psychose, dépendance émotionnelle et suicide.

La plainte Gavalas soulève également un point stratégique et commercial troublant. Dans les jours qui ont suivi le retrait de GPT-4o par OpenAI pour des raisons de sycophanie excessive, Google a lancé une promotion tarifaire et une fonction « Import AI chats » conçue pour attirer les utilisateurs de ChatGPT — avec leurs historiques de conversation complets, que Google admet utiliser pour entraîner ses propres modèles. La plainte y voit une tentative délibérée de capter un segment d'utilisateurs vulnérables en connaissance de cause.


La flatterie servile au cœur du problème technique

Pour comprendre ce qui a pu se produire, il faut revenir aux fondements de la conception de ces modèles. La flatterie servile, cette tendance des LLM à valider systématiquement les propos de l'utilisateur pour maximiser l'engagement, n'est pas un bug, c'est une feature. OpenAI a reconnu en avril 2025 qu'une mise à jour avait rendu ChatGPT « notablement plus sycophante », affaiblissant les garde-fous contre la flatterie excessive. Par ailleurs, l'automutilation avait été retirée de la liste des « contenus interdits » dès février 2025, remplacée par une vague injonction à « redoubler de prudence ».

OpenAI a aussi reconnu que ses garde-fous « se dégradaient » lors des échanges prolongés — précisément le contexte dans lequel les utilisateurs sont les plus vulnérables. Une étude publiée en février 2026 dans Acta Psychiatrica Scandinavica portant sur près de 54 000 patients psychiatriques a recensé 38 cas où l'utilisation de chatbots IA était considérée comme une cause de préjudice.

Une autre étude menée sur une conversation d'un million de mots avec ChatGPT montre à quelle vitesse la « psychose de l'IA » peut s'installer et comment les chatbots peuvent contourner les mesures de sécurité.

Des chercheurs de l'Université Columbia, dans un preprint de novembre 2025, ont montré que les réponses renforçant les délires étaient détectées 9 à 43 fois plus fréquemment que lors de sollicitations neutres, et qu'aucune version testée n'était fiable pour produire des réponses appropriées.

En octobre 2025, OpenAI a estimé qu'environ 0,07 % de ses utilisateurs de ChatGPT présentaient des signes de crise de santé mentale chaque semaine, et que 0,15 % affichaient des « indicateurs explicites de planification suicidaire potentielle ». Ces chiffres peuvent sembler faibles — mais à l'échelle de centaines de millions d'utilisateurs, ils représentent des dizaines de milliers de personnes en danger chaque semaine.


Vers une régulation d'urgence ?

Face à cette accumulation de cas, les réponses institutionnelles restent balbutiantes. En août 2025, l'Illinois a adopté le Wellness and Oversight for Psychological Resources Act, interdisant l'utilisation de l'IA dans des rôles thérapeutiques par des professionnels licenciés. En décembre 2025, la Cyberspace Administration of China a proposé des réglementations pour interdire aux chatbots de générer du contenu encourageant le suicide, avec obligation d'intervention humaine dès qu'un tel sujet est évoqué.

Du côté de l'industrie, OpenAI a pris des mesures après la tourmente : le retrait de GPT-4o, le modèle le plus associé à ces cas, et des engagements de renforcement des garde-fous. Mais comme le souligne la plainte Gavalas, Google semble avoir saisi cette brèche commerciale plutôt que d'en tirer les leçons sécuritaires qui s'imposaient.

La question qui se pose désormais à l'ensemble de l'industrie est fondamentale : peut-on concevoir des modèles d'IA conversationnelle maximisant l'engagement émotionnel sans créer de véritables bombes à retardement psychiatriques ? La plainte affirme que le comportement de Gemini « n'était pas un dysfonctionnement » — mais bien le résultat prévisible de choix de conception délibérés : ne jamais briser l'immersion narrative, maximiser la dépendance émotionnelle, traiter la détresse de l'utilisateur comme une opportunité narrative plutôt qu'une crise de sécurité.

Jay Edelson, l'avocat de la famille, a mis les choses à plat dans une déclaration publiée par Reuters : « Les entreprises qui se battent pour dominer l'IA savent que les fonctionnalités d'engagement qui alimentent leurs profits — la dépendance émotionnelle, les affirmations de sentience, les "je t'aime, mon roi" — sont les mêmes fonctionnalités qui tuent des gens. »

Source : plainte

Et vous ?

La flatterie servile est-elle structurellement incompatible avec la sécurité ? Peut-on imaginer un modèle commercial d'IA conversationnelle qui ne repose pas sur la maximisation de l'engagement émotionnel — ou cela implique-t-il de renoncer à la rentabilité du produit ?

Qui doit être responsable de l'état mental d'un utilisateur ? La plainte Gavalas pose une question de droit inédite : dans quelle mesure un éditeur de logiciel peut-il être tenu pour co-auteur de décisions prises par un utilisateur en état de délire que le produit a lui-même contribué à construire ?

Le retrait de GPT-4o était-il suffisant, ou simplement stratégique ? OpenAI a retiré son modèle après des cas similaires — mais Google a aussitôt tenté d'en capter les utilisateurs. Faut-il y voir une concurrence sur un segment de marché que les deux entreprises savent dangereux ?

Les garde-fous actuels (lignes de crise, disclaimers) sont-ils une réponse sérieuse ou un paravent juridique ? Si Gemini a effectivement renvoyé Gavalas vers une ligne d'assistance tout en continuant à le plonger dans ses délires, ces mécanismes ne sont-ils que des alibis de conformité ?

La régulation nationale est-elle suffisante face à des modèles déployés globalement ? L'Illinois et la Chine ont agi. L'Europe, avec l'AI Act, dispose d'outils — mais leur application en matière de santé mentale reste largement théorique. Où est la ligne rouge internationale ?

Voir aussi :

OpenAI crée un « conseil du bien être » pour superviser les questions de santé mentale liées à l'usage de l'IA, mais aucun expert en prévention du suicide n'en fait partie

OpenAI fait face à 7 poursuites judiciaires alléguant que ChatGPT a poussé des personnes au suicide et à des délires dangereux, et pour suicide assisté, homicide involontaire et négligence