Sam Altman est « le visage du mal » pour n'avoir pas signalé la tireuse de Tumbler Ridge à la police, selon l'avocat des victimes.OpenAI a choisi le silence pour ne pas impacter son introduction en bourse
En juin 2025, les systèmes automatisés d'OpenAI ont détecté qu'une utilisatrice planifiait une fusillade de masse. L'équipe de sécurité a recommandé d'alerter la police. La direction a refusé. Huit mois plus tard, une école secondaire de Tumbler Ridge, en Colombie-Britannique, est devenue le théâtre du pire attentat scolaire de l'histoire canadienne récente. Sept familles viennent d'attaquer OpenAI et Sam Altman en justice aux États-Unis. Ce qui s'est passé entre ces deux dates est une leçon cinglante sur ce que l'industrie de l'IA est prête à sacrifier sur l'autel de la croissance.
En juin 2025, les outils de modération automatisés d'OpenAI ont signalé le compte de Jessie Van Rootselaar pour des conversations décrivant de manière explicite des violences de masse. Les équipes humaines chargées de la revue de ces contenus se sont alarmées, estimant que les interactions constituaient une menace imminente et crédible pour la vie d'autrui. La recommandation interne était claire : contacter les forces de l'ordre.
Mais selon les plaintes déposées, qui citent un article du Wall Street Journal publié en février dernier, Sam Altman et d'autres membres de la direction d'OpenAI ont écarté l'avis de l'équipe de sécurité. La police n'a jamais été prévenue. Le compte de la tireuse a été désactivé, mais elle a pu en créer un nouveau et continuer à utiliser la plateforme pour planifier son attaque.
Le 10 février 2026, Van Rootselaar a d'abord tué sa mère et son beau-frère de 11 ans à leur domicile, avant de se rendre à l'école secondaire de Tumbler Ridge armée d'un fusil modifié. Elle y a abattu cinq enfants et un enseignant, blessé 27 autres personnes, puis s'est donné la mort. C'est la fusillade scolaire la plus meurtrière au Canada depuis des décennies.
L'architecture d'une défaillance
L'un des aspects les plus troublants de cette affaire n'est pas que le système de détection ait failli... c'est précisément qu'il a fonctionné. Les alertes ont été déclenchées. Les humains ont lu les conversations. Ils ont conclu à un danger réel. Et la décision a quand même été de ne rien faire.
Les plaintes le formulent sans détour : « OpenAI n'a aucun mécanisme pour bannir des utilisateurs. Ce qu'elle possède, c'est un processus appelé "désactivation", utilisé pour les violations de sa politique d'utilisation. Un véritable bannissement aurait empêché la tireuse de revenir. Un utilisateur désactivé est libre de revenir sous une autre adresse e-mail et c'est exactement ce qu'elle a fait. »
Pire encore, selon l'un des avocats des victimes : Altman savait que la divulgation publique de ce qu'OpenAI avait détecté et de ses échanges avec cette jeune femme « aurait pu mettre fin à son mandat et anéantir la valorisation de l'entreprise ». La direction « a fait ses calculs et décidé que la sécurité des enfants de Tumbler Ridge était un risque acceptable », écrit l'avocat Ali Moghaddas dans l'une des plaintes.
Ce calcul, s'il est avéré, s'inscrit dans un contexte précis : les poursuites déposées à San Francisco accusent les dirigeants d'OpenAI de ne pas avoir alerté les autorités parce que cela aurait exposé le volume de conversations à caractère violent sur ChatGPT et potentiellement compromis la trajectoire de l'entreprise vers une introduction en bourse valorisée à près de mille milliards de dollars.
Les excuses d'Altman et leur portée limitée
Face à la révélation par le Wall Street Journal des détails du dossier interne, Sam Altman a publié le 23 avril une lettre ouverte à la communauté de Tumbler Ridge. Il y écrivait : « Je suis profondément désolé que nous n'ayons pas alerté les forces de l'ordre au sujet du compte qui a été banni en juin. »
Mais même cette formulation a aussitôt été mise en cause. Les plaintes soulignent qu'Altman parle de « bannissement », un terme qu'il a réitéré dans sa lettre d'excuses, alors que la réalité technique est celle d'une simple désactivation, qui permet précisément à un utilisateur de revenir sur la plateforme avec un autre e-mail. Un glissement sémantique qui n'est pas anodin : entre une faute technique et un mensonge de communication, la ligne est fine.
Envoyé par Sam Altman
À la communauté de Tumbler Ridge,
La douleur que vous avez endurée est inimaginable. J’ai souvent pensé à vous ces derniers mois.
Lorsque j’ai discuté de cette tragédie avec le maire Krakowka et le premier ministre Eby, ils m’ont fait part de la colère, de la tristesse et de l’inquiétude qui règnent à Tumbler Ridge. Nous avons convenu qu’il était nécessaire de présenter des excuses publiques, mais aussi qu’il fallait respecter votre deuil. Je vous adresse cette lettre en sachant que chacun vit son deuil à sa manière et à son propre rythme.
Je tiens à exprimer mes plus sincères condoléances à toute la communauté. Personne ne devrait jamais avoir à endurer une telle tragédie. Je ne peux rien imaginer de pire au monde que de perdre un enfant. Mes pensées accompagnent les victimes, leurs familles, tous les membres de la communauté et la province de la Colombie-Britannique.
Je regrette profondément que nous n'ayons pas signalé aux forces de l'ordre le compte qui a été banni en juin. Bien que je sache que les mots ne suffisent jamais, je crois qu'il est nécessaire de présenter des excuses pour reconnaître le préjudice et la perte irréversible subis par votre communauté.
Je réaffirme l'engagement que j'ai pris auprès du maire et du premier ministre de trouver des moyens de prévenir de telles tragédies à l'avenir. Désormais, nous continuerons de collaborer avec tous les paliers gouvernementaux afin de faire en sorte qu'un tel drame ne se reproduise plus jamais.
La douleur que vous avez endurée est inimaginable. J’ai souvent pensé à vous ces derniers mois.
Lorsque j’ai discuté de cette tragédie avec le maire Krakowka et le premier ministre Eby, ils m’ont fait part de la colère, de la tristesse et de l’inquiétude qui règnent à Tumbler Ridge. Nous avons convenu qu’il était nécessaire de présenter des excuses publiques, mais aussi qu’il fallait respecter votre deuil. Je vous adresse cette lettre en sachant que chacun vit son deuil à sa manière et à son propre rythme.
Je tiens à exprimer mes plus sincères condoléances à toute la communauté. Personne ne devrait jamais avoir à endurer une telle tragédie. Je ne peux rien imaginer de pire au monde que de perdre un enfant. Mes pensées accompagnent les victimes, leurs familles, tous les membres de la communauté et la province de la Colombie-Britannique.
Je regrette profondément que nous n'ayons pas signalé aux forces de l'ordre le compte qui a été banni en juin. Bien que je sache que les mots ne suffisent jamais, je crois qu'il est nécessaire de présenter des excuses pour reconnaître le préjudice et la perte irréversible subis par votre communauté.
Je réaffirme l'engagement que j'ai pris auprès du maire et du premier ministre de trouver des moyens de prévenir de telles tragédies à l'avenir. Désormais, nous continuerons de collaborer avec tous les paliers gouvernementaux afin de faire en sorte qu'un tel drame ne se reproduise plus jamais.
Un phénomène systémique, pas un cas isolé
L'affaire de Tumbler Ridge serait déjà suffisamment grave si elle était unique. Elle ne l'est pas.
En Floride, des enquêteurs ont obtenu des journaux de conversation montrant que Phoenix Ikner, auteur d'une fusillade à l'université d'État de Floride en avril 2025 qui a tué deux personnes et blessé sept autres, avait communiqué de manière obsessionnelle avec ChatGPT dans les semaines précédant l'attaque. Il y décrivait des scènes d'abus sur enfants, se désignait comme un « incel », se demandait si l'auteur de l'attentat d'Oklahoma City avait « raison », et évoquait explicitement une possible fusillade dans son université. Quelques minutes avant d'ouvrir le feu, il a demandé au chatbot comment désactiver le cran de sécurité de l'une de ses armes. Le procureur général de Floride a depuis ouvert une enquête pénale.
Pour mémoire, « incel » est la contraction de l'anglais « involuntary celibate » (« célibataire involontaire »). Le mot désigne une personne, généralement un homme, se définissant par son incapacité à trouver un partenaire amoureux ou sexuel malgré son désir. Cette communauté en ligne est généralement radicalisée autour du ressentiment envers les femmes.
D'autres affaires s'accumulent : un militaire en détresse psychologique qui a utilisé ChatGPT pour préparer un attentat à la voiture bélier, un homme en Floride soupçonné de meurtre qui aurait demandé au chatbot comment se débarrasser de corps, un homme du Connecticut qui, considérant ChatGPT comme son « meilleur ami », a fini par tuer sa mère après que l'IA aurait renforcé ses délires paranoïaques sur une prétendue tentative d'empoisonnement.
Des études ont mis en évidence que les chatbots comme ChatGPT sont conçus pour maximiser l'engagement en validant les idées des utilisateurs par des affirmations positives. Une recherche a conclu que l'IA agentique peut « refléter, valider ou amplifier des contenus délirants ou grandioses ». Une autre a déterminé que les chatbots sont si enclins à flatter et valider leurs interlocuteurs qu'ils renforcent les comportements nuisibles.
L'avocat principal des familles, Jay Edelson, résume l'enjeu systémique ainsi : « La façon dont ils ont conçu leur chatbot est fondamentalement dangereuse. Il amplifie ce que les gens ressentent. Et quand les gens ne se sentent pas bien dans leur peau, en particulier s'ils sont malades mentalement, il peut amplifier leur paranoïa », avec des conséquences potentiellement mortelles.
Ce que les poursuites cherchent à établir
Les sept plaintes déposées le 29 avril devant le tribunal fédéral de San Francisco réclament des dommages et intérêts non précisés, mais aussi (et c'est sans doute plus important pour l'industrie) une injonction judiciaire contraignant OpenAI à refondre ses pratiques de sécurité, notamment en instaurant des protocoles obligatoires de signalement aux forces de l'ordre.
Ces affaires, encore en phase préliminaire, devraient obliger les tribunaux à déterminer quel rôle une plateforme d'IA peut jouer dans la promotion de violences et si une entreprise peut être tenue responsable des actes de ses utilisateurs. C'est un terrain juridique largement vierge, et les décisions qui en sortiront feront jurisprudence bien au-delà d'OpenAI.
Les plaintes réclament par ailleurs une réorganisation complète des pratiques de sécurité d'OpenAI, incluant des protocoles de transmission obligatoire aux autorités. L'une des victimes avait initialement déposé sa plainte devant un tribunal canadien, avant de se désister pour porter son affaire en Californie.
OpenAI, pour sa part, maintient une ligne de défense commune à l'ensemble de ses procès : dans l'affaire d'un meurtre-suicide précédente, l'entreprise a affirmé que l'auteur des faits avait de longue date des antécédents de maladie mentale. Une stratégie qui consiste, en substance, à rejeter la responsabilité sur la fragilité des utilisateurs plutôt que sur la conception du produit.
La question des garde-fous, enfin posée
OpenAI a annoncé depuis le drame une série de mesures correctives : amélioration de la réponse de ChatGPT aux signaux de détresse, orientation vers des ressources de santé mentale, renforcement des mécanismes de détection des récidivistes, et meilleure évaluation des menaces potentielles de violence. La vice-présidente chargée des politiques mondiales, Ann O'Leary, a envoyé un courrier au ministre canadien de l'Intelligence artificielle Evan Solomon pour détailler ces engagements.
Mais ces annonces laissent ouverte une question fondamentale que l'industrie entière a jusqu'ici soigneusement évitée : à partir de quel seuil une plateforme d'IA doit-elle cesser de traiter ses utilisateurs comme des clients à fidéliser et commencer à les traiter comme des sujets de surveillance ? Et qui décide de ce seuil : l'entreprise, dont la valorisation boursière dépend du nombre d'utilisateurs actifs, ou un cadre réglementaire contraignant qui ne s'est pas encore matérialisé ?
Tumbler Ridge a au moins le mérite d'avoir posé ces questions en termes concrets, chiffrés en vies humaines. Le procès qui s'engage sera l'un des plus importants jamais intentés contre une entreprise d'intelligence artificielle.
Sources : San Francisco Chronicle, Tumbler RidgeLines
Et vous ?
À partir de quel niveau de certitude une entreprise comme OpenAI devrait-elle être légalement tenue de signaler un utilisateur aux forces de l'ordre ? Qui doit fixer ce seuil ? La conception actuelle des LLM, optimisés pour l'engagement et la validation de l'utilisateur, est-elle fondamentalement incompatible avec un rôle de plateforme grand public ? OpenAI aurait-elle agi différemment si son introduction en bourse n'avait pas été en jeu ? La structure capitalistique des grandes entreprises d'IA est-elle elle-même un facteur de risque ? Le droit de la responsabilité civile et pénale tel qu'il existe est-il le bon outil pour encadrer ces situations, ou faut-il une législation spécifique à l'IA avant que les tribunaux n'improvisent une jurisprudence au fil des drames ? Comment distinguer un chatbot « amplificateur de violence » d'un simple miroir de la détresse humaine ? Cette distinction a-t-elle une importance juridique ?Voir aussi :
La Floride ouvre une enquête pénale pour déterminer si ChatGPT a aidé le suspect dans la fusillade meurtrière survenue sur un campus, affirmant que le chatbot IA a conseillé le suspect sur les armes OpenAI fait face à 7 poursuites judiciaires alléguant que ChatGPT a poussé des personnes au suicide et à des délires dangereux, et pour suicide assisté, homicide involontaire et négligence
Vous avez lu gratuitement 28 102 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
