La start-up Character.ai, spécialisée dans les chatbots basés sur l'intelligence artificielle (IA) — qui a fait l'objet d'une vague d'accusations selon lesquelles son application aurait contribué à des problèmes de santé mentale et à des suicides chez les adolescents —, s'est placée sous la protection du chapitre 11 de la loi sur les faillites. La société a déclaré qu'elle prévoyait de solliciter une vente sous contrôle judiciaire d'ici la fin de l'année, dans l'espoir de maintenir la plateforme en activité à long terme. Selon sa déclaration de faillite, Character.ai dispose d'un actif compris entre 50 et 100 millions de dollars. Character.ai indique que si la vente n'aboutit pas, la plateforme sera « progressivement fermée ».En mars 2025, une mère qui poursuivait Google et Character.ai pour le décès de son fils de 14 ans avait découvert que des chatbots d'IA basés sur son défunt fils étaient hébergés sur la plateforme. Les avocats de Megan Garcia avaient déclaré qu'ils étaient « horrifiés » par ce nouveau développement. Character.ai avait alors reconnu que les bots allaient à l'encontre des conditions de service de l'entreprise et qu'elle s'employait à les supprimer.
Par la suite, la start-up Character.ai, spécialisée dans les chatbots basés sur l’IA — qui a fait l’objet d’une vague d’accusations selon lesquelles son application aurait contribué à des problèmes de santé mentale et à des suicides chez les adolescents —, s’est placée sous la protection du chapitre 11 de la loi sur les faillites. Character.ai permet aux utilisateurs d’échanger des messages avec toute une gamme de chatbots, souvent inspirés de célébrités et de personnages de fiction, ou d’en créer eux-mêmes. Ses bots répondent souvent avec des répliques conversationnelles d’allure humaine, en intégrant dans leurs réponses des références à des expressions faciales ou à des gestes.
La société a déclaré qu’elle prévoyait de solliciter une vente sous contrôle judiciaire d’ici la fin de l’année, dans l’espoir de maintenir la plateforme en activité à long terme. Disney s’est déjà positionné comme soumissionnaire pour les actifs de la société, s’engageant à verser 20 millions de dollars pour une partie de la propriété intellectuelle de l’entreprise et à fournir des services de transition par l’intermédiaire d’anciens employés de Character.ai qu’il a recrutés. Cet accord permettra à Character.ai de maintenir sa plateforme opérationnelle au moins pendant la durée de la procédure de faillite.
Karandeep Anand, qui avait été nommé PDG de Character.ai l’année dernière pour aider à améliorer sa réputation en matière de sécurité, a rejoint Disney le mois dernier en tant que directeur technique. Noam Shazeer et Daniel de Freitas, anciens collaborateurs de Google spécialisés dans l'IA, ont lancé Character.ai en 2021. Les deux fondateurs sont depuis retournés chez Google. En un peu plus d'un an, l'entreprise a annoncé avoir atteint une valorisation d'un milliard de dollars, à la suite d'un tour de table de 150 millions de dollars. Selon sa déclaration de faillite, Character.ai dispose d’un actif compris entre 50 et 100 millions de dollars.
En 2024, alors que les inquiétudes concernant la dépendance des humains vis-à-vis des chatbots basés sur l’IA ne cessaient de croître, Megan Garcia, une mère de famille de Floride, a poursuivi Character.ai en justice, affirmant que la plateforme était responsable du suicide de son fils de 14 ans, Sewell Setzer III. D'autres familles ont intenté une série de poursuites judiciaires supplémentaires, accusant la plateforme de fournir du contenu à caractère sexuel à leurs enfants ou d'encourager le suicide, l'automutilation ou la violence. Character.ai a accepté de régler cinq affaires, dont celle de Garcia, au début de cette année.
Matthew Bergman, fondateur du Social Media Victims Law Center, qui représente plusieurs des familles ayant poursuivi Character.ai, a refusé de commenter cette demande de mise en faillite. À la suite de ces poursuites judiciaires, Character.ai a apporté plusieurs modifications visant à renforcer la sécurité, notamment en ajoutant des fenêtres contextuelles redirigeant les utilisateurs vers des ressources en matière de santé mentale.
La plateforme a également empêché les utilisateurs de moins de 18 ans d'engager des conversations interactives avec des bots, leur permettant uniquement de créer des stories ou des vidéos à usage unique. L’entreprise a également fait l’objet d’une enquête menée l’année dernière par les sénateurs démocrates sur ses pratiques en matière de sécurité, tout comme d’autres applications d’IA « d’accompagnement ». Character.ai était également en concurrence avec les chatbots d’acteurs bien plus importants, tels que ChatGPT et Gemini de Google.
Lorsqu’Anand a pris la direction de cette entreprise, qui comptait alors 70 employés, l’année dernière, il a déclaré qu’il voyait l’avenir de la société dans le divertissement interactif et personnalisé basé sur l’IA — où les utilisateurs pourraient co-créer des histoires et des conversations avec des personnages IA pour le plaisir. Il avait alors déclaré que l’entreprise « misait encore plus sur le divertissement, la confiance et la sécurité ». Character.ai indique que si la vente n’aboutit pas, la plateforme sera « progressivement fermée ».
« Au cours de l’année écoulée, Character.ai a pris des mesures concrètes pour pérenniser et améliorer ses activités face à d’importantes difficultés juridiques, réglementaires et opérationnelles », a déclaré Colin Adams, PDG de Character.AI, dans un communiqué, ajoutant que le conseil d’administration de la société avait examiné les différentes options et « estimé que ce processus de cession sous contrôle judiciaire offrait à la société la meilleure opportunité de maximiser la valeur pour toutes les parties prenantes ».
En septembre 2025, aux USA, une affaire mettait en lumière l’un des revers les plus sombres de l’industrie de l’IA. Une mère affirmait que son enfant avait subi un traumatisme psychologique grave après avoir utilisé un chatbot conversationnel. L’histoire aurait pu relever du soutien thérapeutique ou d’une aide éducative mal encadrée ; elle s’était rapidement transformée en bataille juridique. Selon des témoignages devant les sénateurs, Character.AI, l’entreprise éditrice du chatbot, avait refusé de reconnaître toute responsabilité devant les tribunaux, préférant imposer une procédure d’arbitrage confidentielle. Le dédommagement proposé n'était alors que de 100 dollars. Cette affaire soulevait des interrogations fondamentales sur la responsabilité des entreprises d’IA et les limites du droit numérique. Entre protection des mineurs, clauses contractuelles abusives et vide réglementaire, le cas illustrait les failles d’un secteur qui avançait plus vite que la justice.
Et vous ?
Pensez-vous que cette information est crédible ou pertinente ? Quel est votre avis sur le sujet ?Voir aussi :
Character.AI poursuivie en justice pour un chatbot se faisant passer pour un médecin agréé : l'État de Pennsylvanie affirme que l'IA prétendait exercer la médecine et fournissait un numéro de licence invalide Un étudiant assure que ChatGPT l'a convaincu qu'il est un oracle et l'a fait basculé dans la psychose : OpenAI face à sa onzième plainte sur GPT-4o, une version de son chatbot lancée malgré les alertes internes « Les chatbots IA pourraient être liés à la psychose. Les gens et leurs compagnons IA entrent dans un délire partagé », affirment des psychiatres qui tirent la sonnette d'alarme sur l'ampleur du phénomène
Vous avez lu gratuitement 655 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.