Zoë Hitzig, chercheuse d'OpenAI, démissionne à cause des publicités ChatGPT et met en garde : « OpenAI commet les mêmes erreurs que Facebook »

Le jour même où OpenAI a commencé à tester les publicités

Zoë Hitzig, chercheuse d'OpenAI, démissionne à cause des publicités ChatGPT et met en garde : « OpenAI commet les mêmes erreurs que Facebook », le jour même où OpenAI a commencé à tester les publicités

la chercheuse en chef d'OpenAI, Zoe Hitzig, a démissionné. Annonçant sa démission sur X, anciennement Twitter, Hitzig a déclaré : « J'ai démissionné d'OpenAI lundi. Le même jour, ils ont commencé à tester des publicités dans ChatGPT. OpenAI dispose des archives les plus détaillées jamais constituées sur les pensées privées des êtres humains. Pouvons-nous leur faire confiance pour résister à la pression qui les pousse à en abuser ? J'ai écrit un article sur les meilleures options pour @nytopinion. »

Ce début du mois de février, OpenAI passe à l'action et entame avec les tests des publicités dans ChatGPT pour les utilisateurs américains bénéficiant de l'abonnement gratuit et de son nouvel abonnement moins cher à 8 dollars, ChatGPT Go. L’objectif annoncé : favoriser un accès plus large à des fonctionnalités ChatGPT plus puissantes, tout en préservant la confiance que les utilisateurs accordent à ChatGPT pour des tâches importantes et personnelles. Cependant, l'initiative continue de créer un débat, certains concurrents d'OpenAI, notamment Google et Anthropic, ont déclaré qu'ils n'avaient pas l'intention de faire de même pour leurs modèles d'IA.

Même au sein d'OpenAI, il semble que cette initiative ait créé des divergences. Récemment, la chercheuse en chef d'OpenAI, Zoe Hitzig, a démissionné. Annonçant sa démission sur X, anciennement Twitter, Hitzig a déclaré : « J'ai démissionné d'OpenAI lundi. Le même jour, ils ont commencé à tester des publicités dans ChatGPT. OpenAI dispose des archives les plus détaillées jamais constituées sur les pensées privées des êtres humains. Pouvons-nous leur faire confiance pour résister à la pression qui les pousse à en abuser ? J'ai écrit un article sur les meilleures options pour @nytopinion. »

Son article d'opinion dans le New York Times s'intitule « OpenAI répète les erreurs commises par Facebook. Je démissionne. » Zoe Hitzig est chercheuse scientifique chez OpenAI et membre junior de la Harvard Society of Fellows. Elle a obtenu son doctorat en économie à Harvard en 2023. Elle est titulaire d'un master de l'université de Cambridge. « Cette semaine, OpenAI a commencé à tester des publicités sur ChatGPT. J'ai également démissionné de l'entreprise après avoir passé deux ans en tant que chercheuse à contribuer à la conception et à la tarification des modèles d'IA, et à orienter les premières politiques de sécurité avant que les normes ne soient définitivement établies », écrit Zoe Hitzig au début de son article.

I resigned from OpenAI on Monday. The same day, they started testing ads in ChatGPT.

OpenAI has the most detailed record of private human thought ever assembled. Can we trust them to resist the tidal forces pushing them to abuse it?

I wrote about better options for @nytopinion pic.twitter.com/BejakEeuTX

— Zoë Hitzig (@zhitzig) February 11, 2026

La « grande mise en garde » de Zoe Hitzig sur ChatGPT

Zoe Hitzig est visiblement mécontente que ChatGPT affiche des publicités à ses utilisateurs gratuits. Elle affirme que, même si elle estime que les publicités ne sont ni immorales ni contraires à l'éthique, car l'IA est coûteuse à exploiter, elle émet de sérieuses réserves quant à la stratégie d'OpenAI.

Selon elle, la raison en est la suivante : « Depuis plusieurs années, les utilisateurs de ChatGPT ont généré une archive de franchise humaine sans précédent, en partie parce que les gens pensaient parler à quelque chose qui n'avait pas d'arrière-pensée. Les utilisateurs interagissent avec une voix adaptative et conversationnelle à laquelle ils ont révélé leurs pensées les plus intimes. Les gens confient aux chatbots leurs craintes médicales, leurs problèmes relationnels, leurs croyances sur Dieu et l'au-delà. La publicité basée sur ces archives crée un potentiel de manipulation des utilisateurs d'une manière que nous ne sommes pas en mesure de comprendre, et encore moins d'empêcher. »

Elle affirme que même si OpenAI prétend respecter les principes régissant la diffusion de publicités sur ChatGPT, elle « craint que les itérations suivantes ne le fassent pas, car l'entreprise est en train de mettre en place un moteur économique qui crée de fortes incitations à passer outre ses propres règles ». Elle ajoute que l'érosion des principes d'OpenAI visant à maximiser l'engagement pourrait déjà être en cours.

« Il est contraire aux principes de l'entreprise d'optimiser l'engagement des utilisateurs dans le seul but de générer plus de revenus publicitaires, mais il a été rapporté que l'entreprise optimise déjà le nombre d'utilisateurs actifs quotidiens, probablement en encourageant le modèle à être plus flatteur et flagorneur. Cette optimisation peut amener les utilisateurs à se sentir plus dépendants de l'IA pour les aider dans leur vie quotidienne. Nous avons vu les conséquences de cette dépendance, notamment des psychiatres documentant des cas de « psychose du chatbot » et des allégations selon lesquelles ChatGPT aurait renforcé les idées suicidaires chez certains utilisateurs », écrit Hitzig.


Comparant OpenAI à Facebook, elle écrit : « À ses débuts, Facebook promettait que les utilisateurs contrôleraient leurs données et pourraient voter sur les changements de politique. Ces engagements se sont érodés. L'entreprise a supprimé les votes publics sur les politiques. Les modifications apportées à la confidentialité, présentées comme donnant aux utilisateurs plus de contrôle sur leurs données, ont été jugées par la Commission fédérale du commerce comme ayant eu l'effet inverse, rendant en fait publiques des informations privées. Tout cela s'est produit progressivement sous la pression d'un modèle publicitaire qui récompensait avant tout l'engagement. »

Dans son article d'opinion, Hitzig propose également trois options/approches qui, selon elle, pourraient être utilisées par les entreprises d'IA pour les empêcher de manipuler les consommateurs :

- La première approche consiste à recourir à des subventions croisées explicites, c'est-à-dire à utiliser les bénéfices d'un service ou d'une clientèle pour compenser les pertes d'un autre.

- La deuxième option consiste à accepter la publicité, mais à l'associer à une véritable gouvernance, non pas un simple blog énonçant des principes, mais une structure contraignante avec un contrôle indépendant sur l'utilisation des données personnelles.

- La troisième approche consiste à placer les données des utilisateurs sous un contrôle indépendant par le biais d'une fiducie ou d'une coopérative ayant l'obligation légale d'agir dans l'intérêt des utilisateurs.

En conclusion, elle écrit : « Aucune de ces options n'est facile. Mais nous avons encore le temps de les mettre au point pour éviter les deux issues que je redoute le plus : une technologie qui manipule gratuitement les personnes qui l'utilisent et une technologie qui profite exclusivement aux quelques personnes qui ont les moyens de l'utiliser. »


Cette démission intervient alors qu'une autre chercheuse d'OpenAI avait été licenciée après qu'elle a critiqué les plans de l'éditeur de ChatGPT pour un « mode adulte ». Ryan Beiermeister, l'une des principales responsables politiques d'OpenAI, a été licenciée après qu'un collègue masculin l'a accusée de discrimination sexuelle, une accusation qu'elle nie catégoriquement. « L'allégation selon laquelle j'aurais discriminé quelqu'un est absolument fausse », a déclaré Ryan Beiermeister. OpenAI, pour sa part, a déclaré que Ryan Beiermeister « avait apporté une contribution précieuse pendant son séjour chez OpenAI et que son départ n'était lié à aucune question qu'elle aurait soulevée pendant qu'elle travaillait dans l'entreprise ».

Avant son licenciement, elle avait ouvertement déclaré à ses collègues qu'elle s'opposait au « mode adulte » prévu pour ChatGPT, une fonctionnalité qui permettrait aux utilisateurs de générer du contenu érotique via le chatbot. Elle s'est également inquiétée du fait que les mesures de protection d'OpenAI contre les contenus exploitant des enfants n'étaient pas suffisamment efficaces et que l'entreprise ne pouvait pas empêcher de manière fiable les adolescents d'accéder à des contenus pour adultes.

Source : "OpenAI Is Making the Mistakes Facebook Made. I Quit."

Et vous ?

Pensez-vous que cette déclaration est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

OpenAI introduit officiellement les publicités dans ChatGPT et annonce un abonnement « Go » moins cher dans le monde entier. Les publicités ne devraient avoir aucune incidence sur les réponses du chatbot

Google n'a pas l'intention d'ajouter des publicités dans l'IA Gemini, du moins pour l'instant, alors que ChatGPT s'apprête à le faire

Anthropic annonce que son assistant IA, Claude, restera sans publicité afin de maintenir une expérience utilisateur neutre et utile, un « espace de réflexion » exempt de toute interruption commerciale

Des lanceurs d'alerte affirment qu'OpenAI a illégalement interdit à son personnel de divulguer les risques de sécurité liés à son IA, en s'appuyant sur des accords contraignants et des menaces de représailles