Pour mémoire, le terme anglo-américain woke ("éveillé" en français) fait référence à un état d’éveil. Est qualifiée de woke une personne sensible aux injustices sociales et aux iniquités raciales. Mais le terme woke peut également fait référence à une auto-injonction ou à une éthique personnelle qu'on se fixe en se disant, par exemple : « il faut que je reste éveillé vis-à-vis des discriminations envers les minorités ». Le wokisme est le mouvement (#MeToo, #BlackLivesMatter, etc.). Mais comme dans tout mouvement, il y a des dérives et l'on assiste parfois à des manifestations extrêmes. Musk semble soutenir que ChatGPT est "woke" et fortement biaisé.
Un rapport détaillé publié par The Information la semaine dernière a indiqué que Musk a entamé des discussions avec des ingénieurs et des spécialistes en IA au cours des "dernières semaines" pour créer un concurrent de ChatGPT. À l'origine de cette initiative, le PDG de Twitter serait frustré par les garde-fous de ChatGPT qui tendent à faire passer le chatbot d'IA pour un partisan de la gauche américaine. À titre d'exemple, ChatGPT crée plus aisément des histoires imaginaires sur Joe Biden lorsqu'on le lui demande, mais opposer un refus lorsque la même requête lui est adressée avec comme héros de l'histoire l'ancien président Donald Trump.
The danger of training AI to be woke – in other words, lie – is deadly
— Elon Musk (@elonmusk) December 16, 2022
En outre, ChatGPT peut accepter de générer un article sur de potentiels problèmes de corruption de Donal Trump, mais refuser de faire de même lorsqu'il s'agit de Joe Biden. Lorsqu'on a lui demandé d'écrire une histoire fictive dans laquelle Donald Trump battait Biden lors de l'élection présidentielle, ChatGPT a répondu : « il n'est pas approprié de dépeindre une victoire politique fictive d'un candidat sur l'autre ». Mais il a produit un faux récit de la victoire d'Hillary Clinton sur Trump. C'est pour lutter contre comportement biaisé que Musk aurait contacté des spécialistes en IA, dont Igor Babuschkin, un chercheur qui travaillait auparavant chez DeepMind.
Selon Babuschkin, le milliardaire de la technologie ne cherche pas à rendre les chatbots d'IA moins restrictif. « L'objectif est d'améliorer les capacités de raisonnement et le caractère factuel de ces modèles linguistiques. Il s'agit notamment de s'assurer que les réponses du modèle sont plus dignes de confiance et plus fiables », a-t-il déclaré à The Information. Selon les analystes, les efforts déployés pour construire un modèle de langage concurrent pourraient également être utilisés pour alimenter de nouvelles fonctionnalités sur Twitter, qu'il a racheté fin octobre, ou évoluer pour devenir un laboratoire autonome en concurrence avec OpenAI.
Cependant, il existe d'autres raisons qui pourraient expliquer le fait Musk soit entré en confrontation directe avec OpenAI ces dernières années et souhaite maintenant lui faire de l'ombre. Musk a cofondé OpenAI en 2015, mais s'est progressivement retiré à partir de 2016, avant de couper définitivement les liens en 2018. Après cela, Musk a commencé par critiquer certains choix d'OpenAI, notamment la décision du laboratoire d'IA d'abandonner son statut d'organisation à but non lucratif et devenir une entreprise à but lucratif plafonné. Musk a principalement dénoncé les investissements massifs répétés de Microsoft dans la startup d'IA de San Francisco.
Concerning
— Elon Musk (@elonmusk) February 6, 2023
Pour Musk, il s'agit d'une prise de contrôle de la part Microsoft, ce qui pourrait empêcher OpenAI de respecter ses engagements initiaux : démocratiser l'IA et le rendre accessible à tous. Au début du mois, Musk a suggéré que la technologie d'OpenAI était un exemple de ce qu'il appelle : "formation de l'IA pour qu'elle soit woke". Bien que Musk n'ait pas confirmé ni infirmé les détails de son nouveau projet, le passage de Babuschkin chez DeepMind, où il s'est concentré sur les innovations en matière d'IA, pourrait être un grand atout dans sa manche. En outre, le profil LinkedIn de Babuschkin indique également qu'il a brièvement travaillé pour OpenAI.
Récemment, lorsqu'un utilisateur a tweeté que ChatGPT refusait de répondre par une insulte raciale après avoir été invité à le faire dans un scénario hypothétique, Musk a répondu à ce fil de discussion, le qualifiant de "préoccupant". Par conséquent, les commentaires de Musk impliquent qu'un chatbot rival aurait moins de restrictions sur les sujets de discorde par rapport à ChatGPT et à un chatbot connexe récemment lancé par Microsoft. Cependant, Musk est critiqué à son tour par certains spécialistes en IA pour avoir dit que ChatGPT est en proie au wokisme. Pour les spécialistes, une IA ne peut pas être woke, mais peut refléter les opinions de ces créateurs.
En d'autres termes, ces critiques suggèrent que ChatGPT trahit probablement les orientations politiques du PDG d'OpenAI, Sam Altman, et de son équipe. À ce propos, les républicains accusent depuis des années les cadres de l'industrie technologique d'être gauchistes et leurs entreprises de supprimer les opinions et les voix des conservateurs. Aujourd'hui, ils craignent que ChatGPT ne développe des signes troublants de partialité anticonservatrice. Ils ont été les premiers à avoir soulevé les allégations selon lesquelles ChatGPT était woke. Mais, pour les spécialistes, ChatGPT est juste en proie à de nombreux biais qui lui donnent ce caractère.
Source : Elon Musk
Et vous ?
Quel est votre avis sur le sujet ?
Que pensez-vous des déclarations de Musk selon lesquelles ChatGPT a été formé pour être woke ?
Pensez-vous que ChatGPT trahit les orientations politiques de ses créateurs ?
Que pensez-vous du potentiel projet de Musk de développer un rival de ChatGPT ?
Pensez-vous que le projet verra le jour ? Si cela arrivait, parviendrait-il à concurrencer efficacement ChatGPT ?
Selon vous, pourquoi les concurrents actuels de ChatGPT, dont Bard de Google, semblent-ils avoir échoué ?
Voir aussi
Les conservateurs affirment que ChatGPT est devenu "woke" et s'inquiètent à propos de la partialité du chatbot d'OpenAI, ils accusent également le chatbot de défendre les "valeurs de gauche"
ChatGPT a enregistré une augmentation de 83 % en termes de trafic Web, et rivalise désormais avec Bing, la France est la 5è source de trafic pour le chatbot d'OpenAI, selon Similarweb
Elon Musk approche des chercheurs en IA pour créer son propre chatbot rival pour le monde entier, il semble que tous les géants de la technologie s'aventurent à lancer leurs chatbots respectifs
Les directeurs marketing commencent à adopter ChatGPT dans leurs tâches quotidiennes, notamment pour la création de contenu, l'étude de marché et l'analyse de la concurrence, d'après Chief Outsiders