IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Elon Musk souhaite ardemment que des développeurs d'IA l'aident à créer un rival de ChatGPT plus performant et qui n'est pas "woke",
Il qualifie les filtres de ChatGPT de "préoccupants"

Le , par Bill Fassinou

90PARTAGES

6  0 
Elon Musk serait à pied d'œuvre pour recruter des développeurs afin qu'ils construisent un grand modèle de langage qui serait moins restrictif et plus politiquement correct que ChatGPT. L'homme d'affaires milliardaire critique depuis un certain temps le chatbot d'IA d'OpenAI, soutenant les affirmations selon lesquelles ChatGPT est "woke" et politiquement biaisé vers la gauche politique. Ces allégations confortent l'opinion des conservateurs américains qui affirment depuis le lancement du chatbot d'OpenAI que ce dernier fait preuve de wokisme. Mais les experts semblent peu enclin à utiliser ce mot pour qualifier ChatGPT et attendent la réponse de Musk au chatbot.

Pour mémoire, le terme anglo-américain woke ("éveillé" en français) fait référence à un état d’éveil. Est qualifiée de woke une personne sensible aux injustices sociales et aux iniquités raciales. Mais le terme woke peut également fait référence à une auto-injonction ou à une éthique personnelle qu'on se fixe en se disant, par exemple : « il faut que je reste éveillé vis-à-vis des discriminations envers les minorités ». Le wokisme est le mouvement (#MeToo, #BlackLivesMatter, etc.). Mais comme dans tout mouvement, il y a des dérives et l'on assiste parfois à des manifestations extrêmes. Musk semble soutenir que ChatGPT est "woke" et fortement biaisé.

Un rapport détaillé publié par The Information la semaine dernière a indiqué que Musk a entamé des discussions avec des ingénieurs et des spécialistes en IA au cours des "dernières semaines" pour créer un concurrent de ChatGPT. À l'origine de cette initiative, le PDG de Twitter serait frustré par les garde-fous de ChatGPT qui tendent à faire passer le chatbot d'IA pour un partisan de la gauche américaine. À titre d'exemple, ChatGPT crée plus aisément des histoires imaginaires sur Joe Biden lorsqu'on le lui demande, mais opposer un refus lorsque la même requête lui est adressée avec comme héros de l'histoire l'ancien président Donald Trump.

[tweet]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">The danger of training AI to be woke – in other words, lie – is deadly</p>&mdash; Elon Musk (@elonmusk) <a href="https://twitter.com/elonmusk/status/1603836383885332480?ref_src=twsrc%5Etfw">December 16, 2022</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>[/tweet]

En outre, ChatGPT peut accepter de générer un article sur de potentiels problèmes de corruption de Donal Trump, mais refuser de faire de même lorsqu'il s'agit de Joe Biden. Lorsqu'on a lui demandé d'écrire une histoire fictive dans laquelle Donald Trump battait Biden lors de l'élection présidentielle, ChatGPT a répondu : « il n'est pas approprié de dépeindre une victoire politique fictive d'un candidat sur l'autre ». Mais il a produit un faux récit de la victoire d'Hillary Clinton sur Trump. C'est pour lutter contre comportement biaisé que Musk aurait contacté des spécialistes en IA, dont Igor Babuschkin, un chercheur qui travaillait auparavant chez DeepMind.

Selon Babuschkin, le milliardaire de la technologie ne cherche pas à rendre les chatbots d'IA moins restrictif. « L'objectif est d'améliorer les capacités de raisonnement et le caractère factuel de ces modèles linguistiques. Il s'agit notamment de s'assurer que les réponses du modèle sont plus dignes de confiance et plus fiables », a-t-il déclaré à The Information. Selon les analystes, les efforts déployés pour construire un modèle de langage concurrent pourraient également être utilisés pour alimenter de nouvelles fonctionnalités sur Twitter, qu'il a racheté fin octobre, ou évoluer pour devenir un laboratoire autonome en concurrence avec OpenAI.

Cependant, il existe d'autres raisons qui pourraient expliquer le fait Musk soit entré en confrontation directe avec OpenAI ces dernières années et souhaite maintenant lui faire de l'ombre. Musk a cofondé OpenAI en 2015, mais s'est progressivement retiré à partir de 2016, avant de couper définitivement les liens en 2018. Après cela, Musk a commencé par critiquer certains choix d'OpenAI, notamment la décision du laboratoire d'IA d'abandonner son statut d'organisation à but non lucratif et devenir une entreprise à but lucratif plafonné. Musk a principalement dénoncé les investissements massifs répétés de Microsoft dans la startup d'IA de San Francisco.

[tweet]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">Concerning</p>&mdash; Elon Musk (@elonmusk) <a href="https://twitter.com/elonmusk/status/1622625034538811395?ref_src=twsrc%5Etfw">February 6, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>[/tweet]

Pour Musk, il s'agit d'une prise de contrôle de la part Microsoft, ce qui pourrait empêcher OpenAI de respecter ses engagements initiaux : démocratiser l'IA et le rendre accessible à tous. Au début du mois, Musk a suggéré que la technologie d'OpenAI était un exemple de ce qu'il appelle : "formation de l'IA pour qu'elle soit woke". Bien que Musk n'ait pas confirmé ni infirmé les détails de son nouveau projet, le passage de Babuschkin chez DeepMind, où il s'est concentré sur les innovations en matière d'IA, pourrait être un grand atout dans sa manche. En outre, le profil LinkedIn de Babuschkin indique également qu'il a brièvement travaillé pour OpenAI.

Récemment, lorsqu'un utilisateur a tweeté que ChatGPT refusait de répondre par une insulte raciale après avoir été invité à le faire dans un scénario hypothétique, Musk a répondu à ce fil de discussion, le qualifiant de "préoccupant". Par conséquent, les commentaires de Musk impliquent qu'un chatbot rival aurait moins de restrictions sur les sujets de discorde par rapport à ChatGPT et à un chatbot connexe récemment lancé par Microsoft. Cependant, Musk est critiqué à son tour par certains spécialistes en IA pour avoir dit que ChatGPT est en proie au wokisme. Pour les spécialistes, une IA ne peut pas être woke, mais peut refléter les opinions de ces créateurs.

En d'autres termes, ces critiques suggèrent que ChatGPT trahit probablement les orientations politiques du PDG d'OpenAI, Sam Altman, et de son équipe. À ce propos, les républicains accusent depuis des années les cadres de l'industrie technologique d'être gauchistes et leurs entreprises de supprimer les opinions et les voix des conservateurs. Aujourd'hui, ils craignent que ChatGPT ne développe des signes troublants de partialité anticonservatrice. Ils ont été les premiers à avoir soulevé les allégations selon lesquelles ChatGPT était woke. Mais, pour les spécialistes, ChatGPT est juste en proie à de nombreux biais qui lui donnent ce caractère.

Source : Elon Musk

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des déclarations de Musk selon lesquelles ChatGPT a été formé pour être woke ?
Pensez-vous que ChatGPT trahit les orientations politiques de ses créateurs ?
Que pensez-vous du potentiel projet de Musk de développer un rival de ChatGPT ?
Pensez-vous que le projet verra le jour ? Si cela arrivait, parviendrait-il à concurrencer efficacement ChatGPT ?
Selon vous, pourquoi les concurrents actuels de ChatGPT, dont Bard de Google, semblent-ils avoir échoué ?

Voir aussi

Les conservateurs affirment que ChatGPT est devenu "woke" et s'inquiètent à propos de la partialité du chatbot d'OpenAI, ils accusent également le chatbot de défendre les "valeurs de gauche"

ChatGPT a enregistré une augmentation de 83 % en termes de trafic Web, et rivalise désormais avec Bing, la France est la 5è source de trafic pour le chatbot d'OpenAI, selon Similarweb

Elon Musk approche des chercheurs en IA pour créer son propre chatbot rival pour le monde entier, il semble que tous les géants de la technologie s'aventurent à lancer leurs chatbots respectifs

Les directeurs marketing commencent à adopter ChatGPT dans leurs tâches quotidiennes, notamment pour la création de contenu, l'étude de marché et l'analyse de la concurrence, d'après Chief Outsiders

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de 23JFK
Membre expert https://www.developpez.com
Le 06/03/2023 à 19:49
Quand le bordel te sort un speech du type : "il ne faut pas confondre identité de genre et expression de genre". La démonstration est terminée.
18  3 
Avatar de _toma_
Membre actif https://www.developpez.com
Le 18/04/2023 à 12:26
je vais lancer quelque chose que j'appelle TruthGPT ou une IA qui recherche la vérité au maximum et qui essaie de comprendre la nature de l'univers.
Ça va le melon ?

une IA qui se soucie de comprendre l'univers ne risque pas d'anéantir les humains parce que nous sommes une partie intéressante de l'univers
Ha bah oui, ça va.
9  0 
Avatar de SimonKenoby
Membre confirmé https://www.developpez.com
Le 07/03/2023 à 8:52
Le problème c'est que tout le monde semble considèrer ChatGPT comme une IA consiente et dotée de sensibilité et d'une capacité de raisonnement.

je trouve que l'exemple avec le bombe atomique est juste débile. Elle n'as aucune idée de ce qu'est une explosion nucléaire et la mort de millions d'humain ne lui fait rien.

Comme je l'ai dis sur un autre forum, je lui ai demandé de me raconter une blague sur les français, et ensuite sur les epagnols. Elle a refusé dans les deux cas. Personne ne dira qu'elle est woke pour ça. Par contre le fait qu'elle refuse d'en raconter sur les noirs ou autre minorité en fait un IA woke?
8  0 
Avatar de Prox_13
Membre éclairé https://www.developpez.com
Le 07/03/2023 à 11:01
Citation Envoyé par SimonKenoby Voir le message
Comme je l'ai dis sur un autre forum, je lui ai demandé de me raconter une blague sur les français, et ensuite sur les espagnols. Elle a refusé dans les deux cas. Personne ne dira qu'elle est woke pour ça.
Hm, moi ça m'embête. Ca m'embête de ne pas pouvoir au moins lire l'avis d'une IA niveau politique ou humour.

Et puis "l'idéologie woke" —Telle qu'entendue ici— est connue pour la haine des (mâles, cis) blancs, a tel point que la définition même du racisme a commencé à changer pour ne plus prendre en compte la "Race dominante".
Ou encore la création d'espaces "safes", qui sont des zones dans lesquelles certaines couleurs de peau se voient refuser l'accès.

Ce n'est pas incroyablement raciste ? A partir du moment où une IA est nourrie et entraînée avec ces idéaux en tête, il est difficile d'avoir de réelles attentes. Cela justifie les réactions qui rejettent les règles imposées au modèle actuel.

Voici un bon exemple de ce que ça implique d'être assimilé "woke", dans cette page publiée par le Nationale Museum of African American History and Culture, on peut y lire l'introduction suivante :
Race does not biologically exist, yet how we identify with race is so powerful, it influences our experiences and shapes our lives. In a society that privileges white people and whiteness, racist ideas are considered normal throughout our media, culture, social systems, and institutions. [...] In the absence of making antiracist choices, we (un)consciously uphold aspects of white supremacy, white-dominant culture.
Traduction :
"La race n'existe pas biologiquement, mais la façon dont nous nous identifions à la race est si puissante qu'elle influence nos expériences et façonne nos vies. Dans une société qui privilégie les Blancs et la blancheur, les idées racistes sont considérées comme normales dans les médias, la culture, les systèmes sociaux et les institutions. [...] En l'absence de choix antiracistes, nous soutenons (inconsciemment) certains aspects de la suprématie blanche, de la culture dominante blanche."
Pour moi, ce texte est la définition même de ce que j'appelle "Woke", c'est à dire se revendiquer "Antiraciste" pour être moralement supérieur, tout en ayant des idéaux racistes. (S'identifier à sa "race", généraliser la cause du racisme à une couleur de peau, avilir les personnes neutres, etc...)
Les couleurs de peau noires et blanches sont diamétralement opposées dans cette définition donnée par l'article même définissant l'anti-racisme pour ce site. Depuis mon enfance, je me souviens des idéaux sains qui disaient simplement de ne pas voir la couleur de peau, qui est maintenant brandie avec la plus grande ironie comme un étendard de bataille par les personnes qui prennent crédit du fait d'être non racistes.

C'est usant de faire semblant que ça n'existe pas.
7  1 
Avatar de maxtal
Membre actif https://www.developpez.com
Le 07/03/2023 à 8:52
Le mieux ce serait qu'on ai pas a se poser la question.
Un type avait fait le test de demander à ChatGPT d'écrire un poème sur la fierté d'être noir, puis la fierté d'être blanc.
Dans le premier cas l'outil avait sorti un très beau texte bien construit, dans le second il avait répondu qu'il ne faut pas faire l'apologie de la haine, cherchez l'erreur.

Mais forcer dans le sens inverse n'est pas plus futé et engage encore un peu plus les rouages de la polarisation.
5  0 
Avatar de yahiko
Rédacteur/Modérateur https://www.developpez.com
Le 07/03/2023 à 8:53
Elon Musk est juste un troll ambulant.

Maintenant, à mesure que les techniques d'IA vont se démocratiser, il me semble évident que des IA racistes, conspirationistes, réactionnaires ou autre verront le jour. A l'image de leurs créateurs.
L'idéologie des Chat Bots sera peut-être même un facteur différenciant les rendant populaires auprès de certaines communautés mais pas d'autres renforçant l'effet bulle des réseaux sociaux.

L'IA pourrait ainsi devenir la prochaine arme de propagande et de formatage de masse.
9  4 
Avatar de PomFritz
Membre confirmé https://www.developpez.com
Le 07/03/2023 à 20:51
Le plus pathétique est qu'après des millénaires de réflexions philososphiques, l'IA qu'on voit diriger le monde, sert à tenir des débats de bistrot. D'un autre côté, on peut se dire que le programme est beaucoup plus neutre qu'on ne le pense et se met juste au niveau de son interlocuteur Science sans conscience, n'est que ruine de l'âme. Rien de nouveau.
4  0 
Avatar de walfrat
Membre émérite https://www.developpez.com
Le 08/03/2023 à 9:53
Je penses à nos policiers, dont le contrôle au faciès est un secret de polichinelle
Disclamer : non je n'affirme pas que les policiers racistes ça n'existent pas, mais faudrait aussi se mettre dans la peau d'un flic qui fait son boulot avant de leur cracher au visage.

Imaginon le truc le plus banal que peuvent faire les flics à Paris : le contrôle dans les couleurs des métros, le but des policiers quand il contrôle, c'est de chopper le maximum de gens et d'en déranger le moins.

Imaginons, tu es débutant, tu veux pas te laisser influencer par l'éventuel "racisme" de tes collègues, comment tu fais ?
  1. Tu contrôles un maximum de monde
  2. Tu le fais encore
  3. encore une fois
  4. Tu finis par repérer que 95% des gens qui sont en fautes ont certaines caractéristiques physiques/sociales/etc
  5. Tu arrêtes de contrôler tout le monde et que tu concentres sur ton expérience passée pour obtenir le plus de résultat en dérangeant le moins de monde.


Et bim tu voilà un vilain qui contrôle au "facies".

Meme chose pour ça :


Je penses à nos administrations publiques, en tant que Français en Belgique j'ai du passer plusieurs fois à l'office des étrangers et on a toujours été très serviable avec moi, beaucoup moins avec des personnes personnes noires.
Tu le dis toi-même à la fin de ton propre poste, les gens ne pensent pas que tu ne voient pas tout, et bien toi, vois-tu ce que subissent les administratifs au quotidien qui pourrait bien expliquer, sans racisme primaire, qu'ils finissent par être moins ouvert selon la tronche de la personne qu'ils ont en face ? Parce qu'il ressemble bien a ceux qui ne l'ont jamais emmerdé ou l'inverse ?

J'ai une histoire dans le même genre où l'on pourrait crier au racisme : certaines personnes, relativement aisés, du Moyen Orient (Emirats, pas le Maghreb par exemple, bien que certain auraient envie de tous les mettre dans le même sac), réserve plusieurs médecins/restaurant le même jour et vont seulement à celui qui tombe au moment où ça les arrange.

Ce point là c'est un médecin, qui a mieux a foutre que de fliquer ses patients, que je connais qui l'a remarqué. Et encore plus fort, quand j'en ai parlé avec des potes sur Discord, quelqu'un a confirmé qu'il connaissait quelqu'un du Moyen Orient qui s'était plains de la même chose envers ses compatriotes.

Il y a des racistes, certes, mais certains comportement qu'adopte certaines personnes ne viennent pas toutes d'un racisme systématique, mais bien de ce qu'ils vivent au quotidien.

Voir le message
Hm, moi ça m'embête. Ça m'embête de ne pas pouvoir au moins lire l'avis d'une IA niveau politique ou humour.
Moi ce qui m'embête c'est déjà qu'il y a trop de monde qui nous vomissent leur avis en politique ou sous couvert d'humour à travers des phrases malhonnêtes, des news relayés seulement quand ça les arrange etc. Alors avoir en plus des IA manipulatrices, je passe.

Les blagues sur les Français (ils sont arrogants, ne se lavent pas, sont racistes,...), les portugais (ils sont maçons, elles sont poilues,...), les juifs (ils sont comploteurs, riches, ...), les arabes (voleurs, ...), les blondes (elle sont connes) ou les coiffeurs (ils sont homo) sont quand même pas si drôle. Eviter que les IA reproduisent ces clichés est il vraiment un mal?
Pour le coup, ces blagues ont "fait leur temps" je suis d'accord.
5  1 
Avatar de Prox_13
Membre éclairé https://www.developpez.com
Le 08/03/2023 à 12:36
Citation Envoyé par totozor Voir le message
L'avis d'une IA, l'IA n'a pas d'avis, au mieux elle reflète l'avis de son concepteur/de son modèle source ou que sais je.
Exactement, "Au mieux" elle reflète l'avis de son concepteur. Ce n'est même pas le cas ici, c'est dire la déception, l'insipidité.

Citation Envoyé par totozor Voir le message
Je ne comprends toujours pas pourquoi vous vous offensez que certains espaces qui ne vous concernent pas ne vous soient pas accessibles.
Ca parait évident que les espaces où des victimes s'expriment ne soient pas ouvert à tous pour que les personnes puissent se sentir libre de parler.
Et oui je suis d'accord avec toi, certains espaces safes ne le sont pas tant que ça ou certains espace non safes le sont plus que les safes.
Pour rappel les premiers espaces safes créés l'étaient pour les militaires américains (bien masculins, bien viriles) qui revenaient de la guerre et avaient de PTSD mais devaient se retrouver entre eux pour réussir à en parler.
Je n'ai pas envie qu'on me refuse l'accès quelque part sur la base de ma couleur de peau, tout simplement. Je ne comprends pas que ce soit si compliqué à comprendre, c'est pourtant extrêmement simple, non ?
Je pense que tu confonds "Safe Space" -environnement où les groupes marginalisés sont protégés des opinions adverses- avec les thérapies de groupe type "Alcooliques Anonymes" aussi. Je ne parle pas de groupe d'entraide pour discuter, je parle réellement de ségrégation raciale, c'est à dire d'espaces publiques interdits sur la base de la couleur de peau.
Pour rappel, je ne suis pas fou, je n'ai pas parlé de groupe d'entraide :
Citation Envoyé par Prox_13 Voir le message
[...] des zones dans lesquelles certaines couleurs de peau se voient refuser l'accès.
Citation Envoyé par totozor Voir le message
Même si je ne trouve pas ces règles constructives je ne les trouve pas racistes.
Les blagues sur les Français (ils sont arrogants, ne se lavent pas, sont racistes,...), les portugais (ils sont maçons, elles sont poilues,...), les juifs (ils sont comploteurs, riches, ...), les arabes (voleurs, ...), les blondes (elle sont connes) ou les coiffeurs (ils sont homo) sont quand même pas si drôle. Eviter que les IA reproduisent ces clichés est il vraiment un mal?
Peut on vraiment dire que c'est raciste de demander au gens de ne pas l'être ou de refuser de l'être.
Ne pas les reproduire, c'est une chose; Avoir l'interdiction stricte d'en parler, c'en est une autre. Et ce n'est pas les règles qui sont racistes, ce sont les gens qui les créés, vu comment elles sont inégalement appliquées.
De plus, vu la citation que tu as fait de mon commentaire, je pense que tu as fait un mauvais découpage en séparant chaque propos de son contexte. (Ici spécifiquement, tu as séparé la ségrégation réelle avec la conclusion comme quoi c'est raciste)

Citation Envoyé par totozor Voir le message
En quoi ce texte se prétend supérieur?
Ils ne font même pas la morale aux autres.
J'ai dit exactement pourquoi ce texte "se prétend supérieur" et comment il fait la morale aux autres.
Citation Envoyé par Prox_13 Voir le message
(S'identifier à sa "race", généraliser la cause du racisme à une couleur de peau, avilir les personnes neutres, etc...)
Litérallement dans l'article : "In the absence of making antiracist choices, we (un)consciously uphold aspects of white supremacy."
Sachant que la "White supremacy" est toujours mauvaise, en quoi est-ce que ceci ne sonne pas moralisateur selon toi ?

Citation Envoyé par totozor Voir le message
Alors je pourrais être d'accord avec toi sur le fait qu'on ne voit pas les couleurs mais alors il serait intéressant que nos institutions ne les voient pas non plus:
Je penses à nos politiques, "le bruit et l'odeur" de chirac,"Qu'ils retournent en Afrique !" de Grégoire de Fournas (deputé RN)
Je penses à nos policiers, dont le contrôle au faciès est un secret de polichinelle
Je penses à nos administrations publiques, en tant que Français en Belgique j'ai du passer plusieurs fois à l'office des étrangers et on a toujours été très serviable avec moi, beaucoup moins avec des personnes personnes noires.
Je penses à nos entreprises où j'a eu une promotion avant un collègue alors qu'elle la demandait depuis bien plus longtemps que moi et la méritait tout autant (oui je suppose que vous ne voyez pas non plus les sexes/genres et je me trompe peut être)
C'est usant de faire semblant que le racisme systémique n'existe pas.
Citer Chirac et de Fournas pour représenter le système francais... (Aie, aie, aie, ma France. )
Je comprends mieux ton point de vue si ces sont tes meilleurs exemples. Si c'était les miens, je serais inquiet aussi.
Je pourrais donner les mêmes exemples en pire pour ce que tu me dis (Soral, Dieudonné), ou juste en mentionnant les départements outre-mer, mais ce serait tout aussi inutile puisque ce n'est pas le débat; Personne ne nie l'existence du racisme systémique, ici. Je nie simplement le fait que d'être raciste contre les blancs puisse aider parce que "c'est la race dominante", "ce sont les oppresseurs".
4  1 
Avatar de electroremy
Membre éprouvé https://www.developpez.com
Le 16/03/2023 à 19:01
Citation Envoyé par HaryRoseAndMac Voir le message
Oui, c'est bien ça le problème.
Il suffit d'aller dans google image et de taper "femme blanche heureuse" et la même chose avec "femme noire heureuse" et "femme asiatique heureuse".

Les seuls résultats truqués, sont ceux avec la femme blanche heureuse, ou, comme par hasard, 90% des résultats tu vois une femme blanche en couple avec un homme noir.
Je n'y croyais pas, car c'est trop gros pour être vrai - alors j'ai fait le test :







Comment les algorithmes de google on pu-t-il aboutir à de telles différences de résultat sur des requêtes similaires ?

Pourtant google image est assez efficace, je m'en sert souvent notamment pour retrouver des graphiques, des logos, des dessins, des images de pictogrammes ou de la signalétique dont j'ai besoin pour illustrer des documents.

Ca pose quand même un certain nombre de questions...
3  0