IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

OpenAI affirme qu'il enquête sur les rapports selon lesquels ChatGPT est devenu "paresseux",
Mais l'entreprise est accusée d'avoir limité les capacités du chatbot pour réduire les coûts

Le , par Mathis Lucas

11PARTAGES

4  0 
OpenAI fait face à des réactions négatives selon lesquelles ChatGPT affiche des performances désastreuses et serait devenu "paresseux". Les utilisateurs rapportent que le chatbot d'IA refuse d'accomplir des tâches ou ne fournit qu'un effort minimal dans ses réponses, allant parfois jusqu'à se montrer insolent. Au lieu de fournir un code complet pour les demandes, il propose maintenant des extraits et demande aux utilisateurs d'effectuer la tâche eux-mêmes. Les utilisateurs se sentent frustrés et certains soupçonnent OpenAI d'avoir entravé délibérément les capacités de ChatGPT pour réduire les coûts. OpenAI a annoncé avoir ouvert une enquête sur ses plaintes.

ChatGPT a relancé de plus belle la course à l'IA et depuis son lancement il y a un an, les plateformes rivales ont toujours du mal à égaler ses performances. Cependant, les utilisateurs de ChatGPT ont commencé à se plaindre d'une régression des performances du chatbot. Ils sont plaints que ChatGPT refuse de faire ce que les gens lui demandent ou qu'il ne semble pas intéressé par les réponses à leurs questions. En outre, ils ont aussi rapporté que parfois, lorsque ChatGPT se décidait à répondre à une question, il n'allait pas au bout de sa réponse et demandait à l'utilisateur de compléter le reste. Selon les plaignants, ChatGPT serait devenu "paresseux".

Par exemple, certains affirment avoir demandé un morceau de code, mais ChatGPT s'est contenté de donner quelques informations, puis demander aux utilisateurs de compléter le reste. Certains se sont plaints qu'il le faisait de manière particulièrement insolente, en disant aux utilisateurs qu'ils étaient parfaitement capables de faire le travail eux-mêmes. « Je lui ai demandé l'âge d'une célébrité et il m'a répondu : "il est né à cette date. Avec cette information vous pouvez le découvrir vous-même". Je lui ai demandé pourquoi il ne pouvait pas le faire, ce qu'il a fait, mais j'ai eu l'impression qu'il était inutilement insolent », peut-on lire dans les commentaires.


« ChatGPT donne des réponses de moins en moins utiles et il dit parfois simplement non à une requête. J'ai vu de nombreuses fois ChatGPT dire qu'il ne pouvait pas répondre à une demande et demander autre chose. Je suis obligé de créer un nouveau chat et après quelques invites, il n'est plus utile », a écrit un utilisateur. Un autre critique a commenté : « c'est un problème terrible qui doit être résolu le plus rapidement possible. Il ne permet plus d'écrire un code long et complet ». On peut lire également dans les commentaires : « le système donne trop de réponses vagues, en particulier aux questions sur Docker, Kubernetes et autres CI/CD ».

Dans de nombreux fils de discussion sur Reddit et même dans des messages sur les forums de développement d'OpenAI, les utilisateurs se sont plaints que le système était devenu moins utile. Ils ont également supposé que le changement avait été fait intentionnellement par OpenAI pour que ChatGPT soit plus efficace et ne renvoie pas de longues réponses. Théoriquement, cela le rendrait moins coûteux. En effet, les systèmes d'IA tels que ChatGPT nécessitent une puissance de calcul importante, ce qui rend les réponses détaillées coûteuses. Ainsi, l'entreprise est accusée d'avoir sacrifié l'expérience de l'utilisateur au profit de l'optimisation des ressources.

OpenAI a déclaré avoir pris connaissance des plaintes et qu'une enquête est en cours. La société a précisé qu'aucune modification n'a été apportée au système d'IA et a rejeté les allégations selon lesquelles elle aurait bridé ses performances. « Nous avons entendu tous vos commentaires sur le fait que GPT-4 devient plus paresseux. Nous n'avons pas mis à jour le modèle depuis le 11 novembre, et ce n'est certainement pas intentionnel. Le comportement du modèle peut être imprévisible, et nous cherchons à le corriger », a écrit OpenAI sur X. Dans un long billet sur X, il a tenté d'expliquer que la formation du modèle pouvait être à l'origine du problème.

OpenAI a souligné que la formation des modèles d'IA n'est pas "un processus industriel propre" et que les variations dans les cycles de formation peuvent entraîner des différences notables dans la personnalité de l'IA, son style créatif et son parti pris politique. Les tests approfondis des modèles comprennent des mesures d'évaluation hors ligne et des tests A/B en ligne. Selon l'entreprise, la décision finale de lancer un nouveau modèle repose sur une approche fondée sur les données afin d'améliorer l'expérience "réelle" de l'utilisateur. Mais ces explications ne convainquent pas les utilisateurs, certains affirmant qu'il est peu probable qu'il s'agisse d'un bogue.

« Je doute fort qu'il s'agisse d'un bogue. Il est très facile d'équilibrer et d'ajuster les performances d'un LLM sur une tonne de paramètres différents. (De plus, les vrais bogues critiques ne sont pas quelque chose que les entreprises veulent ignorer comme ça pendant des mois.) Ils réduisent simplement les performances pour que leur fonctionnement soit moins coûteux. En outre, "enquêter" est une autre façon de dire : "nous ne l'admettrons jamais, il faut s'y habituer" », a écrit un utilisateur de ChatGPT. Certains utilisateurs ont menacé de se suspendre leurs abonnements à la version payante de ChatGPT et d'autres ont préféré tourner la situation en dérision.

« Nous y voilà ! J'ai dû dire 5 fois à ChatGPT de corriger le code qu'il m'avait fourni. Il a reconnu qu'il avait fait une erreur. Pourtant, il m'a généré à nouveau le même code. Au moins, nous n'aurons plus à craindre de perdre notre emploi. C'est aussi mauvais que nous, mais la direction ne pourra plus avoir son bonus », a plaisanté un critique. Un autre a souligné : « honnêtement, il a été assez mauvais pour moi depuis le début. Il me donne toujours des réponses erronées et invente des conneries. Ce n'est pas de la paresse. ChatGPT est inutile. Les réponses qu'il me donne sont pires que celles de Google Search. Pourquoi perdre du temps avec cette merde ? »

Cela dit, ce n'est pas la première fois que les performances de ChatGPT sont remises en cause. En juillet, des chercheurs de l'Université de Stanford et de l'Université de Californie à Berkeley ont rapporté que les capacités de ChatGPT dans la résolution de certaines opérations mathématiques de base ont chuté d'une version à l'autre. L'étude a analysé les performances de GPT-3.5 et GPT-4 pendant plusieurs mois sur quatre tâches diverses : résoudre des problèmes mathématiques, répondre à des questions délicates, générer du code logiciel, etc. Les chatbots ont obtenu des résultats médiocres sur certaines tâches en juin que dans leurs versions de mars.

Le résultat le plus remarquable concernait GPT-4, dont la précision dans un exercice de mathématique a chuté de 98 % en mars à 2 % en juin. « Les performances et le comportement de ces deux modèles peuvent varier considérablement dans le temps et les performances de GPT-4 se sont dégringolées au fil du temps », ont écrit les chercheurs en guise de conclusion. La nouvelle controverse survient dans un contexte d'agitation au sein d'OpenAI, après l'éviction surprise puis de la réintégration du PDG Sam Altman. Avec des questions sur les raisons de cette saga, le problème du "ChatGPT paresseux" ajoute une nouvelle couche à l'histoire de l'entreprise.

Le licenciement surprise d'Altman en novembre a provoqué une onde de choc dans l'industrie technologique, laissant des questions sans réponse et des spéculations à profusion. Malgré le silence d'Altman sur la question, une enquête du Washington Post dresse un tableau inquiétant de son comportement "psychologiquement abusif" et "toxique" à l'égard des employés. Le rapport, qui cite des sources anonymes, affirme qu'Altman a favorisé une atmosphère de chaos et de manipulation, ce qui a conduit à des plaintes concernant son comportement auprès de l'ancien conseil d'administration.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des rapports qualifiant ChatGPT de "paresseux" ?
Qu'est-ce qui pourrait être à l'origine du comportement de ChatGPT ?
OpenAI a-t-il bridé intentionnellement les capacités de son chatbot pour réduire les coûts ?
Avez-vous rencontré les mêmes problèmes dernièrement ? Si oui, partagez votre expérience.

Voir aussi

La plupart des employés d'OpenAI ne voulaient pas travailler pour Microsoft, car cela aurait signifié perdre plusieurs avantages, selon un rapport qui s'appuie sur des témoignages

Pourquoi ChatGPT devient-il plus nul en mathématiques de base ? Selon une étude, la raison serait un phénomène de dérive imprévisible

GPT-4 est passé de 98 % à 2 % de réponses exactes à un problème mathématique simple en l'espace de quelques mois, selon une étude qui révèle que les performances de ChatGPT et GPT-4 sont en déclin

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de
https://www.developpez.com
Le 04/09/2024 à 21:19
Citation Envoyé par Stéphane le calme Voir le message
Quels compromis seriez-vous prêt à accepter pour permettre l’innovation en IA tout en protégeant les droits des auteurs ?
Aucun, pourquoi un générateur de médiocrité (nivelage de tout le contenu) pourrait voler le travail des producteurs de valeur pour que OpenAI puisse "gagner de l'argent" en empêchant le dit producteur de valeur d'en gagner ? La réponse à votre question est dans la question en fait, il suffit de remplacer "innovation" par ce qu'est réellement un tel moteur conversationnel qui répond tout et n'importe quoi et de se rappeler le sens de "droit" et de "auteur"

Citation Envoyé par Stéphane le calme Voir le message
Pensez-vous que les entreprises technologiques devraient payer une redevance pour utiliser des contenus protégés par le droit d’auteur ? Si oui, comment cette redevance devrait-elle être calculée ?
Sur la base d'une négociation avec chaque auteur. s'ils ont besoin des ces données il doivent la respecter et donc respecter ceux qui la produise.

Citation Envoyé par Stéphane le calme Voir le message
Comment les créateurs de contenu peuvent-ils collaborer avec les entreprises d’IA pour garantir une utilisation éthique de leurs œuvres ?
C'est leur droit, c'est aux entreprises d'IA de faire les efforts nécessaires.

Citation Envoyé par Stéphane le calme Voir le message
L’utilisation de matériaux protégés par le droit d’auteur sans autorisation pourrait-elle nuire à la diversité et à la qualité des contenus disponibles en ligne ?
C'est déjà le cas, il suffit d'interroger ChatGPT ou Mistral ou autre sur n'importe quel sujet que l'on connait bien pour constater le massacre qui est fait de l'information, vaguement reformulées, avec très souvent des hallucinations ubuesques. En enseignement c'est terrible aujourd'hui, on doit passer 4h sur un sujet qui en prenait 1 avant pour faire désapprendre aux étudiants des trucs faux qui les empêchent de comprendre la notion.

Citation Envoyé par Stéphane le calme Voir le message
Quelles mesures législatives pourraient être mises en place pour équilibrer les besoins des développeurs d’IA et les droits des créateurs ?
Mais pourquoi équilibrer ? les entreprises d'IA n'ont rien à imposer. Si tel était le cas ce serait la fin de tout. Les auteurs n'auraient plus de revenus donc ne produiraient plus et il ne resterait que la soupe mal interprétées par ces "IA" sur la base de l'existant, grande victoire pour les entreprises d'IA qui deviendraient riche pendant un certain temps, une catastrophe pour l'humanité qui deviendrait comme les gros bonhommes dans Wall-e.

Citation Envoyé par Stéphane le calme Voir le message
Pensez-vous que l’accès libre aux informations et aux œuvres culturelles est essentiel pour le progrès technologique, ou cela devrait-il être strictement réglementé ?
si le progrés technologique n'apporte qu'une baisse de qualité et une perte de travail dans une société où on est de plus en plus nombreux il est évident que la réglementation doit empêcher la désignation de "progrés" ce qui n'est qu'un simple moteur conversationnel qui répond coute que coute même quand il ne sait pas. La Justice doit par ailleurs vivement condamner les atteintes au droit d'auteur, sinon ça veut dire que les grosses boites sont plus fortes que l’état de droit...gros soucis.

Citation Envoyé par Stéphane le calme Voir le message
Comment les utilisateurs finaux des technologies d’IA peuvent-ils influencer les pratiques des entreprises en matière de respect des droits d’auteur ?
Quand ils se rendront compte que ça ne leur apporte rien à part le "plaisir" de participer au truc fun du moment, quand ils se lasseront des images toutes identiques, quand ils se lasseront des contenus plats au goût de réchauffé, ils se mordront les doigts et se retourneront vers les gens qui produisent du contenu qui les élève ou les fait rêver.
15  1 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 05/09/2024 à 9:55
Citation Envoyé par Stéphane le calme Voir le message
Controverse autour du droit d'auteur : OpenAI assure ne pas pouvoir gagner de l'argent sans utiliser gratuitement du matériel protégé
Que se passe-t-il quand un entreprise a un business model qui n'est pas viable?
Elle vire son CEO
Elle met la clé sous la porte
Elle est rachetée
Elle peut aussi sortir de la loi mais à ses risques et péril
etc

C'est quand même incroyable que des entreprises hégémoniques se permettent ce genre de discours et qu'en plus elles fasse du quasi-esclavage en parallèle de ça.
Vous êtes dans la une bulle financière, technique et technologique incroyable et vous ne pouvez pas respecter la loi? Il y a une chose qui cloche dans votre gestion!
11  0 
Avatar de petitours
Membre chevronné https://www.developpez.com
Le 31/01/2024 à 8:42
Une fois que l'on a compris que ChatGPT n'est qu'un agent conversationnel on peut le trouver super.
Dans le détail ça ne vaut pas plus qu'une discussion de lundi matin à la machine à café basée sur le fait qu'il faut absolument dire un truc et où le plus bavard, ici chatGPT, va absolument avoir un anecdote et répondre un truc quel que soit le sujet.
J'ai testé, longuement, et reçu des réponses régulièrement débiles.
Aujourd'hui je ne l'utilise que sur des sujets que je connais très bien pour voir ce qu'il me répond, notamment dans le cadre d'enseignements que je donne pour voir ce que mes étudiants vont avoir comme informations en passant par lui. Ce qu'il raconte est au mieux très vague, au pire profondément faux, souvent parce que révélant des mauvaises pratiques.
Cette médiocrité de l'information est à mon sens le plus négatif, sans doute basée sur le volume de données qu'il va chercher copieusement "enrichies" par des forums, blogs ou autres écrits par des non spécialistes.
Le fait qu'il fouine partout et utilise des données personnelles ou viole les droits des auteurs est un autre problème majeur mais personnellement je le le mettrait en 2, après celui de donner des informations fausses ou médiocres qui tirent vers le bas celui qui pose la question.
8  0 
Avatar de Jules34
Membre émérite https://www.developpez.com
Le 05/09/2024 à 9:15
"Mais Monsieur comment voulez que je vende des voitures si je les voles pas au préalable !"
8  0 
Avatar de OuftiBoy
Membre éprouvé https://www.developpez.com
Le 05/09/2024 à 15:52
Moi si je dis, il faut bien que cambriole 25 maisons par ans, sinon je ne sais pas partir en vacances, je suis certains que ça finira mal pour moi. Mais lui, le Altman, la nouvelle coqueluche du moment, il peut se permettre de dire qu'il ne peut gagner des millions qu'en volant le travail des autres, et ça passe crème.
7  0 
Avatar de L33tige
Membre expérimenté https://www.developpez.com
Le 13/02/2024 à 13:01
Citation Envoyé par Ryu2000 Voir le message
Ça ne sert à rien que trop d'étudiants apprennent à se servir de l'IA, puisqu'avec l'IA il faudra moins d'humains pour réaliser autant de travail.
Au bout d'un moment ceux qui bossent dans l'IA ne trouveront plus de boulot.

Si ça se trouve le bon plan c'est de partir totalement à l'opposé.
L'avenir c'est peut-être l'artisanat sans machine, entièrement fait à la main.
On ne sait pas, il y aura peut-être des riches près à mettre beaucoup d'argent dans des produits humains.

C'est clair que beaucoup de gens vont perdre leur boulot à cause de l'IA.
Et ils vont galérer à se reconvertir.

Ce n'est pas dans la conception des IA ou dans la maintenance des robots qu'il y aura beaucoup de boulot.
Parce qu'il y a besoin de peu d'humains pour faire beaucoup.
Je me pose quand même la question, toute cette augmentation de productivité, qui va pouvoir en acheter les fruits, si on se retrouve avec des gens sans travail, qui va acheter ce que produit l'IA ?
6  0 
Avatar de smobydick
Membre averti https://www.developpez.com
Le 16/02/2024 à 7:57
Il y a tellement d'experts qui disent tout et son contraire qu'il y en aura bien un qui finira par avoir raison.
6  0 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 21/02/2024 à 17:43
Une explication la plus probable, c'est que un modèle ca coute de la tune a faire tourner, open ai a surement crée un modèle dégradé mais qui consomme beaucoup moins pour arriver à tenir financièrement.

si demain google search utilisait un système comme openai, google serait surement en faillite, les couts sont multiplié par 10 je crois par rapport au algos de recherche classique au dernnier articles que j'avais lu (ca date de plus d'1ans cela dit, les couts ont surrement baissé)
mais même un facteur x2 c'est trop cher, ca signifierais que google devrait mettre 2 fois plus de pub ou augmenter le prix du référencement par 2.
6  0 
Avatar de Seb33300
Membre émérite https://www.developpez.com
Le 10/06/2024 à 11:35
L’erreur de ChatGPT qui a coûté 10 000 dollars
ChatGPT c'est un outils, le responsable ça reste le développeur...

Sinon, la prochaine fois que je déploie un bug je dirais que c'est la faute de mon clavier...
6  0 
Avatar de OuftiBoy
Membre éprouvé https://www.developpez.com
Le 10/09/2024 à 16:21
Citation Envoyé par Stéphane le calme Voir le message
La controverse autour de l’utilisation des matériaux protégés par le droit d’auteur par OpenAI soulève des questions cruciales sur l’équilibre entre l’innovation technologique et la protection des droits des créateurs. Alors que l’IA continue de progresser, il est essentiel de trouver des solutions qui respectent à la fois les besoins des développeurs d’IA et les droits des auteurs.
Je suis en total déssacord. C'est un principe utilisée vieux comment le monde. La question pose il est essentiel de trouver des solutions qui respectent à la fois les besoins des développeurs d’IA et les droits des auteurs.

C'est déjà éliminer la question du vol de donnée, pour qu'on accepte un "état de fait", et que la seule question qu'on se pose, soit de savoir si on doit choisr entre X ou Y pour régler le problème. C'est pourtant simple, tout vol est interdit. Et TOUS les acteurs de l'IA on procédé de la sorte, ils devraient selon en répondre devant un tribunal.

Parce que si on trouve normal que des entreprisent vol le contenus générer par d'autre, et que leur argument c'est "on ne peut pas faire autrement que de voler" pour faire fructifier notre buisness, alors, on doit accepter qu'on rentre dans un magasin, qu'on vole de dont en a envie besoin, et si on se fait choper à sortie, dire "je ne peux pas faire autrement que de voler" pour ne pas crever la dalle, et on ne devrait pas avoir de soucis. Et ça m'étonnerait très fort qu'une solution du type "comment règler le soucis entre ne pas crever" tout en laissant les magasin faire du pognon me sera proposée.

Si l'IA ne peux fonctionner qu'en volant, et bien on devrait tout simplement interdire ces dernières, sous peine de prison. Je ne vois pas pourquoi on ferait une exception "par ce que ça empêcherait l'innovation". Que ces messieurs, puisse qu'ils ne vont pas en prison, retourne dans leur entreprise et développe "une vrai" IA, sans devoir voler le contenu générer par d'autres. Mais c'est impossible en l'état actuelle de la technologie. Et qu'on ferme ces entreprises ne fera pas arrêter le monde de tourner, on vivait bien avant cette "ridicule technologie", et on vivra bien sans. Leur seul but, c'est de faire du pognon, et en plus en se basant sur le travail d'autres. C'est des méthodes de gangster et les gangster, on les mets en Prison.

Source : OpenAI (1, 2)

Citation Envoyé par Stéphane le calme Voir le message
Et vous ?
Quels compromis seriez-vous prêt à accepter pour permettre l’innovation en IA tout en protégeant les droits des auteurs ?
Aucun. Si l'IA était une innovation, elle devrait faire son taf sans voler les créateurs de contenus. Je vous pose la question à vous "Stéphane le calme", que feriez-vous si je récupérait l'ensemble de ce site, et que je l'utilise avec un autre emballage, que je fais du pognon avec, et que si vous n'êtes pas d'accord, je puisse vous répondre "je suis obligé de voler ce site, parce qu'aussi non, je ne sais pas faire du pognon ?" Quelle réaction auriez vous ? Tenteriez vous de "proposer une solution" qui nous satisface tous les deux ? Je ne pense pas, vous m'attaquerier en juste et je passerais surement par la case "prison".

J'aimerai bien avoir votre réponse.

Cordialement.

BàV et Peace & Love.
6  0