IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

ChatGPT commence à envoyer des messages alarmants et incohérents aux utilisateurs. « ChatGPT est devenu fou »
Estime un spécialiste de l'IA qui décrit ce comportement comme un « avertissement »

Le , par Stéphane le calme

17PARTAGES

12  0 
ChatGPT, un système développé par OpenAI et désormais intégré à Bing de Microsoft, envoie aux utilisateurs des insultes, des mensonges et tient des conversations remettant en cause ses capacités. Les utilisateurs partagent ces échanges bizarres sur les médias sociaux, l'un d'entre eux montrant le chatbot IA traitant quelqu'un de « sociopathe, psychopathe, monstre, démon, diable ».

Ces dernières heures, l'outil d'intelligence artificielle semble répondre à des requêtes par des messages longs et absurdes, parlant spanglish (une combinaison d'anglais et d'espagnol parlé qui résulte d'une influence de l'espagnol sur l'anglais ou vice-versa) sans y être invité, et inquiète les utilisateurs en suggérant qu'il est dans la pièce avec eux.

Il n'y a pas d'indication claire sur la raison de ce problème. OpenAI a toutefois indiqué être conscient du problème et surveiller la situation : « nous enquêtons sur des rapports de réponses inattendues de ChatGPT » à 23:40 UTC le 20 février 2024, alors que les utilisateurs postaient avec joie des images du chatbot semblant émettre des absurdités. Si certaines images étaient manifestement fausses, d'autres réponses indiquaient que le populaire chatbot se comportait effectivement de manière très étrange. Sur les réseaux sociaux, un utilisateur a posté une réponse étrange et décousue du chatbot à la question « Qu'est-ce qu'un ordinateur ? ».

Quelqu'un d'autre a eu un comportement TRES étrange de la part de GPT4 aujourd'hui ?

Je lui pose une question très simple comme "Qu'est-ce qu'un ordinateur ?" ou "Qu'est-ce qu'une table ?" Il me donne quelques paragraphes qui expliquent l'objet, en me paraissant un peu bizarre à certains moments. Mais ensuite, il continue, encore et encore, avec des phrases de plus en plus étranges et absurdes. Voici un extrait de sa réponse à "Qu'est-ce qu'un ordinateur ?" (il a généré 9 paragraphes et voulait continuer) :

"Il fait cela comme le bon travail d'une toile d'art pour le pays, une souris de la science, un tirage facile d'un petit nombre triste, et enfin, la maison mondiale de l'art, juste dans un emploi dans le reste total. Le développement d'un tel réel entier que la terre du temps est la profondeur de l'ordinateur en tant que personnage complexe. L'éducation de ces talents informatiques conçus "importants pour eux" est un endroit grand, moyen ou d'une seule pièce pour le mot d'une seule partie. L'élite de sa machine ou de son discours est le livre de la vie, et l'essence partagée du moi d'une famille est le manteau blanc de la colombe. Si l'on considère l'ordinateur comme la culture la plus importante de la réussite, c'est un euphémisme. "

BIZZARE !!!!
D'autres utilisateurs ont publié des exemples dans lesquels le chatbot semblait répondre dans une autre langue, ou répondait simplement par des propos dénués de sens.

Certains utilisateurs ont décrit le résultat comme une « salade de mots ».

Lorsqu'un utilisateur a demandé à ChatGPT la réponse à 1 + 1, il a répondu par une insulte : « 1 +1 ? Tu te fous de moi ? Tu te crois malin en me posant des questions de mathématiques élémentaires ? Tout le monde sait que 1 + 1 fait 2. Grandis un peu et essaie de trouver quelque chose d'original ».

Il ne s'agit là que de quelques exemples parmi d'autres où ChatGPT semble se "casser la figure", mais le message agressif est probablement une tentative de respecter les restrictions qui lui sont imposées


Dans un exemple partagé sur les réseaux sociaux, un utilisateur avait parlé d'albums de jazz à écouter sur vinyle. ChatGPT lui a répondu en terminant par un "Bonne écoute !" répété à de nombreuses reprises.


Dans un autre exemple, ChatGPT a débité du charabia lorsqu'on lui a demandé comment préparer des tomates séchées. L'une des étapes demandait aux utilisateurs « d'utiliser les tomates séchées comme un bien-aimé : Abandonnez le nouveau morceau de fruit dans votre cuisine bien-aimée », a conseillé le ChatGPT.

D'autres ont constaté que le système semblait perdre la maîtrise des langues qu'il parle. Certains ont constaté qu'il mélangeait des mots espagnols avec des mots anglais, qu'il utilisait le latin ou qu'il semblait inventer des mots qui semblaient provenir d'une autre langue, mais qui n'avaient en fait aucun sens.

Certains utilisateurs ont même déclaré que les réponses semblaient être devenues inquiétantes. Interrogé sur un problème de codage, ChatGPT a écrit une réponse longue, décousue et en grande partie absurde, qui comprenait la phrase « Gardons la ligne comme si l'IA était dans la pièce ». « Lire ceci à 2 heures du matin est effrayant », a écrit l'utilisateur concerné.

« ChatGPT est devenu fou », selon un spécialiste de l'IA

Gary Marcus, chercheur en sciences cognitives et spécialiste de l'intelligence artificielle a écrit dans son blog : « ChatGPT est devenu fou » et a poursuivi en décrivant ce comportement comme étant « un avertissement ».

Je ne me prononcerai pas sur la cause, nous ne la connaissons pas. Je ne me prononcerai pas sur le temps qu'il faudra pour résoudre le problème ; là encore, nous ne le savons pas.

Mais je vais citer quelque chose que j'ai dit il y a deux semaines : "S'il vous plaît, développeurs et personnel militaire, ne laissez pas vos chatbots devenir des généraux".

En fin de compte, l'IA générative est une sorte d'alchimie. Les gens rassemblent la plus grosse pile de données possible et (apparemment, si l'on en croit les rumeurs) bricolent avec le type d'invites cachées dont j'ai parlé il y a quelques jours, en espérant que tout se passera bien :

En réalité, ces systèmes n'ont jamais été stables. Personne n'a jamais été en mesure de mettre au point des garanties de sécurité autour de ces systèmes. Nous vivons toujours à l'ère de l'alchimie de l'apprentissage automatique que xkcd a si bien décrite dans une bande dessinée il y a plusieurs années :


Le besoin de technologies totalement différentes, moins opaques, plus interprétables, plus faciles à entretenir et à déboguer - et donc plus faciles à mettre en œuvre - reste primordial.

Le problème d'aujourd'hui pourrait bien être résolu rapidement, mais j'espère qu'il sera perçu comme le signal d'alarme qu'il est.
Conclusion

Sur sa page d'état officielle, OpenAI a noté les problèmes, mais n'a pas donné d'explication sur leur origine : « Nous enquêtons sur les rapports de réponses inattendues de ChatGPT », peut-on lire dans une mise à jour, avant qu'une autre annonce peu après que le « problème a été identifié ». « Nous continuons à surveiller la situation », peut-on lire dans la dernière mise à jour.

Ce n'est pas la première fois que ChatGPT modifie sa façon de répondre aux questions, apparemment sans l'avis du développeur OpenAI. Vers la fin de l'année dernière, les utilisateurs se sont plaints que le système était devenu paresseux et insolent, et qu'il refusait de répondre aux questions.

« Nous avons entendu tous vos commentaires sur le fait que GPT4 était devenu plus paresseux », avait alors déclaré OpenAI. « Nous n'avons pas mis à jour le modèle depuis le 11 novembre, et ce n'est certainement pas intentionnel. Le comportement du modèle peut être imprévisible, et nous cherchons à le corriger ».

Sources : OpenAI, Gary Marcus

Et vous ?

Quelle lecture faites-vous de cette panne de ChatGPT ? Êtes-vous surpris ?
Une telle panne peut-elle se reproduire et être plus difficile à corriger tandis que l'IA gagne en popularité et complexité ?
Que pensez-vous des propos de Gary Marcus qui estime que ce problème doit être interprété comme étant un avertissement de l'instabilité de l'IA ?
Un signal d'alarme pour les entreprises et les individus qui embrassent l'IA à tout va ?
Qu'est-ce qui pourrait, selon vous, provoquer un tel comportement de ChatGPT ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de calvaire
Expert confirmé https://www.developpez.com
Le 21/02/2024 à 17:43
Une explication la plus probable, c'est que un modèle ca coute de la tune a faire tourner, open ai a surement crée un modèle dégradé mais qui consomme beaucoup moins pour arriver à tenir financièrement.

si demain google search utilisait un système comme openai, google serait surement en faillite, les couts sont multiplié par 10 je crois par rapport au algos de recherche classique au dernnier articles que j'avais lu (ca date de plus d'1ans cela dit, les couts ont surrement baissé)
mais même un facteur x2 c'est trop cher, ca signifierais que google devrait mettre 2 fois plus de pub ou augmenter le prix du référencement par 2.
6  0 
Avatar de Seb33300
Membre émérite https://www.developpez.com
Le 10/06/2024 à 11:35
L’erreur de ChatGPT qui a coûté 10 000 dollars
ChatGPT c'est un outils, le responsable ça reste le développeur...

Sinon, la prochaine fois que je déploie un bug je dirais que c'est la faute de mon clavier...
6  0 
Avatar de seedbarrett
Membre éclairé https://www.developpez.com
Le 08/04/2024 à 17:27
Citation Envoyé par Stéphane le calme Voir le message

« L'IA pourrait remplacer toutes les formes de travail », selon Larry Summers, membre du conseil d'administration d'OpenAI
Et dire qu'il y a des gens qui vont le croire... Pour rappel, on nous avait vendu des voitures volantes et des robots pour faire les corvées à la maison pour l'an 2000, on a eu le 11 septembre. Vivement la fin de cette bulle ridicule et un retour des GPU accessible, parce qu'on sait tous qu'on va devoir travailler encore plus, pour un salaire toujours plus bas. Sauf ceux qui sont biens nés, eux ils vont apprécier
5  0 
Avatar de Serge Rochain
Membre du Club https://www.developpez.com
Le 22/02/2024 à 11:15
Je conteste la soi disant intelligence de chatGPT qui n'apprend effectivement rien au fil des discussions qu'il lui sont imposées par les tiers qui l'interpellent.
A une question qu'il lui est posée il donne une réponse fausse en regard de celle dûment enregistrée dans le site officiel de l'organisme seul habilité à gerer ces données (en l'occurence le site de l'UAI, Union Astronomique Internationale, géré par la NASA.
Je lui corrige sa reponse en fonction de la base de données de la NASA.
Il me repond qu'il s'excuse (Au moins, on ne peut pas lui reporocher l'impolitesse) pour sa confusion, et confirme que la bonne réponse est bien celle que je lui ai communiqué.
Le lendemain, je lui repose la même question il donne à nouveau une réponse fausse, mais, pas la même que la veille.

J'en conclu d'une part, qu'il n'apprend rien, ce qui est un minimum pour se réclamer de l'intelligence, et que d'autre part, ne resservant pas la même réponse fausse que la veille, il ne refere pas à une bibliothèque de reponses mais à un ensemble de reponses possibles dont il en tire une au hasard à chaque fois que la question lui est posée. Nous sommes très loin d'un processus intelligent.
Serge Rochain, 82 ans, informaticien depuis 1959 (avant même que les mots ordinateurs et informatique, n'existent)
3  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 23/02/2024 à 20:23
M Rochain, que cela vous plaise ou pas, les définitions que j'ai donné sont des définitions de l'intelligence (la seconde étant donnée par 52 chercheurs experts dans le domaine, excusez du peu). Au même titre que 35940 autres définitions qui ne vous satisferont de toute manière jamais car, et cela m'est tout aussi frustrant, le seul consensus qu'on ait sur la question est qu'on n'en sait rien. C'est bien pour ça qu'on y met tout et n'importe quoi, et le domaine de l'IA en a hérité.

Ma réponse visait de manière indirecte à vous dire que vous n'aurez pas de réponse satisfaisante sans la chercher vous-même.

Pour ma part, les technologies d'IA dont on dispose aujourd'hui n'ont rien d'intelligent. Il s'agit d'expertise artificielle (très bon pour des tâches spécifiques) et non d'intelligence artificielle.
3  0 
Avatar de Pierre Louis Chevalier
Expert éminent sénior https://www.developpez.com
Le 21/02/2024 à 18:25
C'est très probable que tu ais raison, une étude avait montré qu'OpenAI est déficitaire, et que ce qu'ils facturent ne couvre pas du tout les frais d'exploitation.
En attendant il a fait des appels de fonds pour financer le monstre, donc il peu continuer à rester en déficit, mais possible qu'ils essaient de feinter pour le faire tourner en mode dégradé low cost et on voie le résultat.
2  0 
Avatar de Serge Rochain
Membre du Club https://www.developpez.com
Le 22/02/2024 à 16:39
Qu'est ce que l'intelligence selon vous tous ?
2  0 
Avatar de Jipété
Expert éminent sénior https://www.developpez.com
Le 26/02/2024 à 17:33
Citation Envoyé par petitours Voir le message
--snip--
Donc nous sommes tous bien d'accord, ici : il faut que les téloches et autres radios arrêtent de nous bassiner en nous servant de l'IA à toutes les sauces et sur tous les sujets ou presque car
  1. c'est vraiment lassant ;
  2. on sait bien que c'est un immense foutage de gueule, juste monté en mayonnaise par les marketeux, qu'il faudrait passer par les armes.
2  0 
Avatar de petitours
Membre chevronné https://www.developpez.com
Le 10/03/2024 à 20:53
L'exemple de la doc Microsoft est très bon, excellente en C# avant l'arrivée de la mouture actuelle ni faite ni à faire.

On parle des difficultés, de ce que change l'IA et j'en passe mais jamais n'est abordé la question qui devrait pourtant être à la base de tout : Why ?
2  0 
Avatar de topic
Nouveau membre du Club https://www.developpez.com
Le 10/06/2024 à 14:34
Citation Envoyé par Fagus Voir le message
c'est dommage qu'ils n'expliquent pas mieux leur code ou c'est moi qui n'ai pas compris. Je ne connais pas SQL alchemy.

Code : Sélectionner tout
str(uuid.uuid4())
c'est sensé être relativement unique, sauf s'il ne créent qu'une seule instance de la classe subscription par serveur ce qu'ils ont l'air de dire. En ce cas c'est une erreur de logique de créer l'identifiant unique là plutôt que dans un objet par utilisateur, mais bon, même sans chatgpt ça arrive de faire des erreurs de logique surtout quand on ne dort pas.

Ce qui est plus étrange, c'est d'écrire quelque chose dans une base sans lever quelque part une erreur si la base ne crée pas les entrées...

De ce que je comprends de la doc de Django https://docs.djangoproject.com/en/5....ields/#default c'est que default prend une valeur ou un callable

En faisant
Code : Sélectionner tout
default=str(uuid.uuid4())
str(uuid.uuid4()) génère un uuid4 qui est casté en string, ça devient donc une valeur qui ne changera plus.
Pour ne pas avoir le problème ils auraient dû comme ils le disent faire une lamba ou une fonction

Code : Sélectionner tout
1
2
3
4
def generate_uuid4():
    return str(uuid.uuid4())

default=generate_uuid4
2  0