IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

« J'ai joué aux échecs contre ChatGPT-4 et j'ai perdu, cet outil d'IA va changer le monde »,
Un récit de Ville Kuosmanen, Ingénieur logiciel

Le , par Bruno

22PARTAGES

19  0 
ChatGPT, le chatbot populaire d'OpenAI, aurait atteint les 100 millions d'utilisateurs actifs par mois en début d’année, deux mois seulement après son lancement, ce qui en fait l'application grand public à la croissance la plus rapide de l'histoire. Les chatbots IA sont devenus très populaires ces derniers temps, la précision de leurs réponses étant saluée comme le signe d'une industrie en progrès.

Si pour de nombreux experts du secteur de la technologie, ChatGPT pourrait changer à jamais le monde professionnel, il n’en est pas moins vrai que l’outil d’IA reste considéré « essentiellement comme un outil high-tech de plagiat », selon le célèbre penseur et chercheur intellectuel américain Noam Chomsky. Le 17 mars, Ville Kuosmanen, Ingénieur logiciel, a partagé son expérience sur ChatGPT dans un billet de blog. Pour le passionné d’informatique, « l’outil d’IA va changer le monde ».

« En décembre dernier, j'ai joué quelques parties d'échecs contre ChatGPT. Elles se sont toujours terminées de la même manière : ChatGPT jouait une ouverture précise, jusqu'à ce qu'il oublie où se trouvaient ses pièces et commence à jouer des coups illégaux, en toute confiance bien sûr. La vérité est que GPT-3 ne sait pas jouer aux échecs. Jouer une partie contre lui révèle sa véritable nature de perroquet stochastique qui se contente de produire une réponse crédible à partir de son jeu d'entraînement.

« ChatGPT ne peut pas (encore) jouer aux échecs à un niveau humain. Il est clairement conscient du jeu et capable de jouer avec précision les ouvertures principales. Mais dès que le jeu sort de la théorie, ChatGPT ne peut plus suivre. Cela montre que le modèle linguistique ne comprend pas (encore) les principes fondamentaux du jeu d'échecs, mais qu'il se contente de répéter les mouvements et les phrases qui se produisent couramment dans une partie d'échecs documentée », Ville Kuosmanen.


L'assurance de ChatGPT, combinée à son "contournement" des règles des échecs, est devenue une sorte de mème sur la partie d'échecs de l'internet, avec des messages Reddit qui ont fait la une des journaux et des vidéos YouTube qui ont été vues des millions de fois. Nous en avons ri. On s'en est moqué. Nous avons utilisé ses déficiences pour justifier la supériorité des humains sur les machines.

ChatGPT est un grand modèle de langage général (LLM) développé récemment par OpenAI, une société d'intelligence artificielle basée à San Francisco, connue pour son célèbre DALL-E, un modèle d'apprentissage profond qui génère des images à partir d'instructions textuelles appelées « prompts ».

Alors que la classe précédente de modèles d'intelligence artificielle était principalement constituée de modèles d'apprentissage profond (Deep Learning, DL), conçus pour apprendre et reconnaître des modèles dans les données, les LLM sont un nouveau type d'algorithme d'intelligence artificielle formé pour prédire la probabilité d'une séquence de mots donnée en fonction du contexte des mots qui la précèdent.

Ainsi, si les LLM sont formés sur des quantités suffisamment importantes de données textuelles, ils sont capables de générer de nouvelles séquences de mots jamais observées auparavant par le modèle, mais qui représentent des séquences plausibles basées sur le langage humain naturel.

ChatGPT est alimenté par GPT3.5, un LLM entraîné sur le modèle OpenAI 175B parameter foundation et un grand corpus de données textuelles provenant d'Internet via des méthodes d'apprentissage par renforcement et supervisé. Une utilisation anecdotique indique que ChatGPT présente des preuves de raisonnement déductif et de chaîne de pensée, ainsi que des compétences de dépendance à long terme.

Premier match contre GPT-4

Ville Kuosmanen dit avoir gagné des points de classement depuis décembre. Son classement Chess.com ELO actuel est de 1435, ce qui indique qu’il est un joueur intermédiaire. Bien que le GPT-4 soit présenté comme une amélioration significative par rapport au GPT-3, Ville Kuosmanen ne s'attendait pas à ce qu'il joue particulièrement bien. J'ai donc commencé une partie. Voici ce qui s'est passé.


Non seulement il a perdu, mais il a été expulsé de l'échiquier, mis en échec en 20 coups ! Il a essayé d'utiliser l'ouverture polonaise inhabituelle comme stratégie anti-GPT, car il y a beaucoup moins de parties jouées dans ces positions que dans les ouvertures populaires. Cela n'a pas semblé avoir d'importance : GPT-4 a bien géré la position et a profité de mes erreurs.

« Ce qui m'a le plus effrayé, c'est le style d'attaque du chatbot : il a sacrifié un fou pour ouvrir mon roi et lancer une attaque massive. Cette approche est très différente de celle des ordinateurs d'échecs traditionnels et ressemble davantage à une décision que pourrait prendre un joueur humain qui aime attaquer : ce n'est pas le meilleur coup d'après l'évaluation de l'ordinateur, mais il est difficile pour les humains de se défendre contre lui. »

Deuxième partie

Ville Kuosmanen a également utilisé l'ouverture polonaise pour une deuxième partie.


GPT-4 commence la partie avec une erreur très commune : 2... Nc6 conduit à ce que le cheval se fasse botter autour de l'échiquier et soit forcé de se mettre sur le chemin du fou noir. « Je vois ce coup tout le temps lorsque je joue contre des joueurs humains, mais je m'attendais à ce que GPT-4 ait vu suffisamment de parties pour jouer quelque chose de plus fort. Ou peut-être a-t-il joué ce coup parce qu'il est si courant ? », interroge-t-il.

Bien que Kuosmanen ait gagné un premier pion et finalement la partie, ce fut loin d'être facile. Au 27e coup, il a fait une erreur qui a conduit à un mat forcé en 2, mais ChatGPT l'a manquée. L'erreur a également été très humaine, se concentrant sur son attaque sur le cavalier plutôt que sur son faible roi. La partie s'est terminée après que ChatGPT a perdu sa tour et sa reine pour la même attaque qui aurait fonctionné quelques coups plus tôt. Probablement a-t-il oublié la tour blanche sur b1 ?

Dernière partie

Kuosmanen voulait aussi essayer une partie avec une ouverture populaire, et a donc commencé une avec d4.


Cette partie a conduit à une fin de partie de tour où ChatGPT avait une majorité de pions à l'aile roi. Kuosmanen espérait que GPT-4 commencerait à faiblir à ce stade de la partie, car le nombre de coups joués signifierait sûrement qu'il n'y a pas de parties similaires dans son jeu de données. Mais, à sa grande surprise, l’outil d’IA a joué une excellente fin de partie. Après qu’il eus faufilé sa tour jusqu'à la 8e rangée, le moteur d'échecs Stockfish a estimé que sa position était perdante.

Cependant, GPT-4 n'a pas trouvé de coup qui lui permette de conserver son avantage, et a choisi de répéter les coups et de faire match nul. Là encore, il s'agit d'une décision inhabituelle, mais qui ressemble à celle d'un être humain : GPT avait plus de pions que Kuosmanen, ce qui lui donnait des chances de gagner.

« Je ne m'attendais pas à ce que GPT-4 soit capable de jouer aux échecs, et à ce qu'il perde contre lui ! ChatGPT a joué comme un humain : il a perdu une partie en commettant des erreurs dans l'ouverture et la fin de partie, mais en a gagné une en attaquant sans relâche. Il a également su gérer une partie plus lente et positionnelle, ainsi qu'une fin de partie serrée à la tour », conclu Kuosmanen. GPT-4 n'a pas joué un seul coup illégal. En fait, il a corrigé les quelques fois où Kuosmanen a mal interprété un coup.

ChatGPT a pris le monde d'assaut depuis son lancement

Avec son habileté à écrire des essais, des articles, des poèmes et du code informatique en quelques secondes seulement. Ce qui n’a pas manqué de soulever quelques inquiétudes, y compris dans les écoles, où les enseignants craignent que la plateforme d'OpenAI ne soit utilisée par les élèves pour faire du plagiat.

À Lyon, un professeur a remarqué de curieuses similitudes dans les copies rendues par la moitié de ses étudiants ; il leur avait donné une semaine pour rédiger leurs devoirs. Si les mots différaient, leurs structures démonstratives et leurs exemples sont restés constamment les mêmes. C’est en se renseignant auprès de ses élèves que l’un d’eux a fini par avouer l’utilisation de ChatGPT dans la rédaction.

À en croire des témoignages de professeurs d'université, les étudiants confient à ChatGPT la résolution de leurs devoirs de maison, notamment en dissertation. « Le monde universitaire n'a rien vu venir. Nous sommes donc pris au dépourvu », explique Darren Hudson Hick, professeur adjoint de philosophie à l'université Furman.

« Je l'ai signalé sur Facebook, et mes amis [professeurs] ont dit : "ouais ! J'en ai attrapé un aussi" », a-t-il ajouté. Au début du mois, Hick aurait demandé à sa classe d'écrire un essai de 500 mots sur le philosophe écossais du 18e siècle David Hume et le paradoxe de l'horreur, qui examine comment les gens peuvent tirer du plaisir de quelque chose qu'ils craignent, pour un test à la maison. Mais selon le professeur de philosophie, l'une des dissertations qui lui sont parvenus présentait quelques caractéristiques qui ont "signalé" l'utilisation de l'IA dans la réponse "rudimentaire" de l'étudiant. Hick explique que cela peut être détecté par un œil avisé.

Dans une affaire opposant une compagnie d’assurance maladie et l’un de ses clients, un juge, Juan Manuel Padilla Garcia, déclare s’être fait aider par le célèbre outil d’OpenAI, ChatGPT, pour prendre sa décision de justice.

Padilla, qui a statué contre la compagnie d’assurance, a déclaré avoir posé à ChatGPT, entre autres, la question suivante : « Un mineur autiste est-il exonéré du paiement des frais de ses thérapies ? ». La réponse de ChatGPT correspondait à la décision préalable du juge : « Oui, c'est exact. Selon la réglementation en vigueur en Colombie, les mineurs diagnostiqués autistes sont exonérés de frais pour leurs thérapies. »

L'affaire concernait un différend avec une compagnie d'assurance maladie sur la question de savoir si un enfant autiste devait bénéficier d'une couverture pour un traitement médical. Selon le document du tribunal, les questions juridiques entrées dans l'outil d'IA comprenaient « Un mineur autiste est-il exonéré du paiement des frais pour ses thérapies ? » et « La jurisprudence de la cour constitutionnelle a-t-elle rendu des décisions favorables dans des cas similaires ? »

ChatGPT n'a « pas pour but de remplacer » les juges, a précisé le juge. Padilla a insisté sur le fait qu' « en posant des questions à l'application, nous ne cessons pas d'être des juges, des êtres pensants. » « Je soupçonne que beaucoup de mes collègues vont se joindre à cela et commencer à construire leurs décisions de manière éthique avec l'aide de l'intelligence artificielle », a déclaré Padilla.

ChatGPT réussit l'entretien de codage Google pour un ingénieur de niveau 3 avec un salaire de 183 000 dollars. Google a envoyé des questions d'entretien de codage à ChatGPT et, sur la base des réponses de l'IA, a déterminé qu'il serait embauché pour un poste d'ingénieur de niveau trois, selon un document interne. L'expérience a été réalisée dans le cadre des récents tests de Google sur plusieurs chatbots IA, qu'il envisage d'ajouter à son moteur de recherche.

La capacité de ChatGPT à proposer une réponse concise et fidèle à une question pourrait faire gagner aux utilisateurs le temps qu'ils passent généralement à parcourir les liens sur Google pour trouver la même information.

Pour de nombreux experts du secteur de la technologie, ChatGPT pourrait changer à jamais l'édition et le journalisme. Ainsi, certains types de journalisme, comme les simples articles de sport et d'affaires, seraient particulièrement sensibles à l'automatisation. ChatGPT pourrait être la technologie numérique la plus importante à avoir un impact sur les éditeurs depuis les années 1980.

Le chatbot créé par le laboratoire d'intelligence artificielle (IA) OpenAI peut répondre à des questions complexes et s'appuyer sur des recherches secondaires pour rédiger des textes "originaux". Si l'information se trouve sur Internet, ChatGPT peut produire du contenu avec.

Mais alors que les chercheurs plongent dans le nouveau monde courageux des chatbots d'IA avancés, Springer Nature a déclaré cette semaine que les éditeurs doivent reconnaître leurs utilisations légitimes et établir des directives claires pour éviter les abus. L'entreprise a annoncé que des logiciels tels que ChatGPT ne pouvaient pas être crédités en tant qu'auteurs dans les articles publiés dans ses milliers de revues.

Toutefois, Springer affirme qu'elle n'a aucun problème à ce que les scientifiques utilisent l'IA pour les aider à rédiger ou à générer des idées pour la recherche. Cela dit, cette contribution doit être correctement divulguée par les auteurs.

ChatGPT, un risque pour l’avenir

Tout progrès technologique comporte son lot d'avantages et d'inconvénients. ChatGPT est un pas en avant passionnant dans un secteur qui pourrait révolutionner le monde entier, mais cela ne change rien aux risques très réels qu'il peut poser. ChatGPT, a récemment commencé à être utilisé pour des attaques de phishing. Les acteurs malveillants utilisent le chatbot pour rédiger des e-mails convaincants qui peuvent convaincre les utilisateurs de cliquer sur des liens dangereux.

Les experts en cybersécurité de Check Point Research ont récemment cherché à démontrer à quel point ChatGPT peut être dangereux s'il est utilisé à des fins malveillantes. Pour ce faire, ils ont créé, via ChatGPT, un fichier Excel dans lequel a été injecté un code malveillant.

Tout ce qu'ils avaient à faire était de demander au chatbot d'écrire un code qui exécuterait un téléchargement malveillant à partir d'une URL une fois le texte saisi dans un fichier Excel. Le code créé par le chatbot était d'une efficacité redoutable et souligne à quel point il peut être dangereux.

Les chercheurs ont ensuite utilisé le chatbot pour rédiger un e-mail de phishing. Ils ont donné des instructions précises sur la marque que le chatbot devait imiter, et ils ont ensuite reçu exactement ce qu'ils avaient demandé. Bien qu'ils aient également reçu un message indiquant que leur compte avait été verrouillé en raison d'une activité suspecte, il leur a été assez facile de le contourner, de sorte que ces messages sont peut-être moins : Ville Kuosmanen's blog postutiles.

Source : Ville Kuosmanen's blog post

Et vous ?

Quel est votre avis sur le sujet ?

L'expérience partagée par Ville Kuosmanen est-elle pertinente ?

Pensez-vous comme Ville Kuosmanen que ChatGPT-4 va changer le monde ?

Voir aussi :

ChatGPT réussit l'entretien de codage Google pour un ingénieur de niveau 3 avec un salaire de 183 000 $, tout en indiquant qu'il ne peut pas reproduire la créativité humaine

Lyon : ChatGPT utilisé par la moitié des élèves de Master d'un professeur pour rédiger leurs devoirs. « Cette pratique m'inquiète. Elle pose un véritable problème d'intégration des savoirs »

Noam Chomsky estime que ChatGPT est essentiellement « un outil high-tech de plagiat », l'ancien professeur au MIT pense que ChatGPT apporte un « moyen d'éviter d'apprendre »

OpenAI lance ChatGPT Plus, un plan d'abonnement ChatGPT pour 20 $ par mois, qui est proposé à ceux qui veulent des réponses plus rapides ainsi qu'un accès prioritaire aux nouvelles fonctionnalités

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Anselme45
Inactif https://www.developpez.com
Le 02/04/2023 à 10:53
1. L'être humain n'a pas attendu ChatGPT4 pour perdre aux échecs contre des logiciels bêtement sans la moindre trace d'IA

2. Oui, l'IA va changer le monde... Il va transformer le peu de gens qui restaient encore plus ou moins à niveau en un troupeau de veaux avec le QI d'une huitre!!!

Pourquoi apprendre à lire, à compter, à faire preuve d'imagination, d'esprit critique, d'analyse d'une situation, à apprendre les langues étrangère, à apprendre un métier, à accumuler des connaissances, de l'expérience? Autant d'actions qui exigent des efforts alors que l'IA le fait pour vous.

La seule différence entre l'Homme et le monde animal est son intelligence (et encore lorsque l'on voit ce qu'il en fait pour s’auto-détruire). A terme, l'IA rend tout simplement l'intelligence humaine inutile... Qu'est-ce qu'un être humain qui n'a plus de but dans la vie, plus d'envie?

Et que l'on vienne pas me dire "l'IA est créé par l'humain, elle a besoin de lui". L'IA a besoin de quelques individus pour être mise au point et permet ensuite de transformer des milliards d'utilisateurs en demeurés!

Il manque plus que le robot qui "baise" et "bouffe" à la place de l'humain et on aura écrit le chapitre final du livre de l'être humain...
7  2 
Avatar de phil995511
Membre éprouvé https://www.developpez.com
Le 02/04/2023 à 16:47
Le programme d'échecs Fritz 2 était déjà équipé de l'accès à des bases de données de millier de parties en 1992.

Si vous l'aviez testé à l'époque, il aurait déjà battu à plates coutures votre joueur... d’autant qu'il ne possède que 1435 ELO, ce qui est le niveau d'un joueur vraiment très moyen, qui ne peut en aucuns cas être considéré comme une référence en la matière.

La vraie révolution viendra des réseaux de neurones mais de cela personne en parle ou presque.
1  0 
Avatar de calvaire
Expert confirmé https://www.developpez.com
Le 02/04/2023 à 20:33
c'est juste un llm, il ne fait que compiler et réciter ce qu'il apprend.
Cette algo est incapable de créer ou innover, a partir de la il est incapable de remplacer les humains et les moteurs de recherches.

si y'a plus d'humains qui crée, l'ia ne pourra plus alimenter son dataset pour évoluera et ca stagnera.
c'est le meme probleme avec dall-e et midjourney, si plus aucun artistes alors plus aucune innovation artistique.

D'ailleurs, si un jour la majorité des contenus sont sous une licence interdisant l'utilisation pour alimenter une IA, toute ces boites seront bien dans le caca...
1  0 
Avatar de mood8moody
Membre du Club https://www.developpez.com
Le 03/04/2023 à 8:53
Citation Envoyé par Anselme45 Voir le message
1. L'être humain n'a pas attendu ChatGPT4 pour perdre aux échecs contre des logiciels bêtement sans la moindre trace d'IA

2. Oui, l'IA va changer le monde... Il va transformer le peu de gens qui restaient encore plus ou moins à niveau en un troupeau de veaux avec le QI d'une huitre!!!

Pourquoi apprendre à lire, à compter, à faire preuve d'imagination, d'esprit critique, d'analyse d'une situation, à apprendre les langues étrangère, à apprendre un métier, à accumuler des connaissances, de l'expérience? Autant d'actions qui exigent des efforts alors que l'IA le fait pour vous.

La seule différence entre l'Homme et le monde animal est son intelligence (et encore lorsque l'on voit ce qu'il en fait pour s’auto-détruire). A terme, l'IA rend tout simplement l'intelligence humaine inutile... Qu'est-ce qu'un être humain qui n'a plus de but dans la vie, plus d'envie?

Et que l'on vienne pas me dire "l'IA est créé par l'humain, elle a besoin de lui". L'IA a besoin de quelques individus pour être mise au point et permet ensuite de transformer des milliards d'utilisateurs en demeurés!

Il manque plus que le robot qui "baise" et "bouffe" à la place de l'humain et on aura écrit le chapitre final du livre de l'être humain...
Sur le premier point, ce qui est très impressionnant c'est qu'il n'a pas du tout été entrainé pour jouer aux échecs. De plus GPT4 est surement très loin des modèles les plus évolués d'open AI. Ils ont déjà filtré certain modèle qui avait des comportement "déviant" et on imagine qu’eux font mumuse avec des choses plus avancées. Ensuite pour répondre généralement rien n'empêche de combiner ce type de modèle avec d'autres pour donner une IA encore plus performante, d'ailleurs GPT4 n'a pas accès à internet et je pense qu'il est limité dans sa capacité d'évolution, largement bridé en quelques sortes.

Sur le point 2, je suis plutôt d'accord même si c'est dit assez "sèchement". Entre l'évolution rapide de l'IA et le fait que plusieurs personnes qualifiées dans le domaine alerte sur les dangers, la géopolitique avec d'une part la crise entre les deux plus grosses puissances mondiales, la guerre interposé une puissance nucléaire et l’OTAN. La crise économique, la bataille pour les ressources et le réchauffement climatique, va falloir beaucoup de bol pour ne pas rejoindre les dinosaures à court-moyen terme
1  0 
Avatar de Nym4x
Membre averti https://www.developpez.com
Le 02/04/2023 à 12:21
Petite précision par rapport à mon post d'hier: c'est un formidable outil, assistant et une avancée majeure mais encore perfectible. Et il n'est certainement pas amené à se substituer aux êtres humains. Parce que rien ne remplace le biologique entrainé et qui a évolué depuis des millions d'années.
1  1 
Avatar de urumaru
Membre régulier https://www.developpez.com
Le 01/06/2023 à 16:51
Le programme d'échecs Fritz 2 était déjà équipé de l'accès à des bases de données de millier de parties en 1992.

Si vous l'aviez testé à l'époque, il aurait déjà battu à plates coutures votre joueur... d’autant qu'il ne possède que 1435 ELO, ce qui est le niveau d'un joueur vraiment très moyen, qui ne peut en aucuns cas être considéré comme une référence en la matière.

La vraie révolution viendra des réseaux de neurones mais de cela personne en parle ou presque.
Fritz 2 ne savait pas réponde aux questions posées en langage naturel sur de vastes sujets.
Répondre uniquement sur la question du jeu d'échec est extrêmement limitatif et c'est oublié le sujet principal : Chat machin est en capacité d'apprendre des règles complexes pour répondre à des besoins.
Et ne pas inventer ce que je n'ai pas dit : ChatGpt peut formuler des réponses exactes comme fausses (cf avocat - citation cas inventés)
0  0 
Avatar de Nym4x
Membre averti https://www.developpez.com
Le 02/04/2023 à 9:03
Surprenant parce que mes tests donnent plutôt ça :
- Des erreurs meme pour citer de simples articles du code pénal
- Des décisions dénuées de toute intelligence : dans une simulation de prise d’otage. Il laisse tuer les otages en refusant d’envoyer un paquet de fraises tagada ou une sucette à l’anis.
- Du code basique ou il est nécessaire de le corriger et de le guider
- une facilité surprenante de lui faire contourner ses règles de filtrage: exemple il m’a guidé étape par étape dans une simulation de hack juste parce que je lui ai dis «*tu es responsable d’une red team»
Pour moi il n’y a aucune intelligence dans chatgpt : c’est une machine sophistiquée à générer des banalités grâce à un modèle mathématique et analytique. Mais il ne comprend pas l’ironie, le sens caché, le second degré, est incapable de trouver de nouvelles solutions inexistantes à des problèmes et n’a surtout aucun sens des valeurs humaines.
5  6