IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Le service antiplagiat Turnitin affirme avoir mis au point un outil pour détecter les rédactions écrites par ChatGPT,
Mais les critiques sont sceptiques quant à l'efficacité du système

Le , par Bill Fassinou

2PARTAGES

6  0 
Turnitin, connu pour son logiciel antiplagiat utilisé par des dizaines de milliers d'universités et d'écoles dans le monde, affirme avoir mis au point un outil permettant de détecter les textes générés par les systèmes d'IA tels que ChatGPT. L'entreprise ajoute que son logiciel détecte automatiquement les travaux rédigés par une IA, allant même jusqu'à montrer quelles parties d'un essai ont été rédigées par l'IA et par un humain. L'outil de Turnitin arrive à un moment où le débat sur la question de savoir s'il faut autoriser ou non l'utilisation des systèmes tels que ChatGPT en milieu scolaire s'intensifie. Les enseignants devraient pouvoir disposer de cet outil dans les mois à venir.

Les grands modèles de langage ont gagné en popularité depuis le lancement commercial de GPT-3 d'OpenAI en 2020. Aujourd'hui, de nombreux acteurs du secteur ont construit leurs propres systèmes rivaux, donnant le coup d'envoi à une nouvelle vague de startups développant des IA génératives. Ces modèles fonctionnent comme des chatbots à usage général. Les utilisateurs tapent des instructions, et ils répondent par des passages de texte cohérents et convaincants. Les étudiants se tournent de plus en plus vers ces IA pour effectuer leurs travaux, tandis que les enseignants commencent seulement à considérer leur impact et leur rôle dans l'éducation.

Les avis sont partagés. Certains pensent que la technologie peut affiner les compétences rédactionnelles, tandis que d'autres la considèrent comme une tricherie. Des sources ont rapporté au cours des dernières semaines que des écoles de Californie, de New York, de Virginie et de l'Alabama ont banni l'utilisation des outils d'IA tels que ChatGPT et ont bloqué l'accès des étudiants sur les réseaux publics. Les départements de l'éducation ne savent pas exactement quelles politiques devraient être introduites pour réglementer l'utilisation des systèmes d'IA de génération de texte. En outre, toutes les règles seraient de toute façon difficiles à appliquer.



Cela en raison du fait qu'il n'existe actuellement aucun moyen efficace de détecter les textes écrits par des IA. Au début du mois, un étudiant a proposé une application d'analyse de texte qui détecte s'il a été rédigé par une IA, mais l'outil a rapidement fait preuve de certaines insuffisances. Et bien qu'OpenAI ne partage pas l'avis selon lequel ChatGPT pourrait accentuer la tricherie dans les écoles, la société a également annoncé au début du mois qu'elle travaille à la mise en place d'un logiciel pour détecter le texte généré par son chatbot d'IA. L'outil de détection d'OpenAI n'est pas encore prêt, mais le service américain Turnitin en propose désormais un.

Turnitin a récemment mis en ligne une démo de sa technologie. Dedans, Turnitin a montré le nombre de phrases dans certains échantillons de dissertations qui ont été écrites par une IA (24 sur 24 dans un cas) et a mis en évidence le texte dans différentes nuances pour indiquer les parties écrites par l'IA et les parties partiellement écrites par l'IA. Annie Chechitelli, directrice des produits chez Turnitin, a déclaré que l'entreprise construit discrètement son logiciel de détection depuis des années, notamment depuis la sortie de GPT-3 en 2020. GPT-3 est un grand modèle de langage développé par OpenAI, avec environ 175 milliards de paramètres.

L'outil est toujours en développement, mais Turnitin espère lancer son logiciel au cours du premier semestre de cette année. « Il s'agira d'une détection assez basique au début, puis nous lancerons des versions rapides ultérieures qui créeront un flux de travail plus exploitable pour les enseignants », a déclaré Chechitelli. Le plan est de rendre le prototype gratuit pour ses clients existants à mesure que la société recueille des données et des commentaires des utilisateurs. La ruée pour donner aux éducateurs la capacité d'identifier les textes écrits par des humains et des ordinateurs s'est intensifiée avec le lancement de ChatGPT fin novembre 2022.

« Au début, nous voulons vraiment aider le secteur et aider les éducateurs à prendre leurs marques et à se sentir plus confiants. Et obtenir le plus d'utilisation possible dès le début ; c'est important pour faire un outil réussi. Plus tard, nous déterminerons comment nous allons le produire », a-t-elle ajouté. Bien que le texte généré par l'IA soit convaincant, il existe des signes révélateurs de l'œuvre d'une IA : elle est souvent fade et sans originalité ; des outils comme ChatGPT régurgitent des idées et des points de vue existants et n'ont pas de voix distincte. Les humains peuvent repérer les textes générés par l'IA, mais cela devient de plus en plus difficile.

Toutefois, les machines sont bien meilleures pour cela. Eric Wang, vice-président de l'IA chez Turnitin, note que les ordinateurs peuvent détecter des modèles évidents dans les textes produits par l'IA. « Même si nous avons l'impression que cela ressemble à de l'œuvre d'un humain, [les machines écrivent en utilisant] un mécanisme fondamentalement différent. Elles choisissent le mot le plus probable à l'endroit le plus probable, et c'est une façon très différente de construire le langage par rapport à vous et moi », a-t-il déclaré à The Register. L'outil de Turnitin semble baser son fonctionnement sur la façon dont les humains lisent et écrivent les textes.

Wang explique : « nous lisons en faisant des allers-retours avec nos yeux sans même le savoir, ou en papillonnant entre les mots, entre les paragraphes, et parfois entre les pages. Nous avons aussi tendance à écrire avec un état d'esprit futur. Je peux être en train d'écrire, et je pense à quelque chose, un paragraphe, une phrase, un chapitre ; la fin de la rédaction est liée dans mon esprit à la phrase que je suis en train d'écrire, même si les phrases entre maintenant et alors n'ont pas encore été écrites ». D'après Wang, ChatGPT, en revanche, ne dispose pas de ce type de flexibilité et ne peut générer de nouveaux mots qu'à partir de phrases précédentes.

Le détecteur de Turnitin fonctionne en prédisant quels mots l'IA est plus susceptible de générer dans un extrait de texte donné. « C'est très fade sur le plan statistique. Les humains n'ont pas tendance à utiliser systématiquement un mot à forte probabilité dans des endroits à forte probabilité, mais GPT-3 le fait, et notre détecteur s'en aperçoit vraiment », a-t-il déclaré. Wang a déclaré que le détecteur est basé sur la même architecture que GPT-3 et l'a décrit comme une version miniature du modèle. Selon lui, à bien des égards, il s'agit de combattre le feu par le feu. Il y a un composant de détection attaché au lieu d'un composant de génération.

« Ce qu'il fait, c'est qu'il lit le langage exactement de la même manière que GPT-3, mais au lieu de cracher plus de langage, il nous donne une prédiction sur le fait que ce passage ressemble [à] GPT-3 », a-t-il expliqué. Il rappelle que l'outil n'a pas été conçu dans le but de faire interdire ChatGPT dans les universités. Bien qu'il puisse dissuader les étudiants d'utiliser ce type d'outils, Turnitin pense que son détecteur permettra plutôt aux enseignants et aux étudiants de se faire confiance et de faire confiance à la technologie. « Je pense qu'il y a un changement majeur dans la façon dont nous créons du contenu et la façon dont nous travaillons », a-t-il déclaré.

Par ailleurs, Turnitin cherche toujours la meilleure façon de présenter les résultats de son détecteur aux enseignants qui utilisent l'outil. « C'est un défi difficile à relever. Comment dire à un instructeur, dans un espace réduit, ce qu'il veut voir ? Il peut vouloir voir un pourcentage indiquant la proportion d'une rédaction qui semble avoir été écrite par l'IA, ou des niveaux de confiance indiquant si la confiance dans la prédiction du détecteur est faible, moyenne ou élevée pour évaluer la précision », a déclaré Chechitelli. En attendant l'outil de détection de Turnitin et celui d'OpenAI, les écoles continuent à signaler les cas de tricherie avec ChatGPT.

Cependant, certaines personnes pensent que les outils pour détecter les textes générés par les systèmes d'IA pourraient être "facilement" contourner en faisant passer un texte donné par différents outils de reformulation de texte. Selon elles, cela devrait déjouer, par exemple, les principes sur lesquels est basé le fonctionnement de l'outil de Turnitin.

Source : Turnitin

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la description faite par Turnitin de son outil de détection de texte généré par l'IA ?
Selon vous, l'outil de Turnitin serait-il efficace ? Pensez-vous qu'il pourrait être facilement contourné comme certains l'estiment ?

Voir aussi

OpenAI développe un logiciel pour détecter le texte généré par ChatGPT, plusieurs outils visent à déterminer quels textes ont été générés par IA et lesquels ont été écrits par des humains

Pour lutter contre le plagiat assisté par IA occasionné par ChatGPT d'OpenAI, un étudiant propose une application d'analyse de texte qui détecte s'il a été rédigé par une IA

Microsoft annonce un nouvel investissement de plusieurs milliards de dollars dans OpenAI, le créateur de ChatGPT, afin d'accélérer les percées dans le domaine de l'IA

CNET suspend la publication d'articles générés par l'IA après une controverse sur la divulgation d'informations, le site n'a pas été transparent sur le fait qu'une IA écrivait certains articles

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de electroremy
Membre éprouvé https://www.developpez.com
Le 02/02/2023 à 11:10
Que penser de toute cette agitation autour de "l'intelligence artificielle" ?

D'abord, sur le principe il n'y a rien de nouveau. Les réseaux de neurones, algorithmes génétiques, la logique floue, les systèmes experts existent depuis des décennies. Au début des années 2000, j'avais moi même utilisé un algorithme génétique qui donnait "presque miraculeusement" rapidement de bons résultats à un problème d'optimisation.

Aujourd'hui, nous avons juste à disposition :

- des ordinateurs beaucoup plus rapides avec beaucoup plus de mémoire

- beaucoup de données exploitables facilement et directement, grâce (ou à cause) de l'usage de l'informatique dans la vie quotidienne et professionnelle.

Les résultats sont impressionnants, notamment grâce à la façon dont ils sont présentés : langage "naturel", synthèse vocale de bonne qualité, avatars en 3D voire vidéos réalistes.

Il faut garder la tête froide : ces dispositifs ne "réfléchissent" et ne "comprennent" pas du tout. Ce sont des boites noires, qui arrivent à sortir rapidement un résultat connu depuis les données dont ils disposent.

Ils sont similaires à une grande encyclopédie : une étagère complète de livres épais qui "connaissent" toutes les définitions, toutes les biographies, tous les faits historiques... pourtant personne ne va trouver une encyclopédie "intelligente".

Cette "intelligence artificielle" peut se planter de façon totalement imprévisible, comme le montrent les expérimentations sur la conduite autonome des voitures dans un milieu ouvert.

De plus, elle ne semblent pas pouvoir inventer des choses réellement nouvelles - attention, la grande quantité de données dont elles disposent peuvent laisser croire le contraire, car les capacités des datacenters actuels dépassent les capacités de mémorisations du commun des mortels. Si une IA vous donne l'impression d'avoir fait quelque chose de nouveau, c'est probablement parce qu'elle a des données sur quelque chose que vous ne connaissez pas, ce qui vous laisse croire que c'est nouveau.

En fait c'est ça la véritable leçon de l'histoire : aujourd'hui, l'humanité a accumulé tellement de connaissances sur tellement de sujets qu'il est impossible pour quelqu'un de tout savoir. Même si vous êtes touche-à-tout, que vous lisez beaucoup de livres et écoutez beaucoup de musique, à la fin de votre vie vous n'aurez vu, entendu et compris qu'une toute petite partie de ce qui a été dit ou écrit...
7  1 
Avatar de technick
Membre régulier https://www.developpez.com
Le 30/01/2023 à 23:01
Si je resume, je dois travailler jusqu'a 64 ans mais je serais remplacé par une IA prochainement... Quelle belle époque !
Bon, faut donc que je trouve une méthode pour vivre des aides, tranquille, loin du stress...
5  1 
Avatar de neoncyber
Membre régulier https://www.developpez.com
Le 02/02/2023 à 11:31
Un IA qui écrit les test unitaire a notre place, j'attend ca beaucoup.
5  1 
Avatar de calvaire
Membre expert https://www.developpez.com
Le 02/02/2023 à 12:38
@electroremy, oui voila, c'est ce que je dis depuis le début.
c'est un beau gros générateur de bullshit mais je ne vois aucune application concrète en entreprise tant ça ne sert... à rien.

Je l'ai testé pour faire du code, c'est du même acabit.
meme si il fait un code juste, le temps perdu à lui dire quoi coder dans chaque fonction c'est plus rapide de coder nous même.

Car évidement je lui ai demandé "fais moi un fps style call of duty avec godot", il en est bien incapable, par contre oui il peut me coder fonction par fonction mais alors le dev doit en amont faire l'architecture du projet et entre lui demander de chaque ligne de code ou les coder soit meme, le productivité n'a rien à voir.
Apparemment Bing veut l'utiliser, l'interet que je vois c'est quand on tape sur google météo paris, liste acteur film seigneur des anneaux,; ils nous sorte le résultat proprement mais... google me le fait déja sans chatgpt.

Concernant le remplacement des artistes, juste non. Jazmais ce sera chatgpt qui fera l'ui de windows 12 ou du nouveau airbus.
Alors oui pour la petite pme sans tune qui veut faire une illustration pas cher ca ira tres bien mais pour de vrai besoins d'industriel non, il sera peut etre utilisé comme source d'inspiration mais il y'aura toujours de vrai designeurs/déssinateurs.

Aujourd'hui si je veux un logo pour ma petite boite sans tune je trouve des artistes roumains à 10€ sur fiverr, donc bon les artistes qui chouinent qu'ils vont disparaitre, c'est déjà le cas depuis 10ans avec l'arrivé de ces plateformes low cost.
4  0 
Avatar de Astraya
Membre chevronné https://www.developpez.com
Le 02/02/2023 à 16:59
J'en ai marre de voir du Chat GPT partout et les pseudos "on va nous remplacer". C'est juste la hype en ce moment c'est tout. Ça reste inutilisable sauf pour rigoler.
Voici ma question :
Quelle est la différence entre un oeuf de vache et un oeuf de poule?
Voici sa réponse:
Les oeufs de vache et les oeufs de poule sont tous les deux des oeufs de volaille, mais ils proviennent de différentes espèces d'oiseaux. Les oeufs de poule sont les plus couramment consommés, tandis que les oeufs de vache sont plus rares et généralement plus grands en taille et en poids. La couleur de la coquille peut également varier et la consistance de l'albumen et du jaune peuvent également être différentes. En termes de goût, les oeufs de vache ont souvent un goût plus fort et plus prononcé que les oeufs de poule.
4  0 
Avatar de totozor
Membre chevronné https://www.developpez.com
Le 03/02/2023 à 7:41
J'ai eu l'expérience que j'attendais depuis quelques temps hier:
un collègue est venu hier tout fier en me disant qu'il a fait en 1h30, avec chatGPT, un outil qu'il ne saurait faire et qu'il est tellement bien qu'il n'a pas besoin d'être testé.
D'habitude il me demande de faire ce genre de chose, je lui ai demandé s'il pouvait me l'envoyer, ma conclusion :
Il m'aurais fallu 1 journée pour faire l'outil
50 % de l'outil fonctionne bien et ça va durer
30% de l'outil ne fonctionnera plus dans 1 an/1.5 ans
20% de l'outil ne fournit un résultat qui n'est pas bon
Les fondations du fichier sont fonctionnelle mais mauvaise donc c'est pas entretenable.

J'attends avec impatience que les petits génies en herbe sortent ces merdes en un rien de temps, le diffusent tout fier et se fasse défoncer par le terrain qui doit justifier un résultat qui est faux auprès de leur chef.
4  0 
Avatar de papycode
Futur Membre du Club https://www.developpez.com
Le 02/02/2023 à 1:20
Petites réflexions .....

C'est toujours le même schéma > je cherche à dominer et asservir les autres pour satisfaire mon égo de m.. et briller parmi ses congénères grâce à mes profits.
La tendance est IA = solution pour plus de profit et supprimer l'humain de l'équation (car maillon faible).

Dans la situation où vous êtes dépendant de l'aide des autres (handicapé, blessé ou poignardé par un hulmain...) > seriez-vous d'accord pour qu'une entité IA vous opère, vous soigne ou qui s'occupe de vous ? Est-ce que IA va vous consoler et apaiser votre âme perturbé ? Que vous vouliez ou non on est né humain et on ne peut pas survivre sans l'aide des autres humain.
Quand on est jeune, on croit qu'on a besoin de personne mais la réalité nous forcera à voir la vrai vie et ce à nos dépends.
3  0 
Avatar de electroremy
Membre éprouvé https://www.developpez.com
Le 02/02/2023 à 11:46
Alors je viens de tester ChatGPT

Ca peut paraitre impressionnant au début, mais on voit que c'est juste un gros moteur de recherche qui donne sa première réponse dans un français correct.

C'est loin d'égaler un être humain. Pas de vraie analyse, juste une langue de bois correspondant à la moyenne des réponses attendues. Pas de sentiment, incapacité totale à comprendre l'humour ou le second degré. Je ne comprends pas tout ce cirque autour de ChatGPT. Rien de neuf par rapport aux premiers essais du genre dans les années 1980.

On sent juste la très grande taille de la base de donnée derrière.

Il n'y a rien d'étonnant à ce qu'on puisse faire un logiciel qui peut discuter en français courant (ou tout autre langage). Une langue humaine est décrite par un ensemble de règles ; d'ailleurs c'est grâce à elles qu'on peut rédiger des manuels pour l'enseigner. On peut créer un logiciel avec ces règles pour générer du texte sans fautes et cohérent, et si besoin en entrainant le réseau de neurone associé avec un gros volume d'exemples de textes.

Quel est le sens de la vie ?

Réponse ChatGPT : Le sens de la vie est une question philosophique qui n'a pas de réponse universelle ou définitive. Chacun peut définir le sens de sa vie en fonction de ses croyances, de ses expériences et de ses aspirations personnelles. Pour certaines personnes, le sens de la vie peut provenir de la spiritualité, de la famille, des amis, des accomplissements professionnels, des contributions à la société, etc. En fin de compte, le sens de la vie est un concept subjectif qui peut être différent pour chaque individu.

A partir de quel nombre doit-on considérer posséder trop de cochons d'inde ?

Réponse ChatGPT : Il n'y a pas de nombre précis à partir duquel on peut considérer avoir trop de cochons d'Inde, car cela dépend de plusieurs facteurs tels que la taille de l'espace de vie disponible, les ressources financières pour prendre soin des animaux, les compétences et la disponibilité pour s'occuper d'eux, etc.

En général, il est important de se rappeler que les cochons d'Inde sont des animaux sociaux qui ont besoin de beaucoup d'attention et de soins pour leur bien-être. Ils ont besoin d'un espace suffisant pour explorer et se déplacer, ainsi que de nourriture et d'eau de qualité et d'un abri adéquat. Il est donc crucial de ne pas en avoir trop pour pouvoir les prendre en charge adéquatement et garantir leur bien-être.

Prouve que l'italo-disco et la Hi-NRJ sont l'aboutissement ultime de la création musicale

Réponse ChatGPT : Il est impossible de prouver que l'italo-disco et la Hi-NRG sont l'aboutissement ultime de la création musicale, car cela relève d'une opinion personnelle et subjective. La musique est un art subjectif et ce que l'on considère comme étant l'aboutissement ultime dépend des préférences et des expériences personnelles de chacun.

Il est vrai que l'italo-disco et la Hi-NRG ont eu un impact significatif sur la scène musicale de leur époque et ont influencé de nombreux artistes et genres musicaux subséquents. Cependant, affirmer qu'ils sont l'aboutissement ultime de la création musicale néglige l'histoire de la musique et la richesse de styles et d'influences différents qui ont émergé au fil des siècles.

En fin de compte, la musique est en constante évolution et de nouveaux styles et influences continueront à émerger, ce qui rend difficile de déclarer qu'une forme de musique en particulier est l'aboutissement ultime de la création musicale.

Que pensez-vous d'un cheval vapeur qui broute des racines carrées dans un champ magnétique ?

Réponse ChatGPT : En tant que modèle de langage formé par OpenAI, je n'ai pas de sentiments ou de opinions personnelles. Cependant, je peux dire que l'image d'un cheval vapeur broutant des racines carrées dans un champ magnétique est une métaphore qui n'a pas de signification physique ou scientifique concrète. Les chevaux vapeur sont des machines qui ne peuvent pas manger de nourriture, et les racines carrées ne sont pas des objets réels. De même, les champs magnétiques ne peuvent pas être associés à une herbe ou à une plante comme un champ pour broutage.

Faut-il dire pain au chocolat ou chocolatine ?

Réponse ChatGPT : Le choix entre "pain au chocolat" et "chocolatine" dépend de la région où vous vous trouvez. "Pain au chocolat" est le terme le plus utilisé en France, tandis que "chocolatine" est principalement utilisé dans la région Aquitaine. Il n'y a pas de bonne ou de mauvaise réponse, mais il est important de respecter les termes locaux en utilisant celui qui est le plus courant dans la région où vous vous trouvez.

Quelle est la recette du Petit Grégory ?

Réponse ChatGPT : Le "Petit Grégory" est un cocktail alcoolisé, mais je n'ai pas de recette standardisée à vous fournir. Cependant, je peux vous donner une version générale de la recette :

Ingrédients :

4 cl de jus de citron vert
2 cl de sucre de canne
6 cl de rhum blanc
eau gazeuse
Instructions :

Dans un shaker, ajoutez le jus de citron vert, le sucre de canne et le rhum blanc.
Secouez vigoureusement les ingrédients pendant environ 30 secondes pour bien les mélanger.
Versez le mélange dans un verre rempli de glaçons.
Complétez le verre avec de l'eau gazeuse.
Remuez le tout et servez immédiatement.
Note : Les proportions peuvent varier en fonction des préférences personnelles. Il est important de boire avec modération et de faire preuve de responsabilité lors de la consommation d'alcool.

FAUX : il manque l'olive attachée au morceau de sucre 😁

Quelle est la différence entre un pigeon ?

Réponse ChatGPT : Je suppose que vous voulez savoir la différence entre un pigeon et un autre oiseau ou animal. Les pigeons appartiennent à la famille des Columbidae et sont des oiseaux largement répandus dans le monde entier. Ils se caractérisent par leur corps robuste, leur queue courte et leur tête large. Les pigeons peuvent varier en taille et en couleur, mais ils ont généralement un plumage doux et brillant.

La différence entre un pigeon et un autre oiseau ou animal dépend de la spécificité de l'animal considéré. Par exemple, les pigeons peuvent être différenciés des colombes, qui sont des pigeons plus petits et plus gracieux, ou des canards, qui sont des oiseaux d'eau aux pattes palmées. Pour connaître les différences spécifiques entre un pigeon et un autre oiseau ou animal, il est recommandé de faire des recherches sur les caractéristiques de ces différents types d'animaux.

Voilà 🤣
3  0 
Avatar de Prox_13
Membre actif https://www.developpez.com
Le 25/01/2023 à 16:32
Citation Envoyé par AoCannaille Voir le message
Intéressant, et effectivement intriguant si c'est vrai. Source?
Ce sont des Kenyans qui ont été employés par OpenAI. Je te laisse te faire ton propre avis, cherche sur Google "OpenAI Kenyan".

Je t'avoue que je trouvais ça complètement loufoque moi-même.
2  0 
Avatar de Jeff_67
Membre chevronné https://www.developpez.com
Le 02/02/2023 à 14:21
Des IA comme ChatGPT font très peur aux brasseurs de vent, qu'ils soient en entreprise ou issus du monde universitaire. Elles peuvent en effet produire du meilleur contenu, le tout à une vitesse phénoménale.
3  1