CNET suspend la publication d'articles générés par l'IA après une controverse sur la divulgation d'informations,

Le site n'a pas été transparent sur le fait qu'une IA écrivait certains articles

La direction de CNET a indiqué au personnel qu'elle suspendait pour l'instant la publication de tout contenu généré par l'IA. Des cadres supérieurs de Red Ventures, la société mère de CNET et d'autres sites Web, ont également donné plus de détails sur l'IA de génération de texte de la société. À l'origine de cette décision, des erreurs dans les articles générés par l'IA et le fait que le média a manqué de transparence sur son "test" d'une "nouvelle technologie d'IA". CNET, qui couvre les nouvelles la technologie, publiait discrètement les articles générés par l'IA sous le pseudonyme "CNET Money Staff". Cela a suscité un tollé lorsque les lecteurs ont découvert le pot aux roses.

Bien que les systèmes de génération de texte ne soient pas nouveaux, ils sont revenus au-devant de la scène ces dernières années grâce aux prouesses réalisées dans le domaine de l'IA, notamment les modèles de langage qui ont nettement amélioré le traitement automatique du langage naturel (NLP). En témoignent les systèmes de génération de texte tels que le chatbot d'IA ChatGPT d'OpenAI et GitHub Copilot qui impressionnent par leurs "capacités rédactionnelles". Apparemment, des sites tels que CNET, un média d'information traitant des nouvelles technologies, semblent avoir démarré en interne le test d’IA propriétaires de ce type.

Cependant, il semblerait que l'expérience ne se soit pas déroulée comme prévu. La semaine dernière, certaines sources ont rapporté que CNET publie discrètement des articles écrits par l'IA sous le pseudonyme "CNET Money Staff". Beaucoup de lecteurs ont été irrités, surtout si l'on considère que CNET n'a pas été très franc à propos de son "test" d'une "nouvelle technologie", comme l'a décrit la rédactrice en chef Connie Guglielmo après le tollé. Selon les sources, l'IA de génération de texte utilisée par CNET semblait faire des erreurs stupides et spectaculaires, malgré l'insistance de la rédaction sur le fait qu'un réviseur humain éditait et vérifiait son travail.


Plus précisément, CNET n'a pas fait savoir clairement aux lecteurs que certains des articles qu'ils peuvent lire sur son site sont générés par une IA. Au lieu de cela, la rédaction a mis une note ambiguë. Après le scandale général, CNET a procédé à quelques changements. Il a supprimé le mot "staff" de la signature de l'IA, par exemple, et a ajouté une mention plus visible. En réponse aux questions sur les erreurs de l'IA, le média aurait publié une correction approfondie d'une histoire qui a été mise en évidence par Futurism, et a ajouté une note de l'éditeur à pratiquement tout ce que l'IA a publié, en disant qu'il est en cours de révision pour l'exactitude.

Mais cela n'a pas suffi à calmer les lecteurs et les critiques, qui ont continué à blâmer l'expérience douteuse du média avec son IA de génération de texte. Face à cette vague de critiques acerbes, lors d'une conférence téléphonique avec personnel vendredi, la direction de CNET a annoncé qu'elle suspendait pour l'instant la publication de tout contenu généré par l'IA. Red Ventures, la société propriétaire de CNET et d'autres sites Web, en a également profité pour donner plus de détails sur l'outil d'IA de la société. D'autres sites de Red Ventures, tels que Bankrate et CreditCards.com, mettraient également en pause la publication de contenu généré par l'IA.

Lance Davis, qui était jusqu'à récemment le point de contact pour les articles de CNET sur l'IA, a donné au personnel un aperçu plus détaillé de l'outil. Jusqu'à présent, la plupart des employés n'avaient que très peu d'informations sur la machine qui générait des dizaines d'articles publiés sur CNET. L'IA, qui n'est pas encore nommée, est un outil propriétaire construit par Red Ventures. Selon Davis, les éditeurs sont en mesure de choisir des domaines à partir desquels ils peuvent extraire des données et générer des articles ; les éditeurs peuvent également utiliser une combinaison de texte généré par l'IA et de leurs propres écrits ou reportages.

Lors de la conférence, la vice-présidente exécutive chargée du contenu, Lindsey Turrentine, a refusé de répondre aux questions du personnel sur l'ensemble des données utilisées pour former l'IA lors de la réunion, ainsi que sur les problèmes de plagiat. Mais elle a indiqué que de plus amples informations seraient disponibles la semaine prochaine et que certains membres du personnel auraient un aperçu de l'outil. Ils ont également fait la différence entre l'IA et une autre technologie automatisée que Red Ventures utilise sur ses sites pour insérer automatiquement des chiffres dans les articles sur les taux d'intérêt des prêts hypothécaires et des refinancements.

« Nous ne l'avons pas fait en secret. Nous l'avons fait discrètement », a déclaré Guglielmo, en réponse aux allégations sur l'expérience secrète de CNET avec une IA de génération de texte. Futurism a noté que CNET et Bankrate semblaient avoir cessé de publier des articles sur l'IA dès mercredi. Guglielmo a déclaré qu'à l'avenir, les articles de CNET sur l'IA comporteront une mention indiquant que le site utilise ses propres technologies automatisées. Red Ventures a également créé un groupe de travail sur l'IA, bien que l'on ne sache pas exactement ce que le conseil a fait jusqu'à présent. La direction a noté que le canal Slack avait été créé.

La polémique entourant CNET et son IA de génération de texte intervient à un moment où les outils de génération de texte tels que Copilot et ChatGPT suscitent des critiques, voire des interdictions, en raison des craintes de plagiat et de la réduction du travail des rédacteurs humains. Comme pour l'automatisation dans d'autres secteurs de la main-d'œuvre, beaucoup ne croient pas que l'IA sera utilisée de manière éthique. « Je veux juste rassurer tout le monde : cela passera. C'est inconfortable, nous allons le surmonter, le cycle des nouvelles va passer », a déclaré Turrentine à propos de la couverture médiatique de ces dernières semaines.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous du fait que CNET publie des articles générés par l'IA sur son site ?
Selon vous, les critiques sont-elles justifiées ? Pensez-vous que CNET a mal mené son expérience ?
Si oui, que reprochez-vous à l'expérience de CNET sur son IA interne de génération de texte ?
Selon vous, les sites d'information doivent-ils faire usage des IA de génération de texte ? Pourquoi ?
À votre avis, quels impacts ces systèmes pourraient-ils avoir sur le journalisme ou le métier de rédacteur ?

Voir aussi

Les résumés d'articles générés par ChatGPT parviennent à duper des scientifiques, ils ne peuvent pas toujours faire la différence entre les résumés générés par l'IA et les résumés originaux

Lyon : ChatGPT utilisé par la moitié des élèves de Master d'un professeur pour rédiger leurs devoirs. « Cette pratique m'inquiète. Elle pose un véritable problème d'intégration des savoirs »

CNET publie discrètement des articles entiers générés par l'IA et l'indique sur un descriptif déroulant, puis se ravise suite aux réactions