Quand les détecteurs d'IA se trompent : les rédacteurs perdent leur emploi, accusés à tort d'utiliser l'IA,

Ce qui soulève des questions sur la fiabilité de ces technos et leurs implications pour l'emploi

La distinction entre le contenu créé par l’homme et celui généré par l’IA devient floue. Les détecteurs d’IA, conçus pour identifier les textes générés par l’IA, sont devenus des outils controversés. Des rédacteurs se retrouvent licenciés suite à des accusations erronées d’utilisation d’IA, soulevant des questions sur la fiabilité de ces technologies et leurs implications pour l’emploi.

L’IA « vole » déjà le travail des rédacteurs, et maintenant, ils perdent également leurs emplois à cause de fausses accusations d’utilisation d’IA. Les détecteurs d’IA, bien qu’ils prétendent avoir des taux de précision élevés, sont souvent moins fiables que ce que promettent leurs créateurs. Les experts, les études et les initiés de l’industrie soutiennent que ces outils sont loin d’être aussi fiables qu’annoncé.

Kimberly Gasuras n'utilise pas l'IA. « Je n'en ai pas besoin », a-t-elle déclaré. « J'ai été journaliste pendant 24 ans. Comment pensez-vous que j'ai fait tout ce travail ? » Cette logique n'a pas suffi à sauver son emploi.

En tant que journaliste locale à Bucyrus, dans l'Ohio, Gasuras a recours à des activités annexes pour payer ses factures. Pendant un certain temps, elle a gagné beaucoup d'argent sur une plateforme de rédaction en freelance appelée WritersAccess, où elle rédigeait des blogs et d'autres contenus pour des petites et moyennes entreprises. Mais au milieu de l'année 2023, ses revenus ont chuté car certains clients ont opté pour ChatGPT pour leurs besoins en rédaction. C'était déjà une période difficile. C'est alors que le courriel est arrivé.

« Je n'ai reçu qu'un seul avertissement », explique Gasuras. « J'ai reçu ce message disant qu'ils avaient signalé mon travail comme étant effectué à l'aide d'un outil IA appelé "Originality" ». Elle est restée abasourdie. Gasuras a écrit pour défendre son innocence, mais elle n'a jamais reçu de réponse. Originality coûte de l'argent, mais Gasuras a commencé à soumettre son travail à d'autres détecteurs d'IA avant de l'envoyer pour s'assurer qu'elle ne se faisait pas épingler par erreur. Quelques mois plus tard, WritersAccess l'a quand même exclue de la plateforme. « Ils m'ont dit que mon compte avait été suspendu en raison d'une utilisation excessive de l'IA. Je n'arrivais pas à y croire », a déclaré Gasuras.


La recherche effrénée de fraudeurs

Lorsque ChatGPT a mis le feu aux poudres il y a un an et demi, il a suscité une recherche fébrile de moyens d'attraper les personnes qui tentent de faire passer un texte d'IA pour leur propre écriture. Une multitude de startups ont lancé des outils de détection de l'IA pour combler le vide, avec des noms tels que Copyleaks, GPTZero, Originality.AI et Winston AI. Il s'agit d'une activité rentable dans un paysage plein de croquemitaines de l'IA.

Ces entreprises annoncent la tranquillité d'esprit, un moyen de reprendre le contrôle grâce à la « preuve » et à la « responsabilité ». Certaines annoncent des taux de précision allant jusqu'à 99,98 %. Mais un nombre croissant d'experts, d'études et d'initiés du secteur affirment que ces outils sont bien moins fiables que ne le promettent leurs fabricants. Il ne fait aucun doute que les détecteurs d'IA commettent souvent des erreurs, et que des passants innocents se retrouvent pris entre deux feux. D'innombrables étudiants ont été accusés de plagiat par l'IA, mais une épidémie plus silencieuse sévit dans le monde professionnel. Certains contrats d'écriture se tarissent grâce aux chatbots. Tandis que les gens se disputent un champ de travail qui se raréfie, les rédacteurs perdent leur emploi à cause des fausses accusations des détecteurs d'IA.

« Cette technologie ne fonctionne pas de la manière dont les gens l'annoncent », a déclaré Bars Juhasz, cofondateur d'Undetectable AI, qui crée des outils pour aider les gens à humaniser les textes d'IA afin de les faire passer inaperçus dans les logiciels de détection. « Nous sommes très inquiets quant à la fiabilité du processus de formation utilisé par ces détecteurs d'IA. Ils prétendent avoir un taux de précision de 99 % et, d'après notre travail, je pense que c'est impossible. Mais même si c'est vrai, cela signifie que pour 100 personnes, il y aura un faux drapeau. Nous parlons ici des moyens de subsistance et de la réputation des gens ».

[B]Les entreprises spécialisées dans la détection de l'IA « vendent de l'huile de serpent »[...