WordPress a annoncé l'arrivée d'un assistant d'écriture doté d'une IA pour aider les utilisateurs à créer et à éditer des billets de blogue. Le nouvel outil, appelé Jetpack AI Assistant, est disponible sur WordPress.com et s'intègre de manière transparente dans l'interface de l'éditeur. Mais l'annonce a suscité un tollé, car les experts craignent que l'utilisation de cet outil se traduise par des pertes d'emplois pour les rédacteurs et que le Web se perde dans un tsunami de spams généré par une IA. WordPress étant le CMS le plus utilisé au monde, les critiques craignent que son nouvel outil d'IA n'annonce un avenir dystopique pour un Web déjà malade.WordPress introduit un nouvel outil capable de générer des blogues entiers
WordPress est un CMS populaire auprès des écrivains du monde entier. Des millions de personnes utilisent cette plateforme pour produire des articles et des blogues. En 2022, WordPress représentait 35 % de part de marché. Il est suivi par les CMS Wix (2 %), Joomla (1,8 %), Drupal (1,6 %) et Squarespace (1 %). Ainsi, Automatic, la société qui possède la plateforme d'hébergement WordPress.com et qui contribue au développement de l plateforme open source WordPress, propose régulièrement de nouvelles fonctionnalités afin de rester et d'attirer davantage d'utilisateurs. Cependant, la dernière trouvaille de l'entreprise ne semble pas du goût de tout monde.
Imaginez une plateforme qui produirait des blogues et des articles complets pour les utilisateurs sans qu'ils aient à faire quoi que ce soit. C'est l'idée derrière le nouvel assistant d'IA publié par Automatic. Basé sur une IA générative, l'assistant Jetpack AI d'Automatic veut aider les utilisateurs à créer et à éditer des articles de blogues. Fonctionnant de la même façon que ses homologues, Jetpack AI utilise les invites de l'utilisateur pour générer du contenu. Il peut adapter et affiner le texte pour qu'il corresponde à des tons et à des styles spécifiques, ce qui permet aux rédacteurs d'adapter leurs écrits pour qu'ils trouvent un écho auprès de leur public cible.
Jetpack AI prend actuellement en charge 12 langues, dont l'anglais, l'hindi, l'espagnol, le français, le chinois et le coréen. L'outil prétend rectifier automatiquement les fautes d'orthographe et de grammaire tout en facilitant la traduction entre les langues prises en charge. Automattic estime que cette extension permet aux rédacteurs de créer du contenu dans leur langue maternelle, tout en leur permettant de commercialiser leur contenu dans différentes langues. Automatic a annoncé que Jetpack AI est disponible sur WordPress.com et s'intègre de manière transparente dans l'interface de l'éditeur. Il est également disponible sur d'autres plateformes.
Selon l'entreprise, les utilisateurs de blogues WordPress hébergés sur d'autres plateformes peuvent aussi accéder à cet outil en utilisant un plug-in Jetpack, qui offre des fonctionnalités permettant d'améliorer le marketing, la sécurité et les efforts antispam. Un essai particulier impliquant le nouvel assistant de génération de contenu a montré qu'il produisait un nouvel article sur les voyages en seulement 8 secondes. L'utilisation de Jetpack AI serait gratuit pour tous les clients de WordPress.com pour les 20 premières requêtes, comme une sorte de période d'essai gratuite. Ensuite, les utilisateurs devront payer 10 dollars par mois pour pouvoir accéder à l'outil.
L'introduction par Automatic de Jetpack AI semble bien aligné sur la tendance dominante des entreprises à adopter des assistants pilotés par l'IA pour l'automatisation des affaires et la création de contenu. Les modèles d'IA d'OpenAI ont notamment été rapidement adoptés par plusieurs entreprises, dont Microsoft qui a introduit ces modèles d'IA dans ses produits Office365. Cependant, la disponibilité d'un tel outil de génération de contenu sur l'une des plus grandes plateformes de blogues et de gestion de contenu au monde permettra à cette technologie de se répandre encore davantage sur le Web, une situation qui inquiète de nombreuses personnes.
Le lancement de cette nouvelle fonctionnalité semble logique pour Automattic, qui attire les utilisateurs vers sa plateforme commerciale WordPress.com en ajoutant des fonctionnalités supplémentaires telles que la sécurité et l'assistance. Cependant, si Jetpack AI peut s'avérer particulièrement utile pour les utilisateurs de WordPress, il est difficile de ne pas voir les effets néfastes qu'une telle fonctionnalité aura probablement. Les rédacteurs perdent déjà du travail lorsque leurs clients adoptent des outils d'IA générative comme ChatGPT, et nombreux sont ceux qui craignent que le Web ne se perde dans un tsunami de spam généré par l'IA de mauvaise qualité.
La popularisation de Jetpack AI pourrait dégrader davantage l'état du Web
Les outils basés sur l'IA générative sont notoirement imprécis et les textes qu'ils produisent par défaut sont souvent fades ou obsolètes. En effet, dans la propre démo d'Automattic, vous pouvez voir que les taux de change qu'elle fournit pour un voyage au Japon datent d'août 2021. (Cette date correspond à la limite des informations disponibles pour ChatGPT, bien qu'Automattic ne dise pas quel logiciel il utilise pour faire fonctionner assistant d'AI Jetpack AI). Malgré certaines limites, l'équipe de Jetpack AI affirme que ces outils peuvent garantir que la rédaction effectuée sur WordPress n'est pas seulement intéressante, mais aussi très efficace.
Cela dit, il est fort probable que Jetpack AI souffre des mêmes problèmes que les autres assistants d'IA, ce qui pourrait contribuer à dégrader davantage l'état du Web. L'un des plus grands problèmes de ces nouveaux systèmes d'IA (ChatGPT, DALL-E, Bard, etc.) est le manque de contrôle sur les résultats générés, qui peut entraîner un contenu inapproprié ou contraire à l'éthique. ChatGPT peut halluciner de fausses informations et peut même produire des essais qui ne sont pas seulement verbeux, mais aussi extrêmement ennuyeux. Les entreprises de médias telles CNET ont déjà fait la mauvaise expérience des faux articles générés par un outil d'IA.
Le Web souffre déjà de beaucoup de maux. Par exemple, les utilisateurs sont victimes de harcèlement en ligne, d'hameçonnage, de piratages (parfois sponsorisés par l'État) et d'autres comportements criminels. Les modèles de revenus basés sur les annonces récompensent les clickbait, alors que les infox se propagent de manière virale. Et même si elles peuvent être enrichissantes, les plateformes de médias sociaux sont en outre devenues le foyer de l’indignation politique et des conversations polarisantes. Plusieurs rapports ont déjà signalé l'utilisation de ChatGPT par les acteurs malveillants pour élaborer des attaques par hameçonnage, par exemple.
En décembre dernier, les experts en cybersécurité de Check Point Research ont démontré que ChatGPT peut être dangereux s'il est utilisé à des fins malveillantes. Pour ce faire, ils ont créé, via ChatGPT, un fichier Excel dans lequel a été injecté un code malveillant. Tout ce qu'ils avaient à faire était de demander au chatbot d'écrire un code qui exécuterait un téléchargement malveillant à partir d'une URL une fois le texte saisi dans un fichier Excel. Le code créé par le chatbot d'IA était d'une efficacité redoutable, ce qui souligne à quel point il peut être dangereux. Ils ont ensuite demandé à ChatGPT de générer un email d'hameçonnage afin d'exécuter l'attaque.
En outre, des chercheurs ont découvert que les attaquants peuvent exploiter la tendance de ChatGPT à renvoyer de fausses informations pour diffuser des paquets de codes malveillants. En tirant parti de l'hallucination des chatbots d'IA, les acteurs de la menace peuvent créer des paquets de code malveillants recommandés par ces outils d'IA. Ensuite, un développeur pourrait télécharger par inadvertance ces paquets malveillants lorsqu'il utilise l'un de ces chatbots, et les intégrer dans des logiciels qui sont ensuite utilisés à grande échelle. Selon les chercheurs en cybersécurité, cela représente un risque important pour la chaîne d'approvisionnement en logiciels.
Cela peut permettre à des codes malveillants et à des chevaux de Troie de se glisser dans des applications légitimes et des dépôts de code tels que npm, PyPI, GitHub et d'autres. WordPress étant le CMS le plus utilisé dans le monde, les experts craignent que le Web devienne plus dangereux qu'il l'est déjà en raison de l'utilisation à grande échelle de Jetpack AI. Les risques sont : la prolifération des infox, la désinformation, l'avènement de blogues dangereux pour la cybersécurité, etc.
Source : Jetpack AI Assistant
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de l'outil d'IA Jetpack AI ? Que pensez-vous des préoccupations liées à Jetpack AI ? Selon vous, quels pourraient être les impacts de ce nouvel outil d'IA sur le Web ?Voir aussi
Un rédacteur de contenu a confié que tous ses clients l'ont remplacé par ChatGPT : « ça m'a anéanti ». Les craintes de voir l'IA générative conduire à un chômage généralisé s'amplifient C'est la fin de la programmation informatique telle que nous la connaissons, selon le chroniqueur Farhad Manjoo Le chatbot d'IA ChatGPT est capable de lancer des attaques de phishing dangereuses et de concevoir des codes de téléchargement malveillant d'une efficacité redoutable Les hallucinations de ChatGPT ouvrent aux développeurs la voie à des attaques de logiciels malveillants dans la chaîne d'approvisionnement, les attaquants peuvent exploiter de fausses recommandations « Nous nous dirigeons à grands pas vers un Internet fortement influencé par l'IA, bourré de pépins, de spams et d'escroqueries », affirme un journaliste senior du MIT Technology Review 
Merci pour ce contenu informatif. Une autre chose il faut juste que les utilisateurs de WordPress considèrent cela comme un complément au lieu d'une solution définitive pour créer du contenu. 
