Mark Zuckerberg, PDG de Meta, partage sa vision de l'avenir de la création de contenu. Il prédit un avenir où des clones générés par l'IA aideront les créateurs de contenu à entrer en contact avec leurs fans. Il s'attend à ce que ces versions IA des créateurs s'occuperaient notamment de répondre aux commentaires et aux messages, ce qui permettrait aux créateurs de se concentrer sur la création de nouveaux contenus. Mais les experts alertent sur les risques liés à l'utilisation accrue de l'IA dans la création de contenu sur le Web et l'Internet. Pour certains, nous nous dirigeons vers un Internet fortement influencé par l'IA, bourré de pépins, de spams et d'escroqueries.Mark Zuckerberg encourage les créateurs de contenu à utiliser davantage l'IA
Les créateurs de contenu sont des personnes très occupées. Selon l'édition 2024 du rapport Future of the Creator Economy d'Epidemic Sound, la plateforme de bande sonore pour la création de contenu, 49 % d'entre eux consacrent plus de 20 heures par semaines à la création de nouveaux contenus pour leurs sites respectifs. Cela ne leur laisse pas beaucoup de temps pour s'occuper de leur public. Mark Zuckerberg, PDG de Meta, pense que l'IA pourrait aider à résoudre ce problème. Plus précisément, le PDG milliardaire affirme qu'à l'avenir, les clones d'IA peuvent aider les créateurs à s'engager plus facilement avec leurs fans.
Dans un entretien avec Rowan Cheung, personnalité de la sphère Internet, Zuckerberg a exposé sa vision d'un avenir dans lequel les créateurs auront leurs propres bots, qui reflèteront leur personnalité et leurs "objectifs commerciaux". « Les créateurs se déchargeront sur ces bots d'une partie de leur travail de sensibilisation de la communauté afin de libérer du temps pour d'autres tâches, sans doute plus importantes », explique Zuckerberg.
Ce n'est pas tout. Zuckerberg a ajouté : « je pense qu'il va y avoir un énorme déblocage où chaque créateur pourra puiser toutes ses informations dans les médias sociaux et former ces systèmes pour qu'ils reflètent leurs valeurs, leurs objectifs et ce qu'ils essaient de faire, puis les gens pourront interagir avec cela. Ce sera presque comme un artefact artistique que les créateurs créent et avec lequel les gens peuvent interagir de différentes manières ».
Il imagine ces clones d'IA comme des versions numériques des créateurs, formés pour refléter leur personnalité et leurs objectifs. Les fans pourraient interagir avec ces robots d'IA comme s'ils interagissaient avec la personne elle-même. L'interview de Zuckerberg coïncide avec le lancement du nouveau grand modèle de langage par Meta, Llama 3.1. Le nouveau modèle sera lancé en trois versions : 405B, 70B et 8B. Elles sont destinées à différents cas d'utilisation.
Ces versions ont toutes des caractéristiques différentes, la 405B étant le modèle phare en termes de capacités. La version 70B est rentable et la version 8B est légère et peut être utilisée sur des appareils bas de gamme. Ces trois logiciels peuvent être téléchargés gratuitement, car Mark Zuckerberg encourage le développement de logiciels libres pour l'IA de Meta. Cela s'explique en partie par le fait que Zuckerberg souhaite que l'IA soit un marché concurrentiel :
« Notre vision est qu'il devrait y avoir un grand nombre de modèles d'IA et de services d'IA différents, et non pas un seul type d'IA unique. C'est ce qui sous-tend l'approche open source et la feuille de route des produits ». Même avec toutes ces nouvelles technologies, Zuckerberg insiste sur le fiat que la touche personnelle reste importante. Selon lui, si l'IA peut aider à accomplir de nombreuses tâches, la véritable connexion entre les créateurs et leur public doit rester authentique et personnelle.
Caryn Marjorie, influenceuse sur Snapchat, a lancé l'année dernière une copie virtuelle d'elle-même pilotée par l'IA avec laquelle ses fans peuvent discuter pour un dollar la minute. Le projet lui a rapporté plus de 70 000 dollars la première semaine. Cependant, elle a confié en mai que l'expérience est rapidement devenue terrifiante lorsque son clone numérique, appelé CarynAI, a commencé à proposer à ses fans des expériences sexuelles ébouriffantes.
La lecture des conversations l'a poussé à mettre fin à l'expérience. L'histoire de CarynAI nous donne un aperçu des dérives possibles de ce type de l'IA dans ce type d'expérience et des conséquences alarmantes que cela peut avoir.
La productivité de l'IA se fait au détriment de la qualité et de la créativité
Le raisonnement de Zuckerberg est commun à de nombreux cercles techno-optimistes : l'IA est un bien inhérent parce qu'elle promet d'augmenter considérablement l'impact qu'une personne (ou une organisation) peut avoir. Cependant, de nombreuses préoccupations subsistent. Lorsque la productivité se fait au détriment de la touche personnelle, les créateurs, dont le public apprécie l'authenticité, seraient-ils vraiment les mieux placés pour adopter l'IA générative ?
Pour ne pas arranger les affaires de Zuckerberg, Meta n'a pas vraiment présenté un argumentaire de vente convaincant. Par exemple, la technologie de Meta est en proie des nombreux pièges de la technologie d'IA générative d'aujourd'hui, en particulier les hallucinations. Meta a déclaré cette semaine que son IA s'améliore. La dernière version, la famille de modèles Llama 3.1, semble être la plus sophistiquée de Meta à ce jour, si l'on en croit les tests de référence.
Cependant, les hallucinations, et les erreurs générales de planification et de raisonnement, restent un problème non résolu dans l'IA générative, et Meta n'offre aucune percée dans ce domaine. Lors de l'interview, Zuckerberg a reconnu qu'il y a encore de nombreux problèmes à résoudre. En attendant, les analystes affirment qu'il est difficile d'imaginer que les créateurs de contenu faire confiance à des robots d'IA imparfaits pour interagir avec leurs fans.
Même avec toutes ces nouvelles technologies, Zuckerberg lui-même reconnaît que la touche personnelle reste importante. Il estime que si l'IA peut aider à accomplir de nombreuses tâches, la véritable connexion entre les créateurs et leur public doit rester authentique et personnelle.
Dans l'interview, Zuckerberg reconnaît que Meta doit atténuer certaines des préoccupations liées à son utilisation de l'IA générative et gagner la confiance des utilisateurs sur le long terme. Cela est d'autant plus vrai que certaines des pratiques de formation à l'IA de Meta font activement fuir les créateurs de ses plateformes. Ces dernières semaines, de nombreux artistes ont déserté les plateformes de Meta en raison de ses politiques prédatrices en matière d'IA.
La perte de Meta est le gain d'une plateforme concurrente appelée Cara. Plateforme sociale anti-IA gérée par des artistes, Cara est passée le mois dernier de 40 000 à 650 000 utilisateurs en l'espace d'une semaine, ce qui l'a propulsée au sommet du palmarès de l'App Store.
Instagram est une nécessité pour de nombreux artistes, qui utilisent la plateforme pour promouvoir leur travail et solliciter des clients payants. Mais Meta utilise les posts publics pour entraîner ses systèmes d'IA générative, et seuls les utilisateurs européens peuvent s'y soustraire, car ils sont protégés par les règles établies par le RGPD. L'IA générative est devenue tellement centrale dans les applications de Meta que les artistes ont atteint leur point de rupture.
La dégradation de l'état du Web s'accélère avec l'essor de l'IA générative
Zuckerberg pense que l'IA peut améliorer nos interactions avec la technologie et les autres et leur donner plus de sens. Cependant, les nombreux défauts de la technologie remettent en cause cette affirmation. L'une des principales craintes liées à l'IA générative est le risque de biais dans les données d'apprentissage, ce qui peut conduire à des résultats biaisés ou discriminatoires. Il s'agit d'un problème qui a une grande incidence sur la vie de millions de personnes à travers le monde.
« Des systèmes biaisés sont utilisés pour prendre des décisions sur la vie des gens qui les enferment dans la pauvreté ou conduisent à des arrestations injustifiées. Des modérateurs de contenu humains doivent passer au crible des montagnes de contenu traumatisant généré par l'IA pour seulement 2 $ par jour. Les systèmes qui sont mis en place aujourd'hui à la hâte vont causer un tout autre type de dégâts dans un avenir très proche », a déclaré Melissa Heikkilä, journaliste senior au MIT Technology Review.
Un autre problème de ces outils d'IA est le manque de contrôle sur les résultats générés, ce qui peut entraîner un contenu inapproprié ou contraire à l'éthique. « Les entreprises technologiques intègrent ces IA profondément défectueux dans toutes sortes de produits, des programmes qui génèrent du code aux assistants virtuels qui passent au crible nos courriels et nos calendriers. Ce faisant, elles nous précipitent vers un Internet fortement influencé par l'IA, bourré de pépin, de spams, d'escroqueries et alimenté par l'IA », a déclaré Heikkilä.
À ce propos, d'autres experts et analystes estiment qu'en permettant aux modèles d'extraire des données d'Internet, les pirates peuvent les transformer en un moteur surpuissant pour le spam et l’hameçonnage. Ils peuvent aussi générer du code malveillant fonctionnel. Selon Heikkilä, au fur et à mesure que l'adoption des modèles de langage augmente, les acteurs malveillants sont de plus en plus incités à les utiliser pour le piratage. C'est une tempête de merde à laquelle nous ne sommes absolument pas préparés.
« Nous y sommes déjà. Mais à l'avenir, cela va être bien pire. En quelques minutes, on peut inonder le Web avec un nombre illimité d'articles, de posts ou de tweets. Les politiciens s'en serviront, les lobbies s'en serviront, les entreprises s'en serviront. Le pouvoir, l'influence et l'argent. Les entreprises exacerbent ce processus en faisant preuve d'une incroyable myopie et en traitant les ressources humaines comme des déchets absolus », a écrit un internaute en réponse à Heikkilä.
Un nombre croissant d'utilisateurs se plaignent de la dégradation continue de la qualité des résultats des moteurs de recherche. Des chercheurs allemands se sont penchés sur la question dans le cadre d'une étude publiée au début de l'année et leur rapport semble donner raison aux utilisateurs. Elle rapporte que la qualité des résultats de Google et de ses rivaux est en déclin et que les choses ne feront probablement qu'empirer avec l'avènement de l'IA générative.
L'étude a souligné que le moteur de recherche Google est infesté de spam SEO, le référencement a ruiné la qualité de la recherche et les moteurs de recherche rivaux de Google, dont Bing et DuckDuckGo, ne font pas mieux. Les choses se sont empirées avec l'expérience "AI Overviews" introduite par Google cette année.
Lancée le 14 mai, la fonction est conçue pour aider les internautes à comprendre rapidement un sujet en combinant des informations provenant de différentes sources, dont les pages Web des résultats de recherche et la base de connaissances de Google. Les résumés sont placés en haut de la page des résultats de recherche, et au-dessus des résultats rédigés par des humains. Mais il n'a pas fallu longtemps avant que cette fonctionnalité sème le chaos dans les résultats de recherche.
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de la vision de Mark Zuckerberg sur l'avenir de la création de contenu ? Selon vous, quels sont les risques liés à une utilisation accrue de l'IA par les créateurs de contenu ? Quels sont les risques pour le Web dont l'état n'a cessé de se dégrader depuis l'essor de l'IA générative ? Pourquoi Zuckerberg encourage-t-il l'utilisation de l'IA par les créateurs de contenu tout en sachant que l'IA manque de créativité ?Voir aussi
« Nous nous dirigeons à grands pas vers un Internet fortement influencé par l'IA, bourré de pépins, de spams et d'escroqueries », affirme un journaliste senior du MIT Technology Review Le clone IA d'une influenceuse a commencé à proposer à ses fans des expériences sexuelles "stupéfiantes" à son insu, l'IA semblait se former sur ces sujets à partir des conversations avec les utilisateurs Les résumés de recherche fournis par l'IA consomment 10 fois plus d'énergie qu'une recherche normale sur Google, d'après des rapports : sauvons la planète en désactivant l'IA dans Google Search 
(sauf leur respect évidemment !)
