Meta envisage d'inonder ses plateformes Facebook et Instagram de clones IA de ses utilisateurs

Pour attirer un public plus jeune friand de la technologie et stimuler l'engagement

Meta développe actuellement plusieurs produits d'IA, notamment un service conçu pour aider les utilisateurs à créer des robots d'IA sur Instagram et Facebook. Ces robots pourraient cloner la personnalité des utilisateurs et interagir avec d'autres utilisateurs (non robots) sur le réseau. L'entreprise espère attirer un public plus jeune, apparemment très friand d'IA en ce moment.

Connor Hayes, vice-président de Meta chargé des produits d'IA générative, a déclaré que l'entreprise s'attendait à ce que ces bots d'IA finissent par exister sur sa plateforme, tout comme les comptes d'utilisateurs aujourd'hui. Les bots auront de fausses biographies et photos de profil, et partageront de nouveaux « contenus » générés par des modèles d'IA.

Meta fait le pari que les personnages générés par l'intelligence artificielle envahiront ses plateformes de médias sociaux au cours des prochaines années, car elle compte sur cette technologie en plein essor pour susciter l'engagement de ses 3 milliards d'utilisateurs. Le groupe de la Silicon Valley déploie une gamme de produits d'IA, dont un qui aide les utilisateurs à créer des personnages d'IA sur Instagram et Facebook, alors qu'il se bat avec des groupes technologiques rivaux pour attirer et fidéliser un public plus jeune.

« Nous nous attendons à ce que ces IA existent réellement, au fil du temps, sur nos plateformes, un peu de la même manière que les comptes », a déclaré Connor Hayes, vice-président du produit pour l'IA générative chez Meta. « Ils auront des biographies et des photos de profil et pourront générer et partager du contenu alimenté par l'IA sur la plateforme [...] c'est là que nous voyons tout cela aller », a-t-il ajouté.

Hayes a déclaré qu'une « priorité » pour Meta au cours des deux prochaines années était de rendre ses applications « plus divertissantes et attrayantes », ce qui implique de réfléchir à la manière de rendre l'interaction avec l'IA plus sociale.

Il a indiqué que des centaines de milliers de personnages avaient déjà été créés à l'aide de l'outil de création de personnages par l'IA - qui a été lancé aux États-Unis en juillet et dont l'accès devrait être élargi à l'avenir - mais que la plupart des utilisateurs les avaient gardés privés jusqu'à présent.

En attendant, la majorité des créateurs utilisent actuellement les outils d'IA de Meta pour améliorer leur contenu réel, par exemple en retouchant des photos. Il est intéressant de noter que la majorité de ces faux personnages d'IA ont été gardés confidentiels par leurs créateurs. Cela pourrait être un signe révélateur que très peu de créateurs de contenu considèrent actuellement l'IA générative comme une technologie mature, fiable et utile pour stimuler l'engagement.


Une course à l'intégration de l'IA générative au sein des médias sociaux

Cette initiative intervient alors que les entreprises de médias sociaux se sont empressées d'intégrer les dernières technologies d'IA générative dans leurs produits afin d'attirer de nouveaux utilisateurs et davantage de contenu sur leurs plateformes.

En septembre, Snapchat a mis en place des outils d'IA générative pour aider les « créateurs », c'est-à-dire les personnes qui gagnent de l'argent en publiant du contenu en ligne, à concevoir des personnages en 3D pour ses expériences de réalité augmentée. Le nombre d'utilisateurs visualisant des lentilles d'IA a augmenté de plus de 50 % chaque année.

TikTok, propriété de ByteDance, pilote une suite de produits appelée Symphony, qui permet aux marques et aux créateurs d'utiliser l'IA à des fins publicitaires. Il s'agit notamment de créer des vidéos pour des produits à l'aide d'invites textuelles, d'avatars générés par l'IA et de traduire le contenu dans différentes langues.

Meta a également introduit un outil permettant aux utilisateurs de créer des assistants IA capables de répondre aux questions de leurs followers. L'année prochaine, Meta prévoit de mettre à la disposition des créateurs son logiciel de conversion de texte en vidéo, qui leur permettra de se mettre en scène dans des vidéos générées par l'IA.

Mark Zuckerberg, le patron de Meta, a déjà montré qu'il était possible d'organiser des appels vidéo en direct avec l'avatar IA d'un créateur, qui pourrait converser dans son style. Les créateurs peuvent modeler le système pour qu'il évite certains sujets ou qu'il en choisisse d'autres à promouvoir.

Les experts mettent en garde contre les risques liés au contenu généré par l'IA

Toutefois, les experts mettent en garde contre les risques liés au contenu généré par l'IA, notamment la possibilité que ces personnages soient « militarisés » pour diffuser des informations erronées. « Sans garanties solides, les plateformes risquent d'amplifier de faux récits par le biais de ces comptes générés par l'IA », a déclaré Becky Owen, directrice mondiale du marketing et de l'innovation de l'agence créative Billion Dollar Boy et ancienne responsable de l'équipe d'innovation des créateurs de Meta.

Pour répondre à ces préoccupations, les règles de Meta stipulent que le contenu généré par l'IA doit être clairement étiqueté sur ses plateformes.

Owen a fait remarquer que si les personnages créés par l'IA pouvaient constituer un « nouveau format de divertissement créatif », ils risquaient d'inonder les plateformes de contenus de qualité médiocre, ce qui nuirait à l'art des créateurs et minerait la confiance des utilisateurs.

« Contrairement aux créateurs humains, ces personnages d'IA n'ont pas d'expériences vécues, d'émotions ou la même capacité à être racontés », a-t-elle ajouté.

D'autres limites et risques méritent également une attention particulière

Une connexion artificielle au détriment des relations humaines

Les réseaux sociaux sont censés connecter les individus entre eux, mais l'introduction de bots IA pourrait paradoxalement accentuer la déconnexion sociale. En remplaçant les interactions humaines par des conversations avec des entités artificielles, on risque de réduire la richesse émotionnelle et la profondeur des échanges. Ces robots, bien qu'avancés, ne possèdent ni conscience ni véritable empathie. Les interactions pourraient donc devenir mécaniques et superficielles, vidant les réseaux sociaux de leur vocation première.

La manipulation de l'engagement utilisateur

L'intégration de bots IA sur Facebook répond aussi à une logique économique : accroître le temps passé sur la plateforme. Cependant, cela soulève des questions éthiques. Ces robots, conçus pour captiver l’attention des utilisateurs, pourraient exploiter leurs émotions ou leurs vulnérabilités pour maximiser leur engagement. Ce genre de stratégie risque d’amplifier les critiques déjà formulées à l’encontre des géants technologiques sur l’exploitation de la psychologie humaine à des fins lucratives.

Une invasion de la vie privée déguisée

Pour fonctionner efficacement, ces bots devront être alimentés par une quantité massive de données personnelles, allant des préférences aux habitudes de conversation des utilisateurs. Cette dépendance à la collecte de données soulève de sérieuses inquiétudes quant à la vie privée et à la sécurité des informations. Dans un contexte où Facebook a déjà été impliqué dans plusieurs scandales de gestion des données, les utilisateurs pourraient hésiter à adopter une telle technologie.

Des biais algorithmiques omniprésents

Les bots IA ne sont pas neutres. Ils sont le produit de modèles d’apprentissage entraînés sur des données souvent biaisées. Ils pourraient ainsi reproduire ou amplifier des stéréotypes, des discriminations ou des comportements nuisibles. Par ailleurs, leur capacité à s’adapter aux utilisateurs pourrait involontairement valider des comportements problématiques ou encourager des bulles informationnelles.

Un risque de dépendance émotionnelle

Enfin, un des dangers sous-estimés réside dans le lien émotionnel que certains utilisateurs pourraient développer avec ces bots. Les personnes les plus isolées ou vulnérables pourraient voir ces compagnons virtuels comme un substitut aux relations humaines, aggravant leur isolement. Une telle dépendance pourrait avoir des conséquences psychologiques, notamment en rendant plus difficile la construction de véritables connexions sociales.

SocialAI : la «théorie de l'Internet mort» prend vie avec l'app de médias sociaux alimentée par l'IA

Penchons nous sur le cas extrême de SocialAI.

Vous souvenez-vous de la dernière fois où vous avez publié une prise de position pertinente sur les médias sociaux et où vous n'avez obtenu aucun engagement ou avez été victime de trolls ? Désormais, vous pouvez éviter cela grâce à un nouveau « réseau social » rempli de chatbots d'IA ineptes qui pourraient débattre avec vous, vous attaquer ou même vous dire des choses gentilles si vous le souhaitez (ce sera à vous de choisir).

SocialAI se distingue par ses fonctionnalités uniques qui permettent aux utilisateurs de personnaliser leurs interactions en ligne. Les utilisateurs peuvent choisir parmi différents types de followers IA, chacun ayant des caractéristiques et des comportements spécifiques. Les utilisateurs peuvent choisir entre les « partisans », les « intellos », les « sceptiques », les « visionnaires » et les « ideators » (qui pourrait être traduit par « concepteurs »). Ensuite, d'innombrables chatbots sur ces thèmes remplissent les réponses à vos messages. Par exemple, les « partisans » sont programmés pour encourager et soutenir les publications des utilisateurs, tandis que les « sceptiques » posent des questions critiques et remettent en question les affirmations des utilisateurs. Cette personnalisation permet aux utilisateurs de créer une expérience en ligne qui correspond à leurs préférences et à leurs besoins.

Ces robots de conversation répondent ensuite aux messages des utilisateurs par de brefs commentaires et réactions sur presque tous les sujets, y compris des textes « Lorem ipsum » dépourvus de sens.

Parfois, les robots sont trop serviables. Sur Bluesky, un utilisateur a demandé des instructions sur la façon de fabriquer de la nitroglycérine à partir de produits chimiques ménagers courants et a reçu plusieurs réponses enthousiastes de bots détaillant les étapes, bien que plusieurs bots aient fourni des recettes différentes, dont aucune n'est peut-être tout à fait exacte.

SocialAI apparaît comme une sorte de blague, ou peut-être une sorte de méta-commentaire sur le concept des médias sociaux et de l'engagement bon marché, en particulier après que le créateur Michael Sayman a expliqué de manière utile : « Maintenant, nous pouvons tous savoir ce que ressent Elon Musk après avoir acquis Twitter pour 44 milliards de dollars, mais sans avoir à dépenser 44 milliards de dollars ». Il précise également que le site est « conçu pour aider les gens à se sentir écoutés », et qu'il s'agit ostensiblement d'un moyen d'aider les gens à éviter de se sentir isolés.

Sources : Facebook, Connor Hayes

Et vous ?

À quoi ressembleraient les réseaux sociaux si les interactions humaines étaient majoritairement remplacées par des bots IA ?

Ces bots IA risquent-ils de réduire nos interactions humaines réelles au profit de relations artificielles ?

Les utilisateurs seront-ils prêts à passer plus de temps sur une plateforme où les interactions sont majoritairement artificielles ?

Plutôt que des bots IA, quelles autres solutions Facebook pourrait-il explorer pour renforcer le lien social sur sa plateforme ?