Un nouveau rapport alarmant fait la lumière sur les fausses critiques générées par l'IA et distribuées dans divers magasins d'applications. D'après des données récentes, l'ampleur du phénomène est inquiétante. Par exemple, une célèbre application de streaming sur une plateforme de télévision intelligente populaire comprenait 50 % de faux avis. DoubleVerify a identifié l'augmentation des fraudes mobiles à partir de 2023. L'intelligence artificielle générative (IA générative ou GenAI) est une intelligence artificielle capable de générer du texte, des images, des vidéos ou d'autres données à l'aide de modèles génératifs, souvent en réponse à des invites. Les modèles d'IA générative apprennent les modèles et la structure de leurs données d'entraînement d'entrée, puis génèrent de nouvelles données présentant des caractéristiques similaires. Les outils d'IA générative ont révolutionné la création de contenu, la rendant plus accessible que jamais. Cette démocratisation présente de nombreux avantages, mais elle pose également des défis importants, en particulier dans le domaine de la publicité et du marketing.
Un nouveau rapport montre que les faux avis générés par l'IA gonflent artificiellement la crédibilité d'une plateforme. Le fait que de fausses critiques soient présentes sur de nombreuses applications et que de nombreuses personnes lisent ces critiques et finissent par installer les plateformes a suscité des inquiétudes. Il y a tant d'applications qui contiennent à la fois du matériel nuisible et trompeur. Cela représente un risque important pour la communauté et, en l'absence de garde-fous, cela peut poser des problèmes.
Grâce à l'entreprise de mesure des médias DoubleVerify, de nombreuses applications présentant des avis avec des notes de cinq étoiles ont été mises en lumière. Ces avis ont été générés à l'aide de l'IA et de plateformes de diffusion en continu, et on les trouve désormais facilement dans les magasins. De plus, certaines font appel à la tromperie, tandis que d'autres peuvent facilement être identifiées comme étant fausses.
Selon DoubleVerify, il est possible de voir les évaluations dans différents magasins d'applications, y compris dans les services de streaming mobile. Une analyse récente a mis en lumière le fait qu'une célèbre application de streaming sur une plateforme de télévision intelligente populaire comprenait 50 % de faux avis. L'augmentation des faux avis basés sur l'IA atteint aujourd'hui un niveau record par rapport au passé. Pour être plus précis, ils sont presque trois fois plus nombreux qu'en 2023.
Cette tendance pourrait avoir un impact négatif sur les annonceurs, en particulier dans le cas de la diffusion en continu, car le coût lié à 1 000 impressions se situe généralement entre 30 et 60 euros. En outre, les applications sont remplies de publicités non sollicitées qui demeurent même si vous désinstallez la plateforme. Par ailleurs, une nouvelle découverte fait état des risques liés aux codes de ces revues d'IA. Ils détournent les appareils et diffusent des publicités de manière répétée, même si l'appareil est éteint.
Cette étude montre que les utilisateurs qui téléchargent les plateformes sont bombardés d'un grand nombre de publicités qui ne sont pas liées au contexte. Cela rend l'expérience de visionnage très négative et réduit la viabilité à long terme de la plateforme. En général, les applications sont désinstallées, mais il reste le codage qui nuit à l'appareil.
Un examen plus approfondi de la question montre qu'elles épuisent les batteries et provoquent la surchauffe des appareils et, en fin de compte, les dysfonctionnements prennent le dessus sur l'appareil, ce qui conduit à son arrêt. Le pire, c'est que vous ne pouvez même pas les supprimer facilement.
DoubleVerify a identifié l'augmentation des fraudes mobiles à partir de 2023. Aujourd'hui, l'entreprise a expliqué que les avis formulés en des termes similaires sont de nouveau en hausse cette année. Le problème persiste donc, et c'est inquiétant. Les applications qualifiées de "faciles à trouver" dans les commentaires ou "faciles à installer" sont généralement celles dont il faut se méfier le plus. Elles sont généralement liées à des systèmes de fraude, comme on l'a vu cette année.
D'autres vont jusqu'à couvrir un faux trafic CTV. Le problème des fausses critiques est qu'elles contribuent à faire paraître le trafic frauduleux plus réel. Les utilisateurs ne peuvent pas faire la différence et tombent dans le piège. La situation ne peut pas empirer. C'est pourquoi les experts tirent aujourd'hui la sonnette d'alarme à ce sujet et expliquent que la confiance aveugle dans les commentaires ne devrait jamais faire partie de votre stratégie.
Source : "The Hidden Threat of AI-Powered Fake App Reviews"
Et vous ?
Pensez-vous que cette étude est crédible ou pertinente ? Quel est votre avis sur le sujet ?Voir aussi :
Les bots représentaient 49,6 % du trafic internet en 2023, les bots malveillants représentant 32 % du trafic, selon un rapport d'Imperva montrant que le trafic internet humain diminue considérablement La FTC annonce un règlement final interdisant les faux avis et témoignages, afin de renforcer l'application de la loi, d'imposer des sanctions aux contrevenants et de dissuader les faux avis générés par l'IA Les avis générés par l'IA trompent les humains, menaçant la confiance dans les plateformes en ligne, ces avis peuvent passer le test de Turing, selon une étude