L'arnaque de Kaedim : comment une start-up d'IA a trompé ses clients avec du travail réalisé par des humains

Quand l'IA devient une façade pour exploiter des artistes 3D

Kaedim, une start-up spécialisée dans l’intelligence artificielle dont le fondateur figurait sur la liste « 30 Under 30 » de Forbes, a été révélée comme utilisant des artistes humains pour réaliser ses modèles 3D, contrairement à ses affirmations publicitaires de conversion automatique. Jusqu'ici, la PDG de Kaedim avait indiqué que les artistes employés par l'entreprise ne l'étaient que pour contrôler la qualité des images générées par le logiciel. Ce qu'a démenti une source proche du dossier, expliquant que certains travailleurs n'avaient pour base de départ que des dessins en 2D fournis par les client, et non pas de premières ébauches en 3D générées automatiquement.

Kaedim, la start-up qui prétend utiliser l’apprentissage automatique pour convertir les illustrations 2D de ses clients en modèles 3D, propose ses services aux développeurs de jeux vidéo et à d’autres. La société se présentait comme « automatisant la conversion 2D en 3D » et « automatisant les parties ennuyeuses de la modélisation 3D », comme si tout le travail était effectué à l’aide de l’IA.

C'est un média qui a révélé la supercherie.


Selon des sources contactées par 404 Media, un média indépendant, Kaedim emploie des artistes 3D du monde entier 24 heures sur 24 et 7 jours sur 7, qui travaillent sur une base de commission où ils sont payés pour chaque modèle qu’ils réalisent. La rémunération était d’environ 1 dollar à 4 dollars pour chaque modèle, et il semble qu’ils recevaient une petite prime s’ils acceptaient le travail rapidement.

404 Media a trouvé des profils LinkedIn pour les employés de Kaedim en Argentine, en Angleterre, en Indonésie, en Éthiopie, en Inde, en Grèce, en République tchèque, en Colombie et en Espagne. Ces personnes ont indiqué leur poste comme « Assurance qualité » ou « Contrôle qualité ».


Le rôle joué par les artistes humains dans le processus de Kaedim est devenu un sujet de conversation dans les mondes de l’art 3D et de l’IA l’été dernier, lorsque la communauté de l’art 3D a remarqué une offre d’emploi de Kaedim recherchant des artistes. Une offre d'emploi pour un « artiste 3D indépendant, Kaedim » recherchait des candidats « capables de produire des ressources 3D de faible qualité à partir d'images 2D 15 minutes après leur demande. Prêt à être payé sur une base par actif. L’offre d’emploi indique que dans le cadre du processus d’entretien, les candidats « seront appelés à démontrer leur capacité à générer rapidement des ressources 3D de faible qualité ».

Dans un billet publié en août 2022, Konstantina Psoma, la fondatrice de Kaedim, a déclaré que « tous les employés sont payés mensuellement », mais n’a pas répondu aux questions sur le fait qu’ils étaient payés pour chaque modèle qu’ils créaient :

Lorsqu'elle a été contacté pour commenter plusieurs sources affirmant que Kaedim avait utilisé des humains pour produire les images 3D, Psoma a dirigé les médias vers son billet d'août 2022 et a ajouté dans un e-mail que « les membres de notre équipe 3D sont vraiment importants pour nous car ils travaillent main dans la main avec nos ingénieurs en apprentissage automatique pour donner leur avis sur notre technologie et s'assurer que toutes les générations correspondent à nos normes de qualité. Ils s’assurent que nos actifs ne contiennent aucun défaut technique, ils inspectent le niveau de capture de détails de nos algorithmes et contribuent aux améliorations si nécessaire ».

L’une des sources de 404 Media s’est opposée aux propos de Psoma, indiquant qu'elle n'était pas d'accord avec la qualification de leur travail comme étant un contrôle de qualité. Au lieu de cela, la source a déclaré que ce que les travailleurs effectuaient « ressemblait davantage à une production pure et simple qu’à un "contrôle de qualité" ». « Pour le contrôle qualité, vous avez sûrement besoin de quelque chose pour juger de la qualité », a-t-elle déclaré, avant d'ajouter que certains travailleurs n'ont vu que l'image 2D initiale soumise par un client et non une sortie générée par l'IA.

Nous ne savons pas à quel point les algorithmes génératifs de Kaedim sont actuellement efficaces et à quel point ils sont proches d’obtenir des résultats que les humains n’ont pas à corriger. Psoma a refusé de fournir des exemples de ce dont l’IA de Kaedim était capable. « Pour le moment, nous gardons confidentielles nos sorties brutes d'IA car elles présentent des informations IP sensibles sur notre approche ML », a-t-elle écrit à 404 Media.

Quoiqu'il en soit, face à la dénonciation de cette pratique, qui s'apparente à de la publicité mensongère pour surfer sur l'essor de l'intelligence artificielle générative dans la 3D et le jeu vidéo, Kaedim assume désormais une composante humaine non négligeable dans son fonctionnement. Sur son site web et dans la documentation qu'elle fournit à ses clients, elle détaille depuis le 6 septembre une « troisième étape du processus » qui vient après la phase d'ingestion par son logiciel du dessin en 2D : « Un artiste de Kaedim examine votre modèle [celui généré par l'IA, donc] et apporte les modifications nécessaires pour qu'il soit prêt pour la production ».

Cette nouvelle lève le voile sur une start-up très médiatisée et est un exemple de la façon dont les entreprises d’IA peuvent parfois exagérer les capacités de leur technologie. Comme d’autres start-ups d’IA, Kaedim veut utiliser l’IA pour faire le travail fastidieux qui est actuellement effectué par des humains. Dans ce cas, la modélisation 3D, un travail qui prend du temps et que les entreprises de jeux vidéo externalisent déjà vers des studios situés dans des pays comme la Chine

Ce n'est pas une nouveauté dans le domaine

Kaedim n’est pas la première entreprise à être accusée de recourir à des humains pour faire le travail que l’on prétend être fait par l’IA. En 2018, une enquête du New York Times a révélé que ScaleFactor, une start-up qui proposait un logiciel de comptabilité basé sur l’IA, utilisait en fait des comptables basés aux Philippines pour gérer les livres de ses clients. La société a fermé ses portes en 2020 après avoir perdu la confiance de ses investisseurs et de ses clients. En 2019, une autre enquête du Wall Street Journal a révélé que Engineer.ai, une start-up qui promettait de créer des applications personnalisées à l’aide de l’IA, employait en fait des développeurs humains pour coder les applications. La société a été poursuivie par ses investisseurs pour fraude et publicité mensongère.

Ces cas soulèvent des questions sur la façon dont les entreprises d’IA communiquent sur leurs produits et services, et sur la transparence dont elles font preuve vis-à-vis de leurs clients et du public. Il est important que les consommateurs soient conscients des limites et des risques potentiels de l’IA, et qu’ils ne soient pas trompés par des affirmations exagérées ou fausses. Il est également essentiel que les entreprises d’IA respectent les droits et la dignité des travailleurs humains qui contribuent à leurs systèmes.

Sources : rapport 404 Media, billet Psoma, mise à jour de la documentation

Et vous ?

Êtes-vous surpris par cette situation ?
Que pensez-vous de la façon dont Kaedim a présenté sa technologie d’IA ? Est-ce que c’est de la publicité mensongère ou simplement de l’optimisation marketing ?
Quelles sont les conséquences possibles pour les clients, les investisseurs et les concurrents de Kaedim si la vérité sur son fonctionnement est révélée ?

Voir aussi :

Une entreprise IA fait passer des œuvres réalisées par des humains comme étant le travail de son IA et est dénoncée par l'un des auteurs
Inutile de coder votre page web vous-mêmes, dessinez-la et notre intelligence artificielle fera le reste, dit Microsoft aux développeurs
Google refroidit ses Datacenter grâce au Cloud et à l'intelligence artificielle et note déjà une baisse de 30 % de leur consommation d'énergie
Intelligence artificielle : OpenAI annonce un système robotique capable de manipuler des objets avec une dextérité humaine
Visual Studio : Microsoft annonce la disponibilité d'une mise à jour d'IntelliCode, une version d'IntelliSense basée sur l'intelligence artificielle
L'intelligence artificielle devient le nouvel atout des sites de rencontres amoureuses, et si demain une IA était capable de dénicher votre âme sœur ?