Figma, une plateforme de conception collaborative, a récemment lancé un nouvel outil appelé “Make Designs”. Cet outil utilise l’intelligence artificielle générative pour créer rapidement des maquettes d’applications. Cependant, il a été retiré après avoir produit des designs étonnamment similaires à l’application météo iOS d’Apple. Les principaux modèles d'IA qui alimentent Make Designs sont le GPT-4o d'OpenAI et le Titan Image Generator G1 d'Amazon, selon Rasmussen. S'il est vrai que Figma n'a pas entraîné ses outils d'IA mais qu'ils produisent quand même des sosies des applications Apple, cela pourrait suggérer que les modèles d'OpenAI ou d'Amazon ont été entraînés sur les designs d'Apple.Le problème du plagiat
Le fondateur de NotBoring Software, Andy Allen, a découvert que l’outil “Make Designs” de Figma générait des designs identiques à l’application météo d’Apple. Cette similitude frappante a suscité des accusations de plagiat. Comment cela a-t-il pu se produire ?
Dans des posts sur X, Andy Allen a montré à quel point l'outil Make Designs de Figma permettait de réaliser des quasi-répliques de l'application météo d'Apple. « Je tiens à signaler à tous les concepteurs qui utilisent la nouvelle fonction Make Designs qu'il est préférable de vérifier minutieusement les applications existantes ou de modifier fortement les résultats afin de ne pas s'exposer à des problèmes juridiques sans le savoir », a écrit Allen.
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">Figma AI looks rather heavily trained on existing apps.<br><br>This is a "weather app" using the new Make Designs feature and the results are basically Apple's Weather app (left). Tried three times, same results. <a href="https://t.co/Ij20OpPCer">https://t.co/Ij20OpPCer</a> <a href="https://t.co/psFTV6daVD">pic.twitter.com/psFTV6daVD</a></p>— Andy Allen (@asallen) <a href="https://twitter.com/asallen/status/1807675146020454808?ref_src=twsrc%5Etfw">July 1, 2024</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
Formation de l’IA
L’IA générative de Figma a été formée sur une grande quantité de données de conception existantes. Cela inclut probablement des designs d’applications populaires, dont celui d’Apple. L’objectif était de permettre à l’outil de générer des maquettes rapidement en s’inspirant des meilleures pratiques de conception. Cependant, cela a conduit à une situation où l’outil a reproduit involontairement des éléments spécifiques de l’application météo d’Apple.
La réaction de Figma
Dylan Field, PDG de Figma, a admis la faute et a attribué ce problème à la précipitation pour respecter les délais. Il a souligné que l’entreprise n’avait pas l’intention de copier délibérément le design d’Apple. Cependant, cela soulève des questions sur la rigueur nécessaire lors du développement d’outils d’IA.
« Comme nous l'avons expliqué à Config la semaine dernière, ainsi que sur notre blog, notre site Web et de nombreux autres points de contact, la fonction Make Design n'est pas entraînée sur le contenu Figma, les fichiers de la communauté ou les conceptions d'applications. En d'autres termes, les accusations concernant l'apprentissage des données dans ce tweet sont fausses.
« Comment fonctionne Make Design ? Comme nous l'avons expliqué publiquement, la fonction utilise des LLM prêts à l'emploi, combinés à des systèmes de conception que nous avons commandés pour être utilisés par ces modèles. Le problème de cette approche - que j'ai souligné dans ma présentation la semaine dernière - est que la variabilité est trop faible.
« Quelques heures après avoir vu ce tweet, nous avons identifié le problème, qui était lié aux systèmes de conception sous-jacents qui ont été créés. En fin de compte, c'est ma faute si je n'ai pas insisté sur un meilleur processus d'assurance qualité pour ce travail et si je n'ai pas poussé notre équipe à respecter la date limite pour la configuration.
« J'ai demandé à notre équipe de désactiver temporairement la fonction Make Design jusqu'à ce que nous soyons sûrs de pouvoir garantir ses résultats. La fonctionnalité sera désactivée lorsque notre équipe basée aux États-Unis se réveillera dans quelques heures, et nous la réactiverons lorsque nous aurons effectué un contrôle qualité complet sur le système de conception sous-jacent.
« Comme je l'ai expliqué à Config, nous pensons que l'artisanat est votre avantage concurrentiel et qu'il est plus important que jamais de créer des designs uniques.
« Nous vivons dans un monde où n'importe quel LLM peut vous aider à passer d'un message à un logiciel en une seule fois. Les concepteurs auront besoin de nouveaux outils pour explorer l'espace des possibilités, et nous avons l'intention de construire ces outils. Je suis convaincu que si nous construisons ces outils de la bonne manière, les concepteurs seront en mesure d'avoir PLUS d'expression créative, et non pas moins.
« Je déteste rater le coche, surtout dans un domaine que je considère comme fondamentalement important pour l'avenir du design. Plus d'informations bientôt ».
Figma n'est pas responsable de l'entraînement des modèles d'IA qu'elle a utilisés
Lors d'un entretien avec Kris Rasmussen, directeur technique de Figma, mardi, il lui a été demandé de but en blanc si Make Designs avait été formé à la conception des applications d'Apple. Sa réponse ? Il ne pouvait pas le dire avec certitude. Figma n'était pas du tout responsable de l'entraînement des modèles d'IA qu'elle a utilisés.
« Nous n'avons procédé à aucune formation dans le cadre des fonctions d'IA générative », a déclaré Rasmussen. Ces fonctions sont « alimentées par des modèles prêts à l'emploi et un système de conception sur mesure que nous avons commandé, ce qui semble être le problème sous-jacent ».
Cela correspond généralement à ce qu'il a dit lundi sur X en réponse à un utilisateur qui a suggéré que Make Designs a été formé sur des applications existantes. « Comme nous l'avons partagé lorsque nous avons lancé Figma AI la semaine dernière, il n'y a pas eu de formation dans le cadre de cette fonctionnalité ou de l'une de nos fonctionnalités génératives », a-t-il écrit. « Nous examinons dans quelle mesure les similitudes sont une fonction des modèles tiers que nous utilisons par rapport aux systèmes de conception que nous avons commandés pour être utilisés par les modèles et nous y remédierons si nécessaire ».
Les principaux modèles d'IA qui alimentent Make Designs sont le GPT-4o d'OpenAI et le Titan Image Generator G1 d'Amazon, selon Rasmussen. S'il est vrai que Figma n'a pas entraîné ses outils d'IA mais qu'ils produisent quand même des sosies des applications Apple, cela pourrait suggérer que les modèles d'OpenAI ou d'Amazon ont été entraînés sur les designs d'Apple.
Rasmussen a fait valoir que Figma ne voulait pas faire d'entraînement pour améliorer ses fonctionnalités tant qu'elle n'était pas ouverte à ses utilisateurs au sujet de ses politiques d'entraînement à l'IA, qu'elle a également introduites la semaine dernière. Dans le cadre de ces politiques, les utilisateurs ont jusqu'au 15 août pour décider s'ils veulent autoriser ou non l'utilisation de leur contenu pour la formation de Figma. (Les plans Starter et Professional sont activés par défaut, tandis que les plans Organization et Enterprise sont désactivés par défaut).
Figma prévoit d'entraîner ses propres modèles
Il a été demandé si Figma prévoyait de former ses propres modèles - ce qui, compte tenu des nouvelles politiques de formation à l'IA de la société, semble être quelque chose qui va se produire. « Nous voyons certainement des opportunités de perfectionner vos flux de travail de conception en apprenant à ces modèles comment concevoir dans le contexte de Figma », a déclaré Rasmussen. Cependant, « nous allons prendre des mesures pour nous assurer que nos propres modèles ou toute mise au point que nous faisons avec des modèles open source n'apprennent que des modèles de conception généraux et des concepts de conception spécifiques de Figma afin qu'ils puissent être de meilleurs outils pour les concepteurs professionnels ».
Il a également été demandé à Rasmussen comment Figma prévoyait de corriger ses processus afin de détecter les problèmes potentiels à l'avenir. « Nous passons en revue le système de conception sur mesure pour nous assurer qu'il présente suffisamment de variations et qu'il répond à nos normes de qualité », a-t-il déclaré. « C'est la cause première du problème. Mais nous allons prendre des précautions supplémentaires avant de réactiver [Make Designs] pour nous assurer que l'ensemble de la fonctionnalité répond à nos normes de qualité et est conforme à nos valeurs ».
Rasmussen a également souligné le fait que Make Designs est en version bêta. « Par définition, les versions bêta ne sont pas parfaites. Mais on peut dire, comme Dylan l'a partagé dans son tweet, que nous n'avons tout simplement pas détecté ce problème particulier. Et nous aurions dû le faire ».
Rasmussen a déclaré que Figma prévoit de réactiver Make Designs « bientôt ». Les autres fonctionnalités de Figma AI resteront disponibles en version bêta. (Pour accéder aux fonctions d'IA de Figma, il faut s'inscrire sur une liste d'attente).
Les implications
Ce cas souligne les défis de l’utilisation de l’IA générative dans le domaine du design. D’une part, elle offre un potentiel énorme pour accélérer le processus de création. D’autre part, elle doit être utilisée avec soin pour éviter le plagiat involontaire. Les entreprises doivent être transparentes sur la formation de leurs modèles d’IA et mettre en place des mécanismes pour éviter de reproduire des designs existants.
Conclusion
L’affaire Figma nous rappelle que l’IA générative est une technologie puissante, mais qu’elle nécessite une approche éthique et responsable. Les entreprises doivent trouver un équilibre entre innovation et originalité. Espérons que cela servira de leçon pour l’ensemble de l’industrie du design.
Sources : Andy Allen (1, 2), Figma
Et vous ?
L’IA générative doit-elle être plus strictement réglementée pour éviter le plagiat ? Quelles sont les responsabilités des entreprises lorsqu’elles utilisent des outils d’IA pour la conception ? Comment pouvons-nous garantir que l’IA générative ne reproduise pas involontairement des designs existants ? Quelles sont les limites éthiques de l’utilisation de l’IA dans le domaine de la conception ?