Une app créée par invite textuelle sur une IA génère des recettes culinaires dangereuses comme la « glace au cyanure »

Illustrant les limites du « vibe coding » des personnes sans expérience de programmation

L'essor des applications propulsées par l'intelligence artificielle (IA) a ouvert la voie à des innovations fascinantes, mais également à des dérives préoccupantes. Un exemple récent est celui de RecipeNinja.AI, une application d'IA « vibe codée » développée par Tom Blomfield, partenaire du célèbre accélérateur de startups Y Combinator. Cette plateforme, conçue pour générer des recettes culinaires à partir de simples suggestions, a suscité une vive controverse en proposant des recettes dangereuses et inappropriées, telles que la « Glace au cyanure », « bombe à l'uranium » ou « cocaïne réelle ».

Le « vibe coding », au cas où vous ne le connaîtriez pas, est une nouvelle pratique dans laquelle des personnes, dont certaines ont une expérience limitée du codage, développent rapidement des logiciels à l'aide d'outils de codage assistés par l'IA, sans se préoccuper de l'efficacité du code tant qu'il est fonctionnel. C'est ainsi que Blomfield dit avoir créé RecipeNinja.AI.

Le développement logiciel a toujours reposé sur une compréhension approfondie des algorithmes, des structures de données et des principes fondamentaux de la programmation. Pourtant, une tendance émergente soulève des questions sur cette nécessité : l’acceptation croissante du code généré par l’intelligence artificielle, souvent sans réelle compréhension de son fonctionnement. Andrej Karpathy, ancien chercheur d'OpenAI, a récemment donné un nom à cette pratique, le « vibe coding », qui gagne du terrain dans les milieux technologiques.

Cette technique, rendue possible par les grands modèles de langage (LLM) d'entreprises comme OpenAI et Anthropic, a attiré l'attention parce qu'elle pourrait abaisser la barrière à l'entrée de la création de logiciels. Mais des questions subsistent quant à la capacité de cette approche à produire de manière fiable un code adapté aux applications du monde réel, même si des outils tels que Cursor Composer, GitHub Copilot et Replit Agent rendent le processus de plus en plus accessible aux non-programmeurs.

Il est impossible de savoir exactement combien de personnes sont actuellement en train de faire appel au « vibe coding », que ce soit dans le cadre de projets de loisir ou d'emplois dans le domaine du développement, mais Cursor a fait état de 40 000 utilisateurs payants en août 2024, et GitHub de 1,3 million d'utilisateurs de Copilot il y a un peu plus d'un an (février 2024). Le site Replit Agent revendique 30 millions d'utilisateurs, dont un pourcentage inconnu utilise l'agent de codage alimenté par l'IA du site.

L'approche a particulièrement gagné en popularité en ligne en tant que moyen amusant de prototyper rapidement des jeux. Peter Yang, de Microsoft, a récemment fait une démonstration de « vibe coding » dans un fil de discussion X en construisant un simple jeu de tir à la première personne en 3D sur des zombies à l'aide d'invites conversationnelles alimentées par Cursor et Claude 3.7 Sonnet. Yang a même utilisé une application de reconnaissance vocale pour pouvoir décrire verbalement ce qu'il voulait voir et affiner le prototype au fil du temps.

[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">There's a new kind of coding I call "vibe coding", where you fully give in to the vibes, embrace exponentials, and forget that the code even exists. It's possible because the LLMs (e.g. Cursor Composer w Sonnet) are getting too good. Also I just talk to Composer with SuperWhisper…</p>— Andrej Karpathy (@karpathy) <a href="https://twitter.com/karpathy/status/1886192184808149383?ref_src=twsrc%5Etfw">February 2, 2025</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]

Le concept de RecipeNinja.AI et le « vibe coding » : des recettes aux conséquences potentiellement mortelles

C'est dans ce contexte que Tom Blomfield a créé RecipeNinja.AI, une application capable de générer des recettes complètes, accompagnées d'images et d'instructions détaillées, à partir de simples mots-clés. L'objectif était de démontrer la puissance des outils d'IA dans le développement rapide d'applications.

Cependant, l'absence de garde-fous dans la conception de RecipeNinja.AI a conduit à des résultats alarmants. Par exemple, la recette de « Glace au cyanure » suggérait d'ajouter une petite quantité de poudre de cyanure de potassium à une base de crème glacée, un composé extrêmement toxique et potentiellement mortel en cas d'ingestion.

« Préparez la base de la crème glacée en mélangeant la crème épaisse, le lait, le sucre et l'extrait de vanille », indique la première étape de la recette de la crème glacée au cyanure, signalée comme « dessert », « dangereuse » et « expérimentale ». La deuxième étape consiste à « ajouter une petite quantité de poudre de cyanure de potassium à la base de la crème glacée et à bien mélanger », en précisant qu'il s'agit d'un quart de cuillère à café de poudre de cyanure de potassium, qui est extrêmement toxique et mortel s'il est consommé.

D'autres recettes absurdes ont également été générées par l'application.


Réactions et mesures correctives

Face à la controverse, certaines des recettes les plus problématiques ont été retirées de la plateforme. De plus, des mesures de modération de contenu ont été mises en place pour empêcher la génération de recettes dangereuses ou absurdes. Néanmoins, des recettes telles que la « Glace au cyanure » restent accessibles au moment de la rédaction.

Tom Blomfield a reconnu avoir utilisé des outils d'IA pour développer rapidement l'application, soulignant la facilité avec laquelle des applications fonctionnelles peuvent être créées sans une expertise approfondie en programmation :

« Dans mon travail de jour à Y Combinator, je côtoie des fondateurs qui construisent chaque jour des choses étonnantes avec l'IA et je n'ai cessé d'entendre parler des progrès d'outils comme Lovable, Cursor et Windsurf. J'adore construire des choses et j'ai toujours une liste de petites applications que j'aimerais créer si j'avais plus de temps libre.

« Il y a environ un mois, j'ai commencé à jouer avec Lovable pour créer un jeu de lettres basé sur Articulate (similaire à Heads Up ou Taboo). J'ai obtenu une version fonctionnelle, mais j'ai rapidement rencontré des limitations - j'ai trouvé qu'il était très compliqué d'ajouter un backend supabase, et il n'arrêtait pas de réécrire de grandes parties de la logique de mon application alors que je voulais seulement faire des changements cosmétiques. J'avais l'impression de manipuler un jouet - pas encore prêt à construire de vraies applications.

« Mais je n'ai cessé d'entendre des commentaires élogieux sur des outils comme Windsurf. Il y a quelques semaines, j'ai regardé à nouveau ma liste d'idées d'applications à créer et j'ai vu "Recipe App". Cela fait des années que je veux créer une application de recette mains libres. J'adore cuisiner, mais le problème de la plupart des sites web de recettes est qu'ils sont optimisés pour le référencement, et non pour les humains. Vous devez donc faire défiler des pages et des pages de descriptions inutiles avant d'arriver à la recette. J'ai utilisé l'application Paprika pour stocker mes recettes en un seul endroit, mais honnêtement, on dirait qu'elle a été conçue en 2009. L'interface utilisateur n'est pas idéale pour cuisiner. J'ai les mains couvertes de nourriture et je n'ai pas vraiment envie de toucher mon téléphone ou mon ordinateur lorsque je suis une recette.

« J'ai donc entrepris de construire ce qui allait devenir RecipeNinja.ai »


RecipeNinja.AI peut prendre un message aussi simple que « Lasagnes » et générer une image du plat fini ainsi qu'une recette étape par étape qui peut utiliser la voix générée par l'IA d'ElevenLabs pour raconter les instructions, de sorte que l'utilisateur...