L'essor des applications propulsées par l'intelligence artificielle (IA) a ouvert la voie à des innovations fascinantes, mais également à des dérives préoccupantes. Un exemple récent est celui de RecipeNinja.AI, une application d'IA « vibe codée » développée par Tom Blomfield, partenaire du célèbre accélérateur de startups Y Combinator. Cette plateforme, conçue pour générer des recettes culinaires à partir de simples suggestions, a suscité une vive controverse en proposant des recettes dangereuses et inappropriées, telles que la « Glace au cyanure », « bombe à l'uranium » ou « cocaïne réelle ».Le « vibe coding », au cas où vous ne le connaîtriez pas, est une nouvelle pratique dans laquelle des personnes, dont certaines ont une expérience limitée du codage, développent rapidement des logiciels à l'aide d'outils de codage assistés par l'IA, sans se préoccuper de l'efficacité du code tant qu'il est fonctionnel. C'est ainsi que Blomfield dit avoir créé RecipeNinja.AI.
Le développement logiciel a toujours reposé sur une compréhension approfondie des algorithmes, des structures de données et des principes fondamentaux de la programmation. Pourtant, une tendance émergente soulève des questions sur cette nécessité : l’acceptation croissante du code généré par l’intelligence artificielle, souvent sans réelle compréhension de son fonctionnement. Andrej Karpathy, ancien chercheur d'OpenAI, a récemment donné un nom à cette pratique, le « vibe coding », qui gagne du terrain dans les milieux technologiques.
Cette technique, rendue possible par les grands modèles de langage (LLM) d'entreprises comme OpenAI et Anthropic, a attiré l'attention parce qu'elle pourrait abaisser la barrière à l'entrée de la création de logiciels. Mais des questions subsistent quant à la capacité de cette approche à produire de manière fiable un code adapté aux applications du monde réel, même si des outils tels que Cursor Composer, GitHub Copilot et Replit Agent rendent le processus de plus en plus accessible aux non-programmeurs.
Il est impossible de savoir exactement combien de personnes sont actuellement en train de faire appel au « vibe coding », que ce soit dans le cadre de projets de loisir ou d'emplois dans le domaine du développement, mais Cursor a fait état de 40 000 utilisateurs payants en août 2024, et GitHub de 1,3 million d'utilisateurs de Copilot il y a un peu plus d'un an (février 2024). Le site Replit Agent revendique 30 millions d'utilisateurs, dont un pourcentage inconnu utilise l'agent de codage alimenté par l'IA du site.
L'approche a particulièrement gagné en popularité en ligne en tant que moyen amusant de prototyper rapidement des jeux. Peter Yang, de Microsoft, a récemment fait une démonstration de « vibe coding » dans un fil de discussion X en construisant un simple jeu de tir à la première personne en 3D sur des zombies à l'aide d'invites conversationnelles alimentées par Cursor et Claude 3.7 Sonnet. Yang a même utilisé une application de reconnaissance vocale pour pouvoir décrire verbalement ce qu'il voulait voir et affiner le prototype au fil du temps.
There's a new kind of coding I call "vibe coding", where you fully give in to the vibes, embrace exponentials, and forget that the code even exists. It's possible because the LLMs (e.g. Cursor Composer w Sonnet) are getting too good. Also I just talk to Composer with SuperWhisper…
— Andrej Karpathy (@karpathy) February 2, 2025
Le concept de RecipeNinja.AI et le « vibe coding » : des recettes aux conséquences potentiellement mortelles
C'est dans ce contexte que Tom Blomfield a créé RecipeNinja.AI, une application capable de générer des recettes complètes, accompagnées d'images et d'instructions détaillées, à partir de simples mots-clés. L'objectif était de démontrer la puissance des outils d'IA dans le développement rapide d'applications.
Cependant, l'absence de garde-fous dans la conception de RecipeNinja.AI a conduit à des résultats alarmants. Par exemple, la recette de « Glace au cyanure » suggérait d'ajouter une petite quantité de poudre de cyanure de potassium à une base de crème glacée, un composé extrêmement...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Stéphane le calme
Pensez-vous qu’une IA devrait être libre de générer tout type de contenu, y compris culinaire, sans filtre ni garde-fou ? Où devrait-on tracer la ligne entre créativité et responsabilité ?
