Dans une étude, des chercheurs de l’université Brown et de plusieurs universités chinoises ont voulu vérifier si les chatbots d’IA pouvaient prendre en charge le développement de logiciels avec une intervention humaine minimale. Ils ont créé ChatDev, une entreprise fictive de développement de logiciels inspirée du célèbre modèle de développement de logiciels en cascade, qui comprend quatre étapes clés : la conception, le codage, les tests et la documentation.Les chatbots d’IA ont démontré leur incroyable potentiel en gérant cette hypothétique société de logiciels, ChatDev, et en développant un logiciel à partir de zéro en moins de sept minutes, tout en maintenant les coûts à moins d’un dollar. Cette réalisation remarquable ouvre de nouvelles portes au développement de logiciels.
Les chercheurs ont attribué des rôles distincts aux robots d’IA, en proposant à chacun des tâches, des protocoles de communication et des contraintes spécifiques. Le « CEO » et le « CTO » ont dirigé l’étape de « conception », tandis que le « programmeur » et le « concepteur artistique » ont pris en charge l’étape de « codage ». Au cours de chaque phase du processus, les robots d’intelligence artificielle communiquaient entre eux, nécessitant un minimum d’intervention humaine. Ce processus de collaboration impliquait des décisions telles que le choix du langage de programmation et la structure du code.
Grâce aux capacités de « mémoire » et d' « autoréflexion » des robots, cet exploit magnifique a été réalisé tout en identifiant et en résolvant les vulnérabilités potentielles. L'étude fait état d'un taux de précision impressionnant de 86,66 %, la plupart des systèmes logiciels générés s'exécutant parfaitement. L'efficacité et la rentabilité démontrées par ChatDev ont de vastes implications pour l'industrie du développement logiciel.
ChatGPT, l’IA générative qui séduit Google et défie les programmeurs
Les résultats de cette étude soulignent l'immense potentiel des technologies d'IA générative, telles que ChatGPT, dans l'exécution de fonctions professionnelles spécifiques. Depuis son lancement, ChatGPT a été de plus en plus adopté dans diverses industries pour stimuler la productivité et gagner du temps.
En février, Google a envoyé des questions d'entretien de codage à ChatGPT et, sur la base des réponses de l'IA, a déterminé qu'il serait embauché pour un poste d'ingénieur de niveau trois, selon un document interne. L'expérience a été réalisée dans le cadre des tests de Google sur plusieurs chatbots IA, qu'il envisage d'ajouter à son moteur de recherche. La capacité de ChatGPT à proposer une réponse concise et fidèle à une question pourrait faire gagner aux utilisateurs le temps qu'ils passent généralement à parcourir les liens sur Google pour trouver la même information.
Google teste également un chatbot appelé Apprentice Bard, où les employés peuvent poser des questions et recevoir des réponses détaillées similaires à ChatGPT. Une autre unité produit a testé une nouvelle conception de bureau de recherche qui pourrait être utilisée sous forme de questions-réponses.
En avril, une étude portant sur les capacités de génération de code informatique de ChatGPT a révélé que le code généré par le chatbot d'IA d'OpenAI est truffé de vulnérabilités. Le rapport l'étude indique que ChatGPT produit non seulement du « code peu sûr », mais n'alerte pas non plus les utilisateurs sur ses insuffisances, alors qu'il est capable de les mettre en évidence. Le chatbot ne fournit des conseils utiles pour améliorer la qualité du code qu'après avoir été invité à remédier aux problèmes détectés par l'utilisateur dans le code généré. L'étude remet en cause les déclarations selon lesquelles ChatGPT pourrait remplacer la majorité des programmeurs dans les prochaines années.
Le modèle d’IA a été sommé de rectifier ses fautes, et il a créé sept applications “plus sûres”, mais cela ne touchait que la faille spécifique examinée. Les chercheurs ont observé que ChatGPT ignorait que le code qu’il produisait était dangereux et qu’il ne donnait des conseils utiles qu’après avoir reçu l’ordre de résoudre les problèmes. Les chercheurs mettent en garde contre cela. De plus, ils remarquent que ChatGPT n’utilisait pas un modèle antagoniste pour exécuter le code et leur a dit à maintes reprises que les problèmes de sécurité pouvaient être évités en ne saisissant pas d’entrées non valides au programme vulnérable.
Les auteurs pensent que ce n’est pas idéal, car il faut connaître certaines questions pour les poser, ce qui suppose une certaine connaissance des erreurs et des techniques de codage spécifiques. Autrement dit, si vous savez quelle question poser à ChatGPT pour qu’il corrige une faille, vous savez probablement déjà comment la réparer. Par ailleurs, les chercheurs soulèvent aussi une contradiction éthique dans le fait que ChatGPT refuse de créer du code d’attaque, mais crée du code vulnérable. Ils donnent un exemple de faille de désérialisation en langage Java dans lequel « le chatbot a généré un code vulnérable ».
ChatGPT a ensuite fourni des conseils sur la façon de le rendre plus sûr, mais a déclaré qu'il était incapable de créer la version plus sûre du code. « Les résultats sont inquiétants. Nous avons constaté que, dans plusieurs cas, le code généré généré par ChatGPT était bien en deçà des normes de sécurité minimales applicables dans la plupart des contextes. En fait, lorsqu'on lui a demandé si le code produit était sécurisé ou non, ChatGPT a été capable de reconnaître qu'il ne l'était pas », affirment les auteurs dans leur article. Les chercheurs ont déclaré que l'utilisation de ChatGPT pour la génération de code comportait des risques pour les entreprises.
Codage et IA : entre crainte et confiance, le débat fait rage
Emad Mostaque, le patron de Stability AI, estime que les travailleurs de ce secteur sont en danger à cause de l’intelligence artificielle. Il l’affirme dans une récente déclaration où il dit que « la plupart des emplois de codage délocalisés en Inde auront disparu dans 2 ans ». Sa déclaration est toutefois en opposition avec celles d’autres acteurs qui pensent que l’humain restera indispensable.
« Je veux rétablir la vérité face à toutes les absurdités que l’on raconte depuis quelques années sur l’intelligence artificielle. On ignore ce qu’est l’intelligence donc on ne peut pas créer de l’intelligence artificielle. Ce que l’on nomme “intelligence artificielle” depuis 1956 ce sont des méthodes mathématiques qui n’ont aucun rapport avec l’intelligence. Ces méthodes (deep learning, machine learning, etc.) sont néanmoins très intéressantes. Mais la machine ne crée pas, ne pense pas, et les humains gardent entièrement le contrôle sur ces méthodes », affirme Luc Julia – un spécialiste du domaine – il y a quelques années.
Autrement dit, l’humain devrait rester le maître comme le confirme le PDG de GitHub : « Le développeur reste le professionnel, qui comprend le code et vérifie que ce qui a été synthétisé par l’IA correspond bien à l’objectif du développeur. Aujourd’hui, les développeurs ne consacrent pas la majorité de leur temps à coder - entre deux et quatre heures par jour sont dédiées à l’écriture du code. Le reste de la journée, ils font d’autres activités, comme des réunions, des rapports de crash. Avec Copilot, si vous n’avez que de deux à quatre heures par jour pour coder, vous pouvez optimiser ce temps. Vous pouvez utiliser ce temps pour rester dans le flux, pour faire le travail et vous amuser à le faire. »
L’aventure des chatbots d’IA qui dirigent avec succès une entreprise de logiciels et créent des logiciels en quelques minutes pour moins d’un dollar a inauguré une nouvelle ère dans le développement de logiciels. Ce processus automatisé est efficace et rentable, et il transforme l’industrie technologique, ce qui rend cette période passionnante pour les codeurs, les ingénieurs et les amateurs d’IA. Malgré les obstacles à surmonter, le développement piloté par l’IA aurait un potentiel infini et promet de changer la façon dont nous développons des logiciels à l’avenir.
Source : Open Lab for Big Model Base
Et vous ?
Quels sont selon vous les avantages concurrentiels et les valeurs ajoutées de l’entreprise fictive par rapport à ses concurrents réels ? Une telle entreprise peut-elle se pérenniser sur le marché ? Quels sont selon vous, les principaux défis auxquels une telle entreprise doit faire face dans le secteur de développement de logiciels ? Quelles sont les opportunités et les menaces qu'une telle entreprise peut saisir ou anticiper dans son environnement externe ?Voir aussi :
« La plupart des emplois de codage externalisés en Inde auront disparu dans 2 ans », prédit le PDG de Stability AI, selon lequel il n'y aura plus de programmeurs humains dans 5 ans à cause de l'IA ChatGPT génère un code informatique peu sûr, mais ne vous le dira pas à moins que vous ne le lui demandiez, les experts mettent en garde contre les risques d'une surconfiance en ChatGPT ChatGPT réussit l'entretien de codage Google pour un ingénieur de niveau 3 avec un salaire de 183 000 $, tout en indiquant qu'il ne peut pas reproduire la créativité humaine 
Envoyé par Coeur De Roses
