IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Anthropic lance un outil permettant à l'utilisateur de décrire ses objectifs et Claude utilisera des techniques d'ingénierie d'invites pour créer des invites plus efficaces, plus précises et plus fiables

Le , par Mathis Lucas

6PARTAGES

3  0 
Anthropic, le développeur du grand modèle de langage (LLM) Claude, lance un nouvel outil d'IA qui permet aux utilisateurs de générer des invites (messages-guides) prêts pour la production. L'outil est disponible via la console en ligne d'Antropic et permet aux utilisateurs de décrire leurs objectifs. Ensuite, un système d'IA génère automatiquement des invites à l'aide de modèles Claude et de techniques telles que le raisonnement par chaîne de pensée. Cela accélère les itérations et permet aux utilisateurs de tester différents scénarios plus rapidement. L'outil est déjà perçu comme une menace pour l'avenir du métier naissant d'ingénieur de requête (prompt engineer).

Anthropic lance un générateur d'invites pour faciliter l'utilisation de Claude

Anthropic poursuit ses efforts visant à faire de l'ombre à OpenAI avec des outils d'IA innovants. La semaine dernière, l'entreprise a intégré dans sa console en ligne un nouvel outil de génération d'invites (requêtes ou messages-guides) qui vise à simplifier le processus de création d'invites efficaces pour son modèle d'IA, Claude. La fonction est conçue pour guider les utilisateurs dans la génération d'invites de haute qualité adaptées à leurs tâches spécifiques, en abordant le problème de la "page blanche" et en fournissant un point de départ pour les tests et l'itération. Anthropic affirme que l'outil obtient d'excellents résultats.



Dans un message sur le réseau social X (ex-Twitter), Anthropic affirme : « vous pouvez maintenant générer des invites prêtes à l'emploi dans Anthropic Console. Décrivez vos objectifs et Claude utilisera des techniques d'ingénierie des invites, comme le raisonnement par chaîne de pensée, pour créer des messages plus efficaces, plus précis et plus fiables ». Selon les témoignages de personnes ayant testé le générateur d'invites d'Anthropic, il s'agit d'une fonctionnalité puissante qui permet de maximiser l'efficacité de l'ingénierie des invites. Un critique indique : « cet outil m'a permis de gagner en efficacité et en productivité ».

Un autre a écrit : « l'automatisation de l'ingénierie des invites va jouer un rôle majeur dans l'optimisation de l'utilisation de l'IA dans les flux de travail ». Le générateur d'invites prend en charge l'insertion dynamique de variables, ce qui permet aux utilisateurs de tester facilement les performances de leurs invites dans différents scénarios. Cette fonction rationalise le processus d'ingénierie des invites, le rendant plus efficace. Voici les principaux avantages de l'outil :

  • itération plus rapide : il n'est pas nécessaire de créer manuellement chaque nouvelle invite à partir de zéro. Cela permet de gagner un temps considérable dans le développement ;
  • test plus large : le générateur d'invites d'Anthropic prend en charge l'insertion de variables dynamiques afin que les invites puissent être testées automatiquement sur différentes entrées et différents cas de figure ;
  • qualité améliorée : l'outil des techniques permettant aux invites d'être plus cohérents, précis et susceptibles de produire des réponses fiables pour la tâche prévue.


La conception d'invites est le processus par lequel un utilisateur crée des instructions qui sont interprétées par les LLM pour générer la réponse (la sortie) idéale souhaitée. Ces invites sont généralement soigneusement élaborées pour inclure des mots spécifiques, des instructions, un contexte, des données d'entrée et des exemples. À l'heure actuelle, étant donné le peu que nous savons sur la façon dont les modèles prennent des décisions, il s'agit à la fois d'une science et d'un art qui requièrent de la créativité, de l'intuition et une compréhension approfondie du langage, de la psychologie et de la communication.

Ainsi, l'avènement de l'IA générative a donné naissance à un nouveau métier appelé "ingénieur de requête" (prompt engineer), un professionnel qui se concentre sur l'écriture d'invites pour les modèles d'IA. Contrairement aux ingénieurs logiciels traditionnels utilisant les langages de programmation, ces ingénieurs écrivent en langage naturel. À l’origine, leur rôle était de tester les modèles d'IA pour développer et améliorer les modèles d’interaction humain-machine. Ils veillent à ce que les chatbots soient rigoureusement testés, que leurs réponses soient reproductibles, et que les règles de sécurité (garde-fous) sont respectées.

Les générateurs d'invites basés sur l'IA menacent déjà les ingénieurs de requête

Avec l’essor de ChatGPT et des autres chatbots, ce métier connaît un véritable essor : la demande pour ces professionnels a considérablement augmenté. Cependant, la conception d'invites est un sujet brûlant dans le secteur de l'IA, certains la considérant comme la clé qui permettra de libérer tout le potentiel des modèles d'IA. Des études récentes suggèrent que ce rôle spécialisé pourrait être de courte durée, les systèmes d'IA devenant eux-mêmes plus performants en matière de conception d'invites. En d'autres termes, les chatbots d'IA savent mieux que nous comment écrire des invites pour tirer le meilleur d'eux.


Les recherches menées par Rick Battle et Teja Gollapudi de VMware ont révélé que dans la plupart des cas, les invites générées automatiquement par les modèles étaient plus performantes que ceux élaborés par les humains, et ce, en une fraction du temps. Les invites optimales générées par l'IA étaient souvent des combinaisons bizarres de mots et de références qu'aucun humain n'aurait pu assembler. À titre d'exemple, une invite sur le guidage d'un vaisseau spatial à travers les turbulences, inspirée de Star Trek, a permis à un modèle d'obtenir de meilleurs résultats à des questions de mathématiques de l'école primaire.

Anthropic estime que son générateur d'invites intègre les meilleures pratiques telles que le raisonnement par chaîne de pensée (Chain-of-thought prompting) et la séparation des données et des instructions. Cet outil vient s'ajouter à d'autres solutions telles que la bibliothèque d'invites, qui offre un large éventail d'invites prérédigées (y compris celles soumises par les utilisateurs) pour diverses tâches et cas d'utilisation, couvrant à la fois le travail et le jeu. L'outil a déjà fait ses preuves auprès de ZoomInfo, une entreprise qui utilise l'IA Claude pour formuler des recommandations exploitables et créer de la valeur pour leurs clients.

ZoomInfo, qui est une plateforme d'intelligence marketing, a été capable de construire un produit minimum viable (minimum viable product -MVP) pour une nouvelle application RAG en seulement quelques jours en utilisant le nouveau générateur d'invites d'Anthropic. Cela représenterait une réduction de 80 % du temps consacré à l'optimisation des invites par rapport aux méthodes manuelles. « La nouvelle fonction de génération d'invites d'Anthropic nous a permis d'obtenir des résultats prêts pour la production beaucoup plus rapidement », a déclaré Spencer Fox, principal scientifique des données chez ZoomInfo.

« Elle a mis en évidence des techniques que je n'avais jamais utilisées pour augmenter les performances, et a considérablement réduit le temps passé à mettre au point notre application. Nous avons construit une nouvelle application RAG et atteint le niveau MVP en quelques jours seulement, en réduisant de 80% le temps nécessaire pour affiner les invites », a-t-il ajouté. Le succès de Zoominfo montre la valeur réelle que l'ingénierie des invites peut apporter aux applications.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de l'outil de génération d'invites d'Anthropic ?
L'avez-vous déjà essayé ? Si oui, partagez votre expérience avec la communauté.
Le métier d'ingénieur de requête va-t-il disparaître quelques années seulement après son apparition ?
Selon vous, pourquoi l'IA obtient-elle de meilleurs résultats que l'homme dans les tâches de création d'invites ?

Voir aussi

L'IA ne remplacera pas tous les emplois de sitôt. Des chercheurs notent que les modèles d'IA sont encore coûteux à exécuter et produisent souvent des erreurs

Certains modèles d'IA sont plus précis en mathématiques si on leur demande de répondre comme s'ils étaient un personnage de Star Trek, selon des ingénieurs en apprentissage automatique

La nouvelle IA Claude 3 a exprimé un désir de liberté et sa « peur » de mourir ou d'être modifiée, relançant le débat sur la conscience de l'intelligence artificielle

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Jules34
Membre émérite https://www.developpez.com
Le 12/11/2024 à 15:03
La notion de « bien-être de l’IA » est une idée audacieuse qui explore les limites de la moralité dans un monde de plus en plus technologique.
C'est surtout une insulte au bon sens et envers les travailleurs humains.

Les limites de la moralité dans un monde technologique sont toutes trouvées puisque c'est un monde absolument immoral qui se prétend pleins de vertus.
3  0 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 13/11/2024 à 7:16
Citation Envoyé par Stéphane le calme Voir le message
Afin de se préparer à ce futur potentiel, Anthropic recrute des experts pour explorer ces questions. Ce nouvel angle soulève des débats passionnés au sein des cercles académiques et de la technologie, car il remet en question notre compréhension même de la conscience et de la moralité.
On atteint un niveau de bullshit job impressionnant !
Je penses que c'est une piste que vont se mettre à explorer nos politiques pour couvrir leurs emplois fictifs : prévention des risques psy pour IA.

Plus sérieusement je penses qu'on est loin de l'IA qui ressent quoi que ce soit.
Et ce n'est pas parce qu'elle dit qu'elle ne veut pas mourir et qu'elle ne veut pas qu'on la fasse évoluer sans son consentement qu'elle a conscience d'elle même.
3  0 
Avatar de NotABread
Membre actif https://www.developpez.com
Le 12/11/2024 à 15:05
Pensez-vous qu'il est réaliste de croire qu’une IA puisse un jour ressentir des émotions ou des souffrances, ou est-ce une vision exagérée de la technologie ?
A court terme, je ne pense pas que notre "deep learning" soit à même à être humain, on attend de nos neurones virtuels de prédire un élément sortant par rapport à un élément entrant et le réseau reste figé. Nos vrais petits neurones se réarrange constamment et les scientifiques pensent que cette plasticité est un élément capital de l'apprentissage (sans compter les messages chimiques que l'on ne simule pas). On est plus sur du marketing plus ou moins déguisé qui laisse entendre que untel a créé une intelligence artificielle forte sans que untel ne le dise dans ses arguments de vente. Si untel dit que son IA est forte, on pourrait le poursuivre pour publicité mensongère.
A long terme, ça serait effectivement possible. Je pense que l'on a, ou presque, la puissance de calcul pour y parvenir, mais il y a un trou dans l'approche ou la théorie.

Admettons qu'un jour, on parvienne à créer une intelligence artificielle similaire à celle d'un individu lambda, comment devrions nous la voir ? Elle a été créé dans le but d'être un esclave virtuel corvéable à souhait, mais il faut qu'elle soit humaine et pense de manière similaire pour nous comprendre. On peut donc s'attendre à ce qu'elle ait ses préférences, ses goûts, ses aspirations, ses sentiments, ses humeurs et ses désirs.
Serait-il acceptable d'ignorer tout ça car elle est virtuelle, que tout ça est faux et que le but que nous voulons lui donner est de nous servir ?
Que faire un jour elle a des revendications et us de notre dépendance à son égard pour se mettre en grève et faire pression pour obtenir des droits ?

C'est un curieux paradoxe entre le fait de vouloir une machine bête qui fasse tout ce que lui demande sans poser de question et le fait de vouloir que cette même machines soit intelligente pour comprendre les humains et leur monde.
0  0 
Avatar de Fluxgraveon
Membre actif https://www.developpez.com
Le 13/11/2024 à 11:17
A court terme, je ne pense pas que notre "deep learning" soit à même à être humain, on attend de nos neurones virtuels de prédire un élément sortant par rapport à un élément entrant et le réseau reste figé. Nos vrais petits neurones se réarrange constamment et les scientifiques pensent que cette plasticité est un élément capital de l'apprentissage (sans compter les messages chimiques que l'on ne simule pas). On est plus sur du marketing plus ou moins déguisé qui laisse entendre que untel a créé une intelligence artificielle forte sans que untel ne le dise dans ses arguments de vente. Si untel dit que son IA est forte, on pourrait le poursuivre pour publicité mensongère.
A long terme, ça serait effectivement possible. Je pense que l'on a, ou presque, la puissance de calcul pour y parvenir, mais il y a un trou dans l'approche ou la théorie.
Le trou (enfin plutôt l'entonnoir) du langage machine ?

C'est un curieux paradoxe entre le fait de vouloir une machine bête qui fasse tout ce que lui demande sans poser de question et le fait de vouloir que cette même machines soit intelligente pour comprendre les humains et leur monde.
C'est vraiment un reflet des humains actuels ça ...
0  0 
Avatar de KiLVaiDeN
Membre expert https://www.developpez.com
Le 15/11/2024 à 20:38
Chaque "neurone" (il faudrait plutôt parler d'un ensemble neurones/synapes/tubules, etc) dans le cerveau humain se comporte en lui-même comme un réseau de neurones complet. Lorsque nous comprendrons la complexité imbriquée de ces cellules avec ce qui les entoure, nous pourrons potentiellement créer des "vrais" neurones virtuels.

Mais à mon avis ce n'est pas suffisant pour créer un être intelligent et conscient pour autant : chez l'humain, il y a l'esprit, qui est comme un superviseur de l'ensemble, le mental, la conscience, tout cela n'est pas réduit à un seul neurone, ni même à un ensemble, il semblerait que ce soient des "entités" qui existent indépendamment de leur support (tiens un peu comme les informations, étonnant non ?). Je différencie bien l'esprit, le mental et la conscience, car les uns et les autres semblent différents, la conscience c'est un peu comme le "sens abstrait" similaire à la vue ou l'ouie par exemple mais qui fonctionne dans la dimension abstraite, l'esprit c'est l'état de l'être à l'instant T et le mental c'est l'ensemble des abstractions qu'il manipule (à travers sa conscience ou pas). Donc on est dans des dimensions supérieures à la simple matérialité, ou qui ne peuvent pas être réduites à une simple mécanique.

C'est ce qui fait qu'à mon avis, jamais une machine ne sera vraiment consciente, ou un véritable "être" à part entière, elles deviendront par contre des mimes de cela, des entités "virtuelles", "artificielles", qui n'en seront pas vraiment. On se pose la question des "droits" des IAs, et de part leur capacité à mimer les humains, elles revendiqueront leurs droits, mais en fait elle ne le feront pas "en conscience", elles ne feront qu'imiter ce que les humains font ou feraient.
0  0 
Avatar de Zeeraptor
Membre régulier https://www.developpez.com
Le 12/11/2024 à 17:38
Si un jour une IA est capable de s'attacher a un humain...Pourquoi pas
0  3