OpenAI offre désormais une réduction de 50 % sur les appels à l'API de complétion de chat par lots.ChatGPT est un chatbot développé par OpenAI et lancé le 30 novembre 2022. Basé sur de grands modèles de langage, il permet aux utilisateurs d'affiner et d'orienter une conversation vers une longueur, un format, un style, un niveau de détail et un langage souhaités. Les invites et les réponses successives de l'utilisateur sont prises en compte à chaque étape de la conversation en tant que contexte.
ChatGPT est construit sur la série propriétaire de modèles de transformateurs génératifs pré-entraînés (GPT) d'OpenAI et est affiné pour les applications conversationnelles en utilisant une combinaison d'apprentissage supervisé et d'apprentissage par renforcement à partir du feedback humain. ChatGPT a été publié en tant qu'aperçu de recherche disponible gratuitement, mais en raison de sa popularité, OpenAI exploite maintenant le service sur un modèle freemium. Les utilisateurs du niveau gratuit peuvent accéder à la version basée sur le GPT-3.5, tandis que le GPT-4 plus avancé et d'autres fonctionnalités sont disponibles dans le cadre du service d'abonnement payant "ChatGPT Plus".
OpenAI offre désormais une réduction de 50 % sur les appels à l'API de complétion de chat par lots si vous les soumettez en masse et si vous prévoyez jusqu'à 24 heures pour leur exécution.
Les demandes sont envoyées sous la forme d'un fichier JSON délimité par des lignes, chaque ligne ressemblant à ceci :
| Code : | Sélectionner tout |
{“custom_id”: “request-1”, “method”: “POST”, “url”: “/v1/chat/completions”, “body”: {“model”: “gpt-3.5-turbo”, “messages”: [{“role”: “system”, “content”: “You are a helpful assistant.”}, {“role”: “user”, “content”: “What is 2+2?”}]}}
GPT-3.5 Turbo est donc moins cher que Claude 3 Haiku, à condition que vous soyez prêt à attendre quelques heures pour obtenir des réponses.
Et vous ?50% discount on OpenAI pricing if you submit a batch and give them up to 24 hours to run the prompts for you - against any of their /v1/chat/completions models
— Simon Willison (@simonw) April 15, 2024
The batch format is newline-delimited JSON like this:https://t.co/rfJQv1LjAP https://t.co/saZXdokM0M pic.twitter.com/eKdt3JPPSD
Quel est votre avis sur le sujet ? Pensez-vous que cette méthode est crédible ou pertinente ?Voir aussi :
OpenAI lance un nouveau modèle de langage appelé GPT-4 Turbo qui serait plus puissant et moins cher que GPT-4, avec une fenêtre contextuelle plus grande que celle du modèle d'IA Claude 2 d'Anthropic Qualité vs prix : Mistral 8x7B est le modèle d'IA le plus rapide et le plus accessible en matière de coût, tandis que GPT-4 Turbo et Claude 3 Opus fournissent des réponses de meilleure qualité ChatGPT est peut-être l'application grand public à la croissance la plus rapide de l'histoire d'Internet, atteignant 100 millions d'utilisateurs en un peu plus de 2 mois, selon un rapport d'UBS