IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Alibaba lance Qwen4-Max, son nouveau modèle d'IA de base, avec une réduction de 50 % de l'utilisation des jetons et un score supérieur de 28 % sur Terminal-Bench4.0

Le , par Alex

32PARTAGES

3  0 
Alibaba a annoncé Qwen4-Max désormais disponible sur la plateforme Qwen AI. Le modèle utilise une nouvelle architecture MoE basée sur l'attention clairsemée Qwen (QSA), avec un total de 2 400 milliards de paramètres, doté de capacités natives de vision et de livraison stable de tâches longues, prenant en charge des contextes jusqu'à un million de tokens, et permettant d'appeler des outils professionnels pour gérer des tâches à long terme tout en livrant les résultats en plusieurs étapes selon les retours des utilisateurs.

Alibaba Cloud est une entreprise de cloud computing, filiale du groupe Alibaba. Alibaba Cloud fournit des services de cloud computing aux entreprises en ligne et à l'écosystème de commerce électronique d'Alibaba. Alibaba Cloud propose des services cloud disponibles selon un modèle de paiement à l'utilisation, notamment des ressources de calcul élastiques, le stockage de données, des bases de données relationnelles, le traitement du big data, la protection contre les attaques DDoS et des réseaux de diffusion de contenu (CDN). Qwen est une famille de grands modèles de langage développés par Alibaba Cloud. De nombreux modèles Qwen sont distribués sous la licence Apache, libre et open source, sous la licence Qwen (code source disponible) ou sous la licence Qwen Research à usage non commercial ; d’autres modèles Qwen propriétaires sont proposés via Alibaba Cloud.

Alibaba a officiellement lancé le 16 novembre le nouveau modèle de base Qwen4. La plateforme AI Qwen introduit en exclusivité Qwen4-Max, avec une API et des plans de tokens disponibles simultanément. Le modèle utilise une nouvelle architecture MoE basée sur l'attention clairsemée Qwen (QSA), avec un total de 2 400 milliards de paramètres, doté de capacités natives de vision et de livraison stable de tâches longues, prenant en charge des contextes jusqu'à un million de tokens, et permettant d'appeler des outils professionnels pour gérer des tâches à long terme tout en livrant les résultats en plusieurs étapes selon les retours des utilisateurs.

Dans l'évaluation de Terminal-Bench4.0, pour la même catégorie Xhigh, la quantité moyenne de tokens par tentative de Qwen4-Max est passée de 289K à 151K, soit une réduction d'environ 50 %, tandis que le score est passé de 37,9 à 48,5, soit une amélioration d'environ 28 points ; la réduction des coûts de cache a entraîné une baisse de 58 % des frais moyens par tâche. Selon un rapport, Qwen4 Max affiche une intelligence supérieure à la moyenne et un prix raisonnable par rapport à d’autres modèles de gamme similaire. Le modèle prend en charge les entrées textuelles et visuelles, génère du texte et dispose d’une fenêtre contextuelle de 984 000 tokens. Qwen4 Max obtient un score de 43 sur l’indice d’intelligence artificielle, ce qui le place au-dessus de la moyenne parmi les modèles comparables (médiane : 41). Lors de l’évaluation de l’indice d’intelligence, il a généré 127 millions de tokens, ce qui est très prolixe par rapport à la médiane de 78,6 millions.


En termes de tarification, en Chine, l'entrée de un million de tokens coûte 10 yuans, la sortie 30 yuans et la correspondance de cache implicite 0,5 yuans ; sur le site international, les tarifs correspondants sont de 1,5 dollar américain, 4,5 dollars américains et 0,075 dollar américain. En plus de la plateforme Qwen AI, vous pouvez également l'utiliser via QwenCloud ou dans des applications telles que Qwen Office et Qoder. Selon un rapport, le tarif de Qwen4 Max est de 1,50 $ par million de tokens d’entrée (prix modéré, médiane : 2,00 $) et de 4,50 $ par million de tokens de sortie (prix modéré, médiane : 10,00 $). En moyenne, l’évaluation de Qwen4 Max selon l’indice d’intelligence coûte 3,27 $ par tâche.

En termes de mise en œuvre, le modèle intègre la compréhension des plans, la modélisation paramétrique et l'appel d'outils dans le processus de fabrication automobile, réduisant l'effort humain nécessaire à la programmation du traitement d'une seule pièce de 475 minutes à 26 minutes, soit une réduction d'environ 95 % ; dans le domaine de l'IA pour la science (AI4S), un agent a fonctionné pendant 48 heures consécutives pour construire un espace de 2,7 million de candidats moléculaires et, après quatre cycles en boucle fermée, a obtenu la validation expérimentale d'une nouvelle molécule de liquide de refroidissement, effectuant au total 454 appels d'outils autour de la cible NLRP3, réalisant 3 239 évaluations d'indicateurs et optimisant 24 molécules candidates, la molécule sélectionnée présentant une affinité de liaison nominale environ 3,6 fois supérieure au point de départ du brevet.

De plus, le modèle participe à l'optimisation de son propre planification, réduisant les coûts de planification de l'annotation des données de 9,00 % par rapport à la ligne de base, augmentant la durée d'occupation inutilisée de la capacité GPU en ligne de 4,62 % et accélérant la vitesse de résolution du replanification hors ligne du CPU de plus de 14,61 fois. De l'appel d'outils à la livraison en phases, ce déploiement poursuit la tendance selon laquelle la concurrence entre grands modèles passe de la validation des capacités à la mise en œuvre réelle de la productivité.


Voici un extrait de l'annonce :

Qwen4-Max : votre nouveau coéquipier est arrivé

Nous vous présentons aujourd’hui Qwen4-Max, votre nouveau coéquipier IA dédié au travail, à la créativité et à la découverte. Qwen4-Max repose sur la nouvelle architecture Qwen4, dotée d’un noyau de 2,4 billions de paramètres, de capacités de vision natives et d’une fenêtre contextuelle d’un million de tokens.

Qwen4-Max améliore la productivité dans le monde réel grâce à une meilleure maîtrise des outils professionnels, une exécution plus efficace des tâches à long terme et des résultats de meilleure qualité. Il peut prendre en charge un large éventail de tâches créatives et professionnelles, allant de la modélisation 3D au développement de jeux vidéo, en passant par la fabrication de précision, la finance, le droit, la santé et les découvertes scientifiques de pointe. En tant que coéquipier IA disponible 24 h/24 et 7 j/7, Qwen4-Max garde une vue d’ensemble et fait avancer les projets, rapprochant ainsi les idées ambitieuses de la réalité et ouvrant de nouvelles voies de collaboration entre les humains et l’IA.


Efficacité en termes de tokens et coût. Qwen4-Max surpasse Qwen3.8-Max tout en utilisant moins de tokens : sur Work360, la consommation de tokens diminue d’environ 24 % et 35 % respectivement pour les niveaux d’effort « Xhigh » et « High » ; sur Terminal-Bench 4.0, les réductions sont respectivement d’environ 48 % et 49 %. Nous avons également baissé les tarifs de l’API par rapport à Qwen3.8-Max, avec des réductions particulièrement importantes sur les tarifs des entrées mises en cache. Dans notre évaluation Work360, le coût moyen par tâche passe de 4,43 $ à 1,67 $, soit une réduction de 62 %.


Pré-entraînement

Qwen4-Max repose sur une nouvelle architecture pour la série Qwen4, avec 2,4 T de paramètres de backbone, 71 milliards activés par token et 328 milliards de paramètres supplémentaires d’embedding N-gram. L’architecture améliore systématiquement le modèle MoE clairsemé au niveau de l’attention, des connexions résiduelles et des embeddings, ce qui optimise l’efficacité computationnelle, la capacité du modèle et la stabilité de l’entraînement :

- GDN + Qwen Sparse Attention (QSA) : trois couches Gated DeltaNet compressent l’historique en états de taille fixe pour chaque couche QSA. QSA utilise un indexeur léger pour sélectionner le contexte pertinent à l’échelle des micro-blocs, réduisant ainsi les coûts d’attention et d’indexation pour les longues séquences.

- Gated Residual (GR) : quatre branches résiduelles parallèles utilisent des portes dynamiques de lecture et d’écriture pour renforcer le flux d’informations entre les couches et améliorer la stabilité de l’entraînement.

- Incorporation de N-grammes : des recherches basées sur le contexte fournissent des représentations de motifs de tokens locaux au niveau de la deuxième couche, ce qui élargit la capacité du modèle avec un surcoût de calcul minime.


L’entraînement à l’échelle de 2,4 T de paramètres s’est déroulé sans heurts, avec une perte diminuant régulièrement et aucune pointe de perte tout au long de l’exécution. Nous attribuons cette stabilité principalement aux améliorations apportées à l’architecture du modèle et à l’optimisation de l’entraînement.


Lors d’évaluations internes portant sur les domaines de la connaissance, du code, des questions-réponses et des STEM, Qwen4-Max-Base atteint le plus faible nombre de bits par octet (BPB) parmi les cinq points de contrôle évalués. Il surpasse Qwen3.8-Max-Base dans tous les domaines, avec un BPB inférieur d’environ 5 à 13 % tout en activant 25 % de paramètres en moins.


Agents à exécution longue (agents 24 h/24, 7 j/7)

Qwen4-Max pilote des agents fonctionnant 24 h/24, 7 j/7 qui prennent en charge les tâches de longue durée grâce à une planification autonome et à une itération continue, fournissant des résultats exploitables par étapes tout en laissant le contrôle aux utilisateurs.

Livraison en direct : livraison continue, contrôle par les utilisateurs

Lorsque les utilisateurs doivent attendre la fin d’une tâche de longue durée pour en voir les résultats, les erreurs commises par un agent peuvent être difficiles à corriger. La fonctionnalité « Livraison en direct » de Qwen4-Max assure le bon déroulement des tâches de longue durée grâce à une livraison continue et à un accompagnement des utilisateurs en temps réel. L’agent fournit rapidement une première version exploitable, puis l’enrichit et l’améliore au fil de versions successives, en mettant à jour ses plans en fonction des résultats d’exécution et des exigences des utilisateurs. Chaque version offre aux...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !