La fintech britannique Revolut a réduit ses dépenses en IA de près de 90 % en abandonnant les outils commerciaux au profit de modèles autohébergés. Revolut a d'abord déployé le modèle GLM-5.1 avant de passer à GLM-5.3, qu'il héberge en interne sur des grappes de GPU Nvidia. Cette transition offre un budget prévisible sans mauvaise surprise et a permis d’accélérer le travail des ingénieurs. Revolut utilise toujours un routeur pour diriger les requêtes visuelles vers des plateformes comme Gemini. Cette stratégie démontre néanmoins que les solutions open source locales peuvent garantir une stabilité budgétaire aux organisations, ainsi que le contrôle des données.David Abitbol, responsable des opérations et de l’infrastructure d’IA chez Revolut, a récemment participé à la conférence « AI Engineer » à New York. Au cours d'une intervention intitulée « Shipping like a startup, regulated like a bank », il a partagé l'expérience de la fintech avec les assistants et les outils d'IA de génération de code. Ces informations sont devenues virales au début du mois de novembre après avoir été relayées dans les médias.
Revolut est parvenu à réduire ses coûts d'inférence liés au codage par l'IA d'environ 90 % en moins d'un an. Cette baisse drastique des dépenses a été obtenue en abandonnant l'usage prioritaire de services commerciaux payants comme Claude ou Codex au profit de modèles à poids ouverts autohébergés.
David Abitbol a expliqué qu'avant ce basculement, Revolut expérimentait avec Gemini depuis début 2025 et Claude Code depuis début 2026. À l'époque, les ingénieurs dépensaient entre 1 000 et 10 000 dollars par mois, sans retour sur investissement significatif, incitant la direction à imposer des limites budgétaires strictes. David Abitbol a souligné cette réticence initiale en déclarant : « nous étions très sceptiques quant au coût de l’IA ».
Avec les contraintes budgétaires, les ingénieurs n’avaient accès qu’à un nombre limité de tokens ; Revolut a donc commencé à étudier la possibilité d’héberger lui-même ses propres modèles. En optant pour le modèle à poids ouverts GLM-5.1 développé par la startup chinoise Z.ai, au tarif de 0,30 dollar par million de tokens d'entrée et de sortie, Revolut a réduit ses coûts à environ un dixième de ceux appliqués par OpenAI ou Anthropic.
(La séquence commence à partie de 5 h 36 min 54 s)
Et lorsque les tokens sont bon marché, on cesse de se soucier de leur nombre ou de l’usage qui en est fait. Le déploiement des outils d'IA de codage auprès d'environ 2 000 ingénieurs a permis d'enregistrer une amélioration de 60 % du temps de codage et de 70 % du délai d'exécution. Les gains les plus marquants ne sont pas venus uniquement à l'accélération de l'écriture du code, mais de la résolution des goulots d'étranglement annexes.
L'accès à des tokens bon marché et illimités a libéré les développeurs en leur permettant d'utiliser l'IA pour le débogage ainsi que la gestion des tickets Jira et Confluence. David Abitbol explique cette évolution d'usage : « lorsque vous disposez d’un nombre illimité de tokens, vous êtes libre de le faire. Vous n’avez plus besoin de garder vos jetons pour la fin du trimestre ou pour la tâche la plus difficile ». Cette idée se répand dans l'industrie.
L'infrastructure matérielle et les optimisations techniques
Sur le plan technique, GLM-5.1 compte 754 milliards de paramètres au total, dont 40 milliards sont activés par token généré. Sa mise en œuvre nécessite environ 380 gigaoctets de mémoire GPU uniquement pour héberger les poids, plus 6 à 26 Go par utilisateur pour maintenir le contexte. Afin de faire fonctionner la version GLM-5.3 à grande échelle, Revolut a déployé 56 GPU Nvidia B200, soit l'équivalent de sept systèmes DGX B200.
Les progressions de performance majeures ne sont toutefois pas nées du simple ajout de processeurs graphiques, mais de l'ajustement des hyperparamètres, du passage à la quantification NVFP4, de la séparation du préremplissage et du décodage, ainsi que de la gestion calibrée de la longueur de contexte.
Bien que le modèle à poids ouvert de Z.ai gère théoriquement un contexte impressionnant d'un million de tokens, Revolut a fait le choix de restreindre la fenêtre effective à 256 000 tokens. Dans ses explications, David Abitbol a qualifié d’illusion les fenêtres de contexte géantes en affirmant : « le contexte long est une arnaque. Il faut vraiment y faire attention. Même si l’on peut traiter un million de tokens, 256 000 suffisent amplement ».
Grâce à ces choix techniques, l'entreprise conserve « un temps d'affichage du premier token inférieur à trois secondes sur des fenêtres de 256 000 tokens », pour une vitesse de génération d'environ 200 tokens par seconde. David Abitbol commente cette cible de latence comme suit : « il faut viser un délai inférieur à 3 secondes avant le premier token. C’est empirique : dès que l’on dépasse 5 secondes, ma messagerie Slack explose ».
Enfin, GLM étant un modèle purement textuel, Revolut s'appuie sur un routeur de modèles pour diriger les requêtes visuelles d'interface graphique vers Gemini ou GPT Luna, tout en maintenant la génération de code sur GLM. Tout comme Revolut, d'autres entreprises se tournent vers l'IA open source pour gagner en flexibilité et réduire leurs coûts. Selon les analystes de Wall Street, cette tendance menace la viabilité d'OpenAI et d'Anthropic.
Bilan financier de cette transition et sécurité des données
Grâce à cette approche, l'open source a gagné en importance chez Revolut, garantissant une facturation prévisible sans surprise budgétaire en fin de mois. David Abitbol résume cette position : « l'open source est désormais une priorité chez Revolut, et notre situation économique est favorable ». Quant aux risques de confidentialité liés aux modèles chinois, la fintech précise qu'ils concernent principalement les appels d'API hébergées en Chine.
En exécutant les modèles sur ses propres infrastructures physiques ou sur un cloud régional, Revolut écarte ces risques tout en préservant la sécurité de ses données. Des entreprises majeures ont commencé à modifier leur stratégie en matière d'IA, ce qui provoque l'effondrement des coûts des tokens. Le contexte fait planer le doute sur la survie des acteurs de la bulle de l'IA, comme Anthropic et OpenAI, qui espéraient des profits massifs.
Les premiers modèles de pointe coûtaient des dizaines de dollars par million de tokens. Aujourd'hui, des modèles très performants sont proposés pour quelques dollars, voire moins d'un dollar par million de tokens pour les versions les plus légères. Plusieurs facteurs expliquent cette chute : l'amélioration de l'efficacité des architectures, la concurrence accrue entre fournisseurs, et les progrès matériels sur les accélérateurs dédiés à l'inférence de l'IA.
Cette tendance représente en revanche un défi majeur pour les entreprises qui conçoivent les modèles d'IA. En habituant les consommateurs à des prix de plus en plus bas, les fournisseurs de modèles risquent de perdre durablement leur pouvoir de fixation des tarifs. Ce phénomène de déflation frappe de plein fouet les startups OpenAI et Anthropic, qui subissent déjà la pression des investisseurs pour prouver la viabilité de leur modèle économique.
Source : David Abitbol, responsable des opérations et de l’infrastructure d’IA chez Revolut
Et vous ?
Quel est votre avis sur le sujet ?
Que pensez-vous de la stratégie de Revolut en matière de déploiement de l'IA ?
Revolut affirme avoir réduit ses dépenses en IA de près de 90 % en passant aux modèles ouverts. Qu'en pensez-vous ?Voir aussi
Les entreprises se tournent vers l'IA open source pour gagner en flexibilité et réduire leurs coûts. Cette tendance menace la viabilité d'OpenAI et d'Anthropic, qui tablaient sur des profits massifs
Microsoft met en place des budgets de jetons IA pour ses employés, fait de GPT-5.6, moins coûteux, son modèle interne par défaut et précise que « le tokenmaxxing n'est pas notre objectif »
Les entreprises recherchent des solutions d'IA moins coûteuses alors que le « tokenmaxxing » perd de son attrait en tant que tendance éphémère, l'IA est trop chère et n'est rentable pour personne
Vous avez lu gratuitement 175 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.