Revolut fait des modèles auto-hébergés sa solution par défaut pour le développement assisté par IA, sans renoncer aux services commerciaux. Lors de la conférence AI Engineer NYC, David Abitbol, responsable des opérations IA, a présenté cette stratégie et les optimisations nécessaires à sa mise en production.
- Revolut affirme avoir divisé par dix sa facture d’inférence IA grâce à des modèles auto-hébergés.
- Les gains de productivité annoncés ne prouvent pas que le changement de modèle en soit la cause.
- Revolut optimise d’abord le service d’inférence avant d’ajouter des GPU.
- Le dispositif combine plusieurs modèles, avec routage vers un modèle dédié aux images et contrôles de sécurité renforcés.
Selon lui, Revolut sert le modèle GLM-5.3 à environ 2 000 ingénieurs, sur 56 GPU Nvidia B200. Les GPU sont des processeurs graphiques très utilisés pour faire fonctionner les modèles d’IA. Le coût moyen agrégé est proche de 0,30 dollar par million de tokens, unités de texte que traite le modèle. D’après David Abitbol, la facture représente environ un dixième des dépenses effectuées auparavant auprès d’Anthropic et d’OpenAI.
Ce ratio ne constitue toutefois ni un tarif universel de l’auto-hébergement, ni une comparaison à charge de travail strictement identique. La présentation ne fournit pas de ventilation permettant de déterminer précisément quels coûts d’infrastructure et d’exploitation entrent dans le calcul, ni de vérifier le coût total de possession. Claude Code et Codex restent accessibles pour les exceptions.
Productivité : une causalité non démontrée
Les résultats de productivité concernent une étape antérieure. Le passage à GLM-5.1, au printemps 2026, coïncide avec des améliorations annoncées d’environ 60 % du temps de codage et de 70 % du lead time. Ce dernier mesure le délai entre la prise en charge d’une fonctionnalité et sa fusion dans le code, prête à être déployée, mais pas nécessairement son déploiement effectif.
La comparaison interne ne permet pas d’isoler l’effet du changement de modèle. David Abitbol avance notamment qu’un accès moins contraint par les budgets de tokens encourage l’utilisation de l’IA pour des tâches périphériques, comme la recherche d’informations dans les courriels, Jira ou Confluence. Ces chiffres ne constituent donc pas un benchmark contrôlé de GLM-5.3 face à Claude ou Codex.
Optimiser avant d’ajouter des GPU
Le retour d’expérience porte autant sur le service d’inférence, c’est-à-dire la phase où le modèle produit ses réponses, que sur le modèle lui-même. À nombre de GPU constant, Revolut rapporte une hausse de 76 % des requêtes par seconde et une baisse de 88 % du délai avant le premier token, passé de 14,26 à 1,68 seconde. L’objectif opérationnel est de rester sous trois secondes.
Les leviers évoqués comprennent la quantification FP4 sur les GPU Blackwell, qui consiste à réduire la précision des calculs pour gagner en mémoire et en vitesse, le parallélisme tensoriel et la réutilisation du cache. David Abitbol recommande aussi d’examiner le décodage spéculatif et la séparation entre traitement du contexte d’entrée et génération des tokens, sans établir que chacune de ces techniques est effectivement déployée chez Revolut.
Concernant le contexte, il estime qu’environ 256 000 tokens répondent aux besoins décrits, plutôt que de réserver systématiquement la capacité maximale d’un million. L’enjeu est de préserver la mémoire disponible pour traiter plusieurs requêtes simultanément.
Un dispositif multimodèle et supervisé
GLM-5.3 étant un modèle textuel, le responsable des opérations IA préconise de router les demandes nécessitant la compréhension d’images vers un autre modèle. Des API compatibles avec celles d’OpenAI permettent par ailleurs de connecter les modèles hébergés aux outils de développement utilisés par les ingénieurs.
Sur le plan de la sécurité, Revolut met en avant des environnements isolés, des règles d’approbation pour les opérations restreintes et une télémétrie, c’est-à-dire la collecte de données de fonctionnement, permettant d’enquêter sur les incidents. David Abitbol distingue enfin l’hébergement des poids du modèle, c’est-à-dire ses paramètres appris, sur une infrastructure choisie par l’entreprise, du recours au service distant du développeur du modèle.
