Stratégie & Gouvernance · N° 59
Coût réel du LLM : une ETI découvre que 40 % de sa facture IA vient d'appels tests oubliés en production
Des scripts de POC branchés en continu depuis six mois, sans propriétaire ni budget identifié. Le pilotage FinOps a étendu le tagging aux appels de modèles : chaque équipe a un budget tokens affiché en temps réel, et les dépenses ont chuté d'un tiers en un mois.

J'ai rarement vu un comité écouter pendant quarante minutes. C'est arrivé le lundi 11 août 2025, le jour où les coûts sont devenus lisibles.
J'ai gardé mes notes telles quelles, y compris les passages gênants.
Le point de départ
« Des scripts de POC branchés en continu depuis six mois, sans propriétaire ni budget identifié. »
Sofia Mendès, DSI Groupe de la Banque Alvorèse (Belgique)
Le dossier a été traité dans un contexte très opérationnel, avec Belgique pour cadre réglementaire et commercial implicite. Dans ce type de situation, l'enjeu était de réduire sans reporter le risque sur l'année suivante. Nous avons commencé par comparer ce que chaque direction disait du même sujet. L'écart était le vrai sujet.
Ce qui s'est passé, dans l'ordre
- J+00
1. Décomposition du coût par service — le point où j'ai compris que le calendrier officiel ne tenait pas.
- J+09
2. Trois scénarios chiffrés — c'est l'étape qui a pris le plus de temps, et personne ne l'avait vue venir.
- J+18
3. Lisibilité du coût du retard. Sur le moment, j'ai trouvé ça superflu ; ça nous a évité deux retours arrière.
- J+27
4. Arbitrage rendu en comité : la seule étape qui ait été tenue comme prévu.
- J+36
5. Suivi mensuel et réinvestissement. J'en ai gardé une trace écrite prise sur le vif, parce que je savais qu'on me demanderait.
« Le pilotage FinOps a étendu le tagging aux appels de modèles : chaque équipe a un budget tokens affiché en temps réel, et les dépenses ont chuté d'un tiers en un mois. » — cette phrase a été écrite au moment de la revue intermédiaire, avant consolidation des chiffres.
Ce qui a coincé
La direction financière ne refusait pas le budget ; elle refusait de ne pas pouvoir le suivre mois par mois. Rien de dramatique en soi — mais c'est exactement ce qui fait déborder un planning.
Nous avons d'abord gagné sur les licences, puis compris que la vraie marge était dans les environnements fantômes. Nous l'avons su trop tard, comme presque toujours.
Nous avons confondu économie et réallocation : la première ligne gagnée a été dépensée ailleurs, sans décision écrite. C'est le genre de détail qui ne coûte rien tant qu'on n'en a pas besoin.
Ce que le dossier dit en chiffres
Ces montants et ces ratios sont ceux présentés en comité, dans leur version d'origine.
| Valeur citée | Où elle apparaît |
|---|---|
| 40 % | citée dans le titre |
Ce que je fais désormais
- Le suivi mensuel est court : trois chiffres, une exception, une décision.
- Depuis, chaque ligne de coût a un nom, un service et un seuil d'alerte.
- Aujourd'hui, les économies réalisées sont rejouées en comité avec leur réaffectation proposée.
La suite
Nous avons gardé deux choses : un propriétaire nommé par sujet, et le droit d'écrire une décision même quand elle déplaît. Le reste a été oublié.
Repères
Avant d'aller plus loin, quelques définitions — celles que nous utilisons en comité.
- FinOps
- Démarche de pilotage collaboratif des dépenses cloud — visibilité, optimisation, imputation — qui traite le coût comme une métrique de service et non comme une simple ligne budgétaire.
- LLM
- Grand modèle de langage, entraîné sur de très gros volumes de texte, utilisé en génération ou en assistance.
Cadre de référence
- The FinOps Foundation — FinOps Foundation (Linux Foundation). Cadre de référence du pilotage des coûts cloud.
- Les outils bureautiques et collaboratifs au sein de l'État — Cour des comptes. Analyse publique des coûts d'un parc numérique.
- Cloud computing — statistiques d'usage par les entreprises — Eurostat. Comparaisons européennes, dernière édition 2026.
- Le règlement général sur la protection des données — RGPD — CNIL. Page de référence et articles commentés.
- Attaques par rançongiciels, tous concernés — ANSSI. Guide anticiper / réagir, avec retours d'entreprises victimes.
Ces pages officielles externes sont données comme repères : elles ouvrent un nouvel onglet et n'impliquent aucune validation de la part des organismes cités.