Le 22 octobre 2026, la newsletter OnlyCFO publie un article invité de Peter Walker, responsable des analyses d'OpenRouter, une passerelle qui donne accès à plusieurs centaines de modèles de langage par un seul compte. L'éditeur présente le coût de l'IA comme en passe de devenir le premier poste de dépense des entreprises, et le sujet comme une affaire de direction financière.
Les données d'OpenRouter montrent une combinaison rare : le volume traité passe d'un demi-millier de milliards de tokens par semaine en janvier 2025 à 164 000 milliards fin septembre 2026, tandis que le prix moyen payé tombe de 0,77 à 0,14 dollar le million de tokens. L'auteur en conclut que l'inférence se comporte comme une matière première, et non comme un logiciel acheté à un fournisseur sur engagement annuel.
landed cost
Quatre forces expliquent cette évolution. L'offre explose : 862 modèles lancés depuis 2024, dont 27 dépassent mille milliards de tokens hebdomadaires. Les modèles open-weight portent environ 60 % des tokens pour 26 % de la dépense ; deux tiers viennent de laboratoires chinois, mais l'hébergement se choisit séparément du modèle, et 44 % de ces tokens sont servis par des fournisseurs américains. Les agents sont devenus la première source de tokens le 6 février 2026 ; comme ils renvoient le même contexte à chaque étape, le cache de prompt devient la variable de prix décisive, et le taux de cache des modèles récents atteint 88 %. Enfin, le leader change sans cesse : cinq fois en huit trimestres.
L'usage et la dépense se découplent : chez les startups natives de l'IA, les tokens sont multipliés par 18 et la dépense par 5,1. La baisse tient à des modèles bon marché plus capables, à l'optimisation du cache et aux modèles économiques des laboratoires de frontière. Pour un même modèle open-weight, le prix réellement payé se situe entre 43 % et 89 % sous le prix catalogue, et le fournisseur le moins cher en catalogue n'est souvent pas le moins cher à l'usage.
L'auteur propose donc d'acheter au « landed cost » : le prix après remise de cache, plus le coût de l'attente et celui des reprises. Une requête à un dollar qui échoue une fois sur cinq coûte 1,25 dollar par réponse réussie. S'y ajoutent la rétention zéro des données, disponible pour 93 % des tokens, et la disponibilité : 96,9 % de succès après bascule automatique.
Il conclut par quatre conseils aux directeurs financiers : consommer plus ne signifie pas dépenser plus, un modèle ouvert varie selon son fournisseur, les garde-fous sont indispensables, et les plans doivent rester révisables.