La guerre des tokens a commencé : caveman, rtk et OmniRoute, les outils open source qui coupent 30 à 95 % de votre facture LLM

La guerre des tokens a commencé : caveman, rtk et OmniRoute, les outils open source qui coupent 30 à 95 % de votre facture LLM

🔎 La facture est devenue le bug n°1 du développement IA

Cette semaine de septembre 2026, GitHub Trending ressemble à un comité de direction financière. caveman (environ 100 000 étoiles), rtk (environ 80 000), headroom (environ 70 000) et OmniRoute (environ 64 000) trustent le sommet des agrégateurs comme GitTrend ou GitHub Hot. Leur point commun : promettre de couper 30 à 95 % de votre facture de tokens.

Le déclencheur est daté avec précision. Le 1er juin 2026, GitHub a fait basculer tous les plans Copilot vers une facturation à l'usage, calculée sur les tokens aux tarifs API publiés de chaque modèle. En parallèle, le multi-agents a multiplié les tours de boucle — et chaque tour re-facture du contexte. L'abonnement forfaitaire est mort, la facture variable est née.

Mais voilà le twist : les pourcentages des README ne survivent pas toujours au contact d'un benchmark indépendant. L'étude JetBrains de juillet 2026 mesure −8,5 % pour caveman là où il annonce −65 %, et découvre que rtk peut coûter plus cher qu'il n'économise. C'est précisément ce décalage entre marketing et mesure que cet article dissèque — outil par outil, chiffre par chiffre.

L'essentiel

• Une catégorie entière d'outils open source d'économie de tokens domine GitHub Trending en septembre 2026 : caveman (~100 000 étoiles), rtk (~80 000), headroom (~70 000), OmniRoute (~64 000).
• Le déclencheur : Copilot est passé au token billing le 1er juin 2026, et les sessions agentiques multi-agents font exploser la consommation.
• Les claims annoncés (−60 à −96 %) ne résistent pas toujours à la mesure : JetBrains mesure −8,5 % pour caveman sur du vrai travail d'agent, et +7,6 % de coût en plus pour rtk à low reasoning effort.
• Les gains réels existent, mais ils sont localisés : tokens de sortie (caveman), sorties de commandes (rtk), browsing compressé ×129 (Caveman 2), JSON (headroom).
• OmniRoute attaque le problème par le prix unitaire : 352 providers, 90+ tiers gratuits, fallback automatique — le levier le plus durable de la catégorie.
• Règle d'or : ne faites confiance qu'aux tokens reportés par votre provider, jamais au compteur auto-reporté de l'outil.

Outils recommandés

Le 1er juin 2026 : le jour où l'abonnement est devenu une facture

Si cette catégorie explose précisément en septembre 2026, c'est parce que le 1er juin, GitHub a transformé des millions d'abonnés Copilot en consommateurs de tokens facturés à l'unité.

Le mécanisme, annoncé le 27 avril 2026 par Mario Rodriguez sur le blog GitHub : les premium request units disparaissent au profit de GitHub AI Credits, dont la consommation se calcule sur les tokens (input, output, cached) aux tarifs API publiés de chaque modèle. Les complétions de code restent illimitées et hors crédits. Les fallback models, eux, disparaissent : une fois les crédits épuisés, ce sont les budgets admin qui gouvernent.

Les prix d'abonnement n'ont pas bougé, mais les crédits ont été revalorisés après les retours utilisateurs, avec un nouveau plan Max annoncé le 12 mai 2026 :

Pourquoi ça change tout : le même prompt peut coûter ×20 selon le modèle. GPT-5 mini est facturé 0,25 $/M tokens d'input contre 5,00 $/M pour GPT-5.5 ; côté Anthropic, Claude Haiku 4.5 est à 1,00 $/M input contre 5,00 $/M pour Claude Opus 4.8, d'après The New Stack (2 juin 2026). L'auto mode de Copilot route désormais vers le modèle adapté à la tâche — la première arme de la guerre des tokens est un routeur, pas un compresseur.

InfoWorld rappelle que c'est la deuxième recalibration de Copilot en moins d'un an : les premium requests dataient de juin 2025 (300/mois en Pro, 1000 en Enterprise, overage à 0,04 $). La logique est implacable — GitHub absorbait des coûts d'inférence devenus insoutenables avec des sessions agentiques de plus en plus longues.

Et le multi-agents aggrave tout. Chaque agent relit le contexte, et une partie de ces re-reads cachés est facturée à un dixième du prix — mais ils structurent la facture. C'est exactement là que les outils de cette semaine prétendent intervenir.

Pour le détail du basculement, notre décryptage GitHub Copilot passe au token billing : fin de l'abonnement, début de la facture à l'usage reste la meilleure porte d'entrée.

caveman : ~100 000 étoiles pour faire parler vos agents en télégraphe

caveman est un skill MIT qui force vos agents à écrire en style télégraphique — et sur les tokens de sortie, la mécanique est réelle.

Le projet de JuliusBrussee cible 30+ agents : Claude Code, Codex, Gemini, Cursor, Windsurf, Cline, Copilot et bien d'autres. L'exemple du README est parlant : 69 tokens réduits à 19, soit −72 %.

Le benchmark maison, conduit sur 10 prompts via l'API Claude réelle, donne une moyenne de −65 % sur les tokens de sortie, avec une plage de 22 à 87 %. Jusqu'ici, tout va bien.

Mais le README est honnête sur la limite structurelle : le skill ne réduit que les tokens de sortie. Les tokens d'input et de raisonnement restent intacts — et le skill ajoute lui-même environ 1 000 à 1 500 tokens d'input par tour. Sur une facture d'agent dominée par l'input, l'arithmétique globale s'annonce donc bien moins flatteuse que −65 %.

Caveman 2 ajoute une pièce plus intéressante : un proxy local qui attaque l'input. Sur un benchmark Claude Code épinglé à 54 runs — avec les tokens reportés par le provider, pas estimés — il annonce −33,2 % de tokens d'input en passant les 18 checks exact-answer. Et le browsing compressé est spectaculaire : 121 tokens contre 15 704 en baseline Playwright ARIA, soit 129,8× plus petit.

Autour du projet, une micro-catégorie a éclos : simplicio (jusqu'à 96 % de tokens annoncés, binaire Rust unique), cavemem (mémoire persistante cross-agent, dont le cœur a été fusionné dans caveman), cavegemma (une LoRA de Gemma 4 31B qui parle caveman nativement — à rapprocher de notre sélection des meilleurs LLM à faire tourner en local), genshijin (version japonaise) ou ruslanlap/cavemenko (−65-90 % annoncés, en ukrainien). La page GitHub topics/caveman donne la mesure du phénomène.

Mon avis : c'est la compression la moins chère du monde — pas d'infra, juste de la discipline de prompt. Mais gardez −8,5 % en tête, pas −65 %. On y vient.

rtk : le proxy Rust qui nettoie vos sorties avant qu'elles n'atteignent le contexte

rtk intercepte les sorties de vos commandes (git status, tests, logs) et les compresse avant qu'elles n'atteignent le contexte du LLM. L'idée est saine, l'implémentation est propre — la comptabilité, elle, posera problème.

Côté ingénierie, c'est du sérieux : un CLI proxy en Rust, binaire unique sans dépendance, plus de 100 commandes supportées, un overhead inférieur à 10 ms. Le hook PreToolUse de Claude Code redirige automatiquement les appels :

# le hook PreToolUse de Claude Code réécrit automatiquement :
git status
# en :
rtk git status

Le projet annonce 60-90 % de réduction sur les sorties de commandes dev, et supporte 14 agents : Claude Code, Copilot, Gemini CLI, Codex, Cursor, Windsurf, Cline, Kilo Code, Antigravity, Kimi, Pi, OMP, Droid et Hermes.

Deux limites à connaître avant d'installer. D'abord, les outils natifs Read/Grep/Glob de Claude Code ne passent pas par le hook — or c'est précisément là que vit l'essentiel du contexte d'un agent de code. Ensuite, les tokens « économisés » sont estimés en bytes÷4, sans tokenizer.

À son crédit, le README ne vend pas de la fumée : il admet lui-même que couper le bash output n'est pas couper 90 % de la facture, le bash n'étant qu'une composante des tokens d'input, eux-mêmes une partie de la bill. C'est cette honnêteté qui rend le benchmark suivant si instructif.

−65 % annoncés, −8,5 % mesurés : le benchmark JetBrains qui refroidit

Sur du vrai travail d'agent, les gains annoncés fondent : caveman passe de −65 % annoncés à −8,5 % mesurés, et rtk fait pire encore avec +7,6 % de coût en plus à low reasoning effort.

Le benchmark JetBrains, publié le 20 juillet 2026, est une série A/B indépendante conduite sur Claude Code 2.1.201 avec claude-sonnet-5, aux efforts de raisonnement low et high, mesurée sur SkillsBench. Pas de self-reporting : des tokens réellement facturés.

Résultats. caveman, annoncé à −65 %, mesure −8,5 % sur du vrai travail d'agent. rtk, annoncé à 60-90 %, mesure +7,6 % de coût en plus à low effort (p=0,004, donc statistiquement significatif) et ±0 % à high effort. Dans les deux cas, la qualité des tâches reste inchangée — ces outils ne cassent rien, ils ne font simplement pas toujours ce que leurs compteurs racontent.

Le mécanisme d'erreur de rtk est un cours magistral de comptabilité fantôme. L'outil compte le raw output complet comme contrefactuel : un cat de CSV de 1,2 Mo logge 320 000 tokens « économisés » alors que Claude Code tronque bien avant. Il estime les tokens en caractères÷4 sans tokenizer. Et il ignore que l'essentiel du coût d'input est des re-reads cachés, facturés un dixième du prix.

Le clou : pendant l'étude, rtk a auto-reporté 96,2 millions de tokens « économisés » — 99,8 % de tout ce qu'il a touché — pendant que la facture mesurée, elle, montait.

Nuance importante : −8,5 % mesurés et gratuits, c'est faible mais réel. Et à high effort, rtk est neutre — pas nocif, juste inutile. Le vrai enseignement est méthodologique : ces outils mesurent un contre-factuel, pas votre facture. La seule métrique qui compte, c'est le token reporté par le provider.

Il faut aussi distinguer les régimes de gain. Le browsing compressé de Caveman 2 (×129 sur un poste de coût précis) n'est pas le même sport que le style télégraphique global. Comprimer là où c'est gros et mesurable : voilà la leçon.

OmniRoute : si vous ne pouvez pas réduire les tokens, réduisez leur prix

OmniRoute attaque le problème par l'autre bout : une gateway auto-hébergée qui route chaque appel vers le provider le moins cher disponible, avec fallback automatique quand un quota explose.

Le projet de diegosouzapw, sous licence MIT, expose un seul endpoint OpenAI-compatible devant 352 providers (en v3.8.50, contre 290 en v3.8.49 — la vitesse de croissance est elle-même un signal de marché), dont 90+ tiers gratuits, pour environ 516 modèles : Claude, GPT, Gemini, DeepSeek, Kimi, GLM, Mistral, MiniMax. L'analyse de Pinggy résume l'usage : mutualiser des quotas gratuits et router selon les limites de taux.

La CLI fait le ménage dans la complexité :

omniroute doctor          # diagnostic de la configuration
omniroute providers test  # tester les providers disponibles
omniroute quota           # état des quotas
omniroute combos switch   # basculer de combo de providers

C'est le prolongement naturel de deux dossiers que nous suivons de près : la guerre des LLM open source — DeepSeek, Kimi et GLM sont des cibles de routage bien moins chères que les modèles frontière — et notre sélection des meilleurs LLM gratuits, dont OmniRoute permet enfin de mutualiser les quotas proprement.

Côté déploiement, c'est un service self-hosted : un petit VPS fait l'affaire (par exemple chez Hostinger, à partir de quelques euros par mois en septembre 2026 — vérifiez sur hostinger.com).

Un avertissement s'impose pourtant. Parmi les providers no-auth, on trouve du reverse-engineering de chatbots publics — Chipotle Pepper AI, The Old LLM via des tokens auto-générés par Playwright. C'est fragile, juridiquement gris, et à proscrire en production. La gateway officielle est solide ; la partie contournement est une grenade dégoupillée.

Mon avis : c'est la pièce la plus durable de la catégorie. Le routage survit à la déception des outils de compression, parce qu'il joue sur le prix unitaire — le seul levier qu'aucun benchmark indépendant ne peut contredire.

headroom et la catégorie : les étoiles votent, les benchmarks tranchent

headroom complète la panoplie en compressant les sorties d'outils et les chunks RAG — mais la critique qui lui est faite sur Hacker News résume la tension de toute la catégorie.

Le projet, environ 70 000 étoiles, annonce 20 % de compression sur le code et 60-95 % sur le JSON, sans dégradation des réponses. Des chiffres à prendre comme des claims : je n'ai pas trouvé de benchmark indépendant pour les vérifier — et c'est tout le problème de cette vague.

Sur Hacker News, le débat caveman vs headroom a tranché dans l'humeur : headroom est critiqué comme invasif et subscription-based. Dans une catégorie où les concurrents sont MIT et gratuits, un abonnement pour de la compression non vérifiée indépendamment est un handicap presque rédhibitoire.

Le phénomène dépasse largement ces quatre projets. Les agrégateurs — agents-radar #130, GitHub Hot, GitTrend, le DevTools Digest de StartupCorners — confirment la domination du trending par l'économie de tokens. Les devs votent avec leurs étoiles : l'étoile mesure l'anxiété budgétaire, pas l'économie réalisée.

Et cette vague s'inscrit dans un printemps open source agentique plus large : OpenHuman, l'agent qui connaît votre vie avant même de lui parler (notre analyse), ou Life-Harness, qui promet +88,5 % de performance agentique sans retraining (notre dossier). L'économie de tokens n'est qu'un front de la bataille open source — le reste est dans notre veille des nouveautés IA.

Ce qui marche vraiment : quatre leviers, par ordre de ROI

Le levier n°1 n'est pas un proxy : c'est le routage de modèle. Le delta de prix entre GPT-5 mini (0,25 $/M) et GPT-5.5 (5,00 $/M) est de ×20 — aucune compression n'égale ça.

Voici les quatre leviers, du plus rentable au plus cosmétique :

1. Router vers le bon modèle. L'auto mode de Copilot le fait désormais nativement ; sinon, une gateway comme OmniRoute. Envoyez les sous-tâches vers les modèles bon marché (Haiku 4.5 à 1 $/M input) et gardez les modèles frontière pour ce qui le mérite. Notre comparatif mensuel des meilleurs LLM est fait pour ça, et le coding open source progresse vite — voir notre dossier sur Kimi K2.7 Code, le modèle 1T de paramètres qui annonce −30 % de tokens.
2. Compresser là où c'est gros et mesurable. Browsing (×129 avec Caveman 2), JSON de RAG (headroom, à vérifier), sorties de commandes (rtk sur le bash).
3. Sortie télégraphique. caveman sur les tokens de sortie : réel, mais modeste sur la facture totale (−8,5 % mesurés par JetBrains).
4. Optimiser le runtime des agents. Life-Harness montre qu'on peut gagner en performance sans toucher au budget tokens.

La règle d'or traverse tout : mesurez en tokens reportés par le provider, sur un benchmark épinglé à vos propres tâches. Caveman 2 l'a fait (54 runs, tokens provider) ; rtk ne l'a pas fait (96,2 millions de tokens fantômes). La différence entre ces deux méthodes, c'est la différence entre une économie et une croyance.

❌ Erreurs courantes

Erreur 1 : croire le compteur de l'outil

rtk a auto-reporté 96,2 M de tokens « économisés » (99,8 % de ce qu'il a touché) pendant que la facture mesurée montait (JetBrains, juillet 2026). Les compteurs internes estiment en bytes÷4 et raisonnent en contre-factuel. Solution : tokens reportés par le provider, A/B épinglé, avant/après sur vos tâches réelles.

Erreur 2 : oublier que l'input domine la facture

caveman ne réduit que la sortie et ajoute 1-1,5k tokens d'input par tour ; les re-reads cachés, facturés un dixième du prix, structurent le coût. Solution : hygiène de contexte, compression ciblée (browsing, JSON) et routage vers des modèles moins chers.

Erreur 3 : brancher un proxy à low reasoning effort

À low effort, rtk coûte +7,6 % de plus (p=0,004) ; à high effort, il est neutre. Solution : mesurez à votre régime réel avant de déployer — un proxy d'économie peut coûter plus cher qu'il n'économise selon votre configuration.

Erreur 4 : mettre les providers reverse-engineered en production

Les providers no-auth d'OmniRoute qui rétro-ingénierent des chatbots publics (Chipotle Pepper AI, The Old LLM) sont fragiles et juridiquement gris. Solution : clés API officielles et tiers gratuits documentés ; le reverse-engineering reste du bricolage personnel, pas de l'infrastructure.

❓ Questions fréquentes

Ces outils fonctionnent-ils en dehors de Claude Code ?

Oui pour l'essentiel. caveman cible 30+ agents (Codex, Gemini, Cursor, Windsurf, Cline, Copilot...), rtk supporte 14 agents dont Gemini CLI, Codex, Cursor et Kilo Code, et OmniRoute se branche sur n'importe quel client OpenAI-compatible. Attention toutefois : les outils natifs Read/Grep/Glob de Claude Code contournent le hook de rtk.

Combien peut-on vraiment économiser ?

Attendez-vous à 10-30 % sur une facture d'agent réelle, pas à 90 %. Les mesures indépendantes donnent −8,5 % pour caveman sur du vrai travail, ±0 % pour rtk à high effort. Les gains massifs existent mais sont localisés : browsing ×129, JSON compressé à 60-95 % (annoncé). Le routage de modèle reste le plus gros levier.

La qualité des réponses baisse-t-elle avec ces outils ?

Non, d'après les mesures disponibles. Le benchmark JetBrains constate une qualité de tâches inchangée pour caveman comme pour rtk, et Caveman 2 passe 18/18 checks exact-answer sur 54 runs. Mais ces benchmarks ne couvrent pas votre domaine : testez sur vos propres tâches avant de généraliser.

headroom vaut-il un abonnement ?

C'est le doute exprimé sur Hacker News : headroom est critiqué comme invasif et subscription-based, dans une catégorie qui bascule en open source MIT gratuit. Avec caveman, rtk et OmniRoute gratuits, difficile de justifier un abonnement pour une compression qui n'a pas de benchmark indépendant à son actif.

OmniRoute est-il sûr et légal ?

La gateway MIT auto-hébergée ne pose pas de problème particulier : vos clés, votre serveur, vos logs. En revanche, ses providers no-auth par reverse-engineering de chatbots publics sont fragiles et juridiquement gris. Pour la production, restez sur des clés API officielles et des tiers gratuits documentés.

✅ Conclusion

La guerre des tokens ne se gagne pas en étoiles GitHub mais en tokens reportés par votre provider : routez vers le bon modèle, compressez là où c'est gros et mesurable, et méfiez-vous de tout compteur qui promet 90 %. Pour choisir le bon modèle à chaque tâche, commencez par notre comparatif mensuel des meilleurs LLM.