9Router

9Router's Hinaharang ng RTK (Rust Token Kompressor, na naka-port sa JavaScript) ang bawat tool_result sa iyong prompt bago ito ipadala sa LLM. Sinusuri nito ang unang kilobyte ng data, tinutukoy ang uri ng nilalaman (git diff, log dump, file tree, grep output), at naglalapat ng mga naka-target na lossless filter. Ang resulta ay 20 hanggang 40 porsyentong mas kaunting input token bawat kahilingan nang walang anumang pagkawala ng konteksto. Kung ang isang filter ay mabigo o mas malaki ang output, tahimik itong itinatapon ng RTK upang hindi masira ang iyong kahilingan.

Ang fallback engine ang siyang puso ng 9Router. Nagko-configure ka ng isang "Combo" na nagkokonekta sa hanggang limang antas ng modelo: ang iyong aktibong subscription (hal. Claude Code Pro sa halagang $20 kada buwan), isang murang backup (hal. GLM sa halagang $0.60 kada milyong token), at isang libreng unlimited provider (hal. Kiro AI). Sa sandaling ma-detect ang isang error na may limitasyon sa rate o quota, tahimik itong nahuhuli ng 9Router at muling inire-route ang eksaktong parehong request sa susunod na antas. Hindi kailanman nakikita ng iyong coding tool ang paglipat.

Hango sa viral prompt ni Julius Brussee na “bakit gagamit ng maraming token kung kakaunti lang ang nakakagawa ng trick”, ang Caveman Mode ay naglalagay ng system-level instruction na pumipilit sa LLM na tumugon nang maikli, pinasimpleng wikaAng teknikal na nilalaman ng tugon ay napanatili nang buo, ngunit ang masinsinang pagpuno ay inalis, na naghahatid ng hanggang 65 porsyentong mas kaunting mga output token. Para sa mga high-volume agentic coding workflow, ito lamang ay maaaring makabawas ng isang makabuluhang bahagi ng buwanang gastos sa API.

Ang 9Router ay gumaganap bilang isang universal protocol translator. Ang iyong CLI tool ay nagpapadala ng isang standard na OpenAI Humiling ng JSON sa localhost, at binubuksan ito ng 9Router, muling binubuo ito sa katutubong format ng destination provider (Claude, Gemini, Vertex, Kiro, Cursor), pinapagana ito, pagkatapos ay isinasalin ang tugon pabalik sa OpenAI i-format bago ito ibigay sa iyong tool. Ang resulta ay ang Claude Code, Codex, Cline, Roo, at 12 iba pang sinusuportahang CLI tool ay dumadaan lahat sa iisang configuration point.

9Router's Nagbibigay ang dashboard ng live na datos ng pagkonsumo ng token, nagre-reset ng mga countdown (5 oras, araw-araw, lingguhan), at pagtatantya ng gastos kada modelo. Ang multi-account round-robin kada provider ay nagbibigay-daan sa iyong mag-load-balance sa maraming account para ang isang account na umabot sa limitasyon nito ay hindi makakaantala sa buong stack. Awtomatikong nire-refresh ang mga OAuth token sa background para walang manual na muling pag-authenticate habang may mga aktibong session.

Ang 9Router ay may kasamang primera klaseng suporta para sa tatlong tunay na libreng provider: Kiro AI (libre at walang limitasyon Claude 4.5, GLM-5, MiniMax sa pamamagitan ng AWS/Google OAuth), OpenCode Free (walang awtorisasyon, awtomatikong kinukuha ang mga modelo), at Vertex AI ($300 Google Cloud credits para sa mga bagong account). Kasama ang RTK, ang isang developer na gumagamit lamang ng libreng tier ay magbabayad ng eksaktong $0 bawat buwan habang ina-access pa rin ang mga modelong pang-produksyon tulad ng Claude Sonnet 4.5.