AGENTIC COMMONSAI 產業簡報

繁中EN

標籤OpenRouter出版 2026-10-07

返回文章列表OpenRouter

路由器也有排行榜了:OpenRouter 把品質、速度、成本放在同一張表上

Model routing 聽起來很省錢,但一直沒有一個公開的基準讓你知道:換上路由器之後,品質到底有沒有掉、延遲多了多少、帳單真的降了嗎。2026 年 10 月 2 日,OpenRouter 在部落格宣布推出 Model Router Benchmarks,把市面上各家路由器放進同一組跨領域測試,從品質、速度、成本三個維度打分數,並列出個別頂尖模型作為對照基線。

為什麼路由器的落差值得量測

OpenRouter 自己就做過 Auto Router 和 Free Models Router,也持續用市場價格資訊優化路由決策。但近幾個月湧現的路由器,思路上差異很大:有的在成本、有的在任務多樣性、有的在 session 階段下功夫。同一個問題,不同路由器給的答案品質可能天差地遠。

而且路由不是免費的。OpenRouter 在文章裡坦白列出了幾個內在挑戰:切換模型會讓 input cache 重建、請求反而變貴;光看 prompt 往往判斷不了任務複雜度;用啟發式訊號猜 session 階段,可能跟模型實際要做的下一步對不上;路由決策上跑越多處理,延遲就越高。換句話說,路由器有可能表現得比直接用單一模型還差——這正是這份排行榜存在的理由。

「路由器」其實是三種不同的東西

這篇文章最有價值的部分,是把混用的「router」一詞拆開來。

第一種是 provider routing:同一個模型由多家推論服務商供應,路由器幫你挑符合價格、速度、uptime 和資料政策偏好的那一家,出事就 fallback。OpenRouter 從第一天就在做這件事。

第二種是 model routing:你不指定模型,請求交給路由器決定由誰回答。具體做法又分三類。Auto Router 和 Jev Router 每一輪選一個模型,選擇是透明的,帳單照標準費率計。Unbiased 的 Pareto 和 Sakana 的 Fugu 則是混合多個模型、有時做 frontier escalation,但不公開用了哪些模型、切換多頻繁,用標準化 per-token 費率計費。NVIDIA 的 Switchyard 走第三條路:預先配對一個便宜模型和一個強模型,在 agent 執行任務的過程中來回切換,配對可以自己指定。

還有一些沒被納入評測的變體,例如 alias 到單一模型的 -latest slug,以及把同一個請求發給一組模型再綜合答案的 Fusion。它們用途太特殊,比較方法也不同。

Router Index 怎麼算分

多維度分數很難直接比,所以 OpenRouter 合成了一個 0 到 10 的 Router Index:預設權重是品質 60%、每項任務耗時 20%、成本 20%。重點是頁面上有滑桿,你可以按自己的優先順序調整權重——如果跑了大量便宜的長尾請求,成本權重拉高,排名可能整個翻過來。之前寫過 cheap-first 路由教學的讀法,那篇的前提正是「客服機器人大多數輪次根本不需要最強的模型」,這份排行榜等於把該前提變成了可驗證的資料。

怎麼用在你的產品上

操作上很簡單:所有被評測的路由器都在 OpenRouter 上,把應用、harness 或 API 裡原本填模型的字串換成路由器即可。OpenRouter 也提醒,這類基準代表的是一般任務,不是你的工作負載——所以合理的做法是拿一兩條真實的請求流,在直接用模型和掛上路由器之間各跑一輪,對照成本和品質。這個頁面會持續更新路由器與分數,當作定期回看的檢查點,比一次性的結論更有用。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 客服機器人的帳單,先從便宜的模型算起:OpenRouter 的 cheap-first 路由教學怎麼讀

    OpenRouter 於 2026 年 10 月 2 日發表教學,示範用 cheap-first 路由把常規客服問題交給便宜模型、只升級疑難案件。

    OpenRouter

  2. 同一個 V4 名字,兩種能力:圖片請求該怎麼選模型

    OpenRouter 指出 DeepSeek V4 是模型家族,只有 V4.1 Flash 與 Flash Vision Exp 接受圖片,其餘 slug 送圖會直接失敗。

    OpenRouter

  3. 把多模型辯論變成一個 API 呼叫:OpenRouter Fusion 的取捨與使用時機

    OpenRouter Fusion 用平行面板加裁判來提升研究品質,但代價是 4-5 倍成本與 2-3 倍延遲。

    OpenRouter