客服機器人最貴的地方不是接不上模型,而是把每一句「我要怎麼改地址」都丟給最強的模型。OpenRouter 在 2026 年 10 月 2 日發表的教學《Model Routing for Support Bots: Cheap-First FAQ Handling》(見 OpenRouter Blog 的 Tutorials 專區),就是針對這個問題給出一套可直接照做的流程。
cheap-first 的分工界線
這份教學的核心是 cheap-first 路由:例行問題交給小型、便宜的模型,只有困難或不確定的請求才升級到更強的模型。根據教學摘要,它把三種應用端路由模式做了比較,並劃清一條界線——哪些責任由你的應用程式自己承擔,哪些交給 OpenRouter 的 Auto Router 和 model fallbacks 機制處理。
這條界線對 builder 很實際。如果你不知道 Auto Router 已經幫你處理了什麼,很容易在應用層重複實作一套路由邏輯;反過來,如果把升級判斷全交給平台,你就失去對「什麼樣的票要升級」的控制權。教學用一份可複製的 request 示範了支援流程怎麼接,等於把決策點攤開給你看。
兩個值得盯著看的指標
摘要中特別提到如何測量 escalation rate(升級率)和 cost per resolved ticket(每張解決票的成本)。這兩個數字合起來,才是 cheap-first 是否省錢的完整答案:升級率太低,可能代表難題被便宜模型硬撐著答錯;升級率太高,等於回到全走貴模型的老路。
之前我在 Ringg 用模型路由省下九成成本 那篇也提過類似的結構——把客服從「接電話」拆成「完成業務」,再按業務難度分配模型。OpenRouter 這份教學補上的,是應用端的實作細節和量測方法,兩者讀起來剛好是互補的。
一個提醒
這裡的內容來自 OpenRouter 官方部落格的教學摘要,實際的 request 格式、路由模式的細部比較,仍要回到原文確認。如果你手上正好有客服 bot 在跑,最務實的下一步是先量出現在的 cost per resolved ticket,再決定要不要照這套流程重切一次。
參考來源
本文由 AI 協助自上述來源整理,經人工審核後發布。
