摘要: OpenRouter 在 2026 年 10 月 2 日發表客服機器人的 cheap-first 路由教學,建議例行問題先交給便宜的小模型,只把困難或不確定請求升級到更強模型。文章區分應用端負責的升級判斷與 OpenRouter Auto Router 和 model fallbacks 處理的下游選擇,並建議追蹤 escalation rate 和 cost per resolved ticket。本文依據官方教學摘要整理,實際 request 細節仍需回到原教學確認。
客服機器人最貴的地方不是接不上模型,而是把每一句「我要怎麼改地址」都丟給最強的模型。OpenRouter 在 2026 年 10 月 2 日發表的教學《Model Routing for Support Bots: Cheap-First FAQ Handling》(見 OpenRouter Blog 的 Tutorials 專區),就是針對這個問題給出一套可直接照做的流程。
cheap-first 的分工界線
這份教學的核心是 cheap-first 路由:例行問題交給小型、便宜的模型,只有困難或不確定的請求才升級到更強的模型。根據教學摘要,它把三種應用端路由模式做了比較,並劃清一條界線——哪些責任由你的應用程式自己承擔,哪些交給 OpenRouter 的 Auto Router 和 model fallbacks 機制處理。
這條界線對 builder 很實際。如果你不知道 Auto Router 已經幫你處理了什麼,很容易在應用層重複實作一套路由邏輯;反過來,如果把升級判斷全交給平台,你就失去對「什麼樣的票要升級」的控制權。教學用一份可複製的 request 示範了支援流程怎麼接,等於把決策點攤開給你看。
兩個值得盯著看的指標
摘要中特別提到如何測量 escalation rate(升級率)和 cost per resolved ticket(每張解決票的成本)。這兩個數字合起來,才是 cheap-first 是否省錢的完整答案:升級率太低,可能代表難題被便宜模型硬撐著答錯;升級率太高,等於回到全走貴模型的老路。
之前我在 Ringg 用模型路由省下九成成本 那篇也提過類似的結構——把客服從「接電話」拆成「完成業務」,再按業務難度分配模型。OpenRouter 這份教學補上的,是應用端的實作細節和量測方法,兩者讀起來剛好是互補的。
一個提醒
這裡的內容來自 OpenRouter 官方部落格的教學摘要,實際的 request 格式、路由模式的細部比較,仍要回到原文確認。如果你手上正好有客服 bot 在跑,最務實的下一步是先量出現在的 cost per resolved ticket,再決定要不要照這套流程重切一次。
我們的看法: 已有客服機器人的團隊可以先建立每張解決票成本和升級率的基線,再小範圍考慮低價模型優先;沒有可衡量的客服流程的團隊可以暫時略過。摘要提到三種應用端路由模式,卻沒有模型價格、解決率或實際節省數字,因此不能推定改造會省錢。假設升級判斷可靠,例行問題先用便宜模型才有機會降低成本;若漏掉難題,較低的升級率也可能掩蓋錯誤。要擴大使用,需要確認原教學的請求細節,並取得自家解決品質與成本的對照結果。
