Vercel

Vercel Agent Stack 的三個核心:模型路由、耐久工作流與外部連接

Vercel 把 production agent 拆成三層六件套:AI SDK 與 AI Gateway 統一模型層,Workflow SDK 與 Sandbox 處理耐久執行,Vercel Connect 與 Chat SDK 負責資料與平台連接,再由 eve 收攏成單一 framework。本文逐層拆解機制、案例與取捨。

Vercel Agent Stack 的三個核心:模型路由、耐久工作流與外部連接 — 文章封面
本頁內容7 個段落
  1. 三層堆疊:六個產品各就各位
  2. 第一層 Connect to models:AI SDK 與 AI Gateway
  3. 第二層 Execute workflows:Workflow SDK 與 Vercel Sandbox
  4. 第三層 Connect to data and tools:Vercel Connect 與 Chat SDK
  5. eve:把三層收攏成單一目錄
  6. 取捨與 builder 檢查表
  7. 參考來源

Agent demo 的公式很簡單:一個模型、幾個 tools、一個聊天介面。但要上 production,問題清單立刻變長:模型供應商會掛掉、跑到第九步的長任務會斷、不受信任的程式碼要有地方隔離執行,最後 agent 還得接得上 Slack、GitHub 與企業資料系統。

Vercel 在 6 月 17 日發布的 Agent Stack,把這張清單整理成三個核心能力:連接 models、執行多步 workflows、連接 data and tools。官方的定位很直接:它給你建立與上線 production-grade agents 所需的完整 building blocks——不必綁死單一 vendor,也不必自己從零拼一層抽象。

三層堆疊:六個產品各就各位

產品 解決的問題
Connect to models AI SDK、AI Gateway 單一介面呼叫任何 model;單一 endpoint 路由數百個 models
Execute workflows Workflow SDK、Vercel Sandbox 長任務耐久執行;每個 agent 一台隔離 VM
Connect to data and tools Vercel Connect、Chat SDK 短效權限存取內部系統;把 agent 送進使用者所在的 apps

每層恰好兩個產品,這種對稱不是湊數:一層給「介面」,一層給「平台」。AI SDK 是介面,AI Gateway 是平台;Workflow SDK 定義執行,Sandbox 提供運算;Connect 管權限,Chat SDK 管送達。

第一層 Connect to models:AI SDK 與 AI Gateway

AI SDK 給 agent 一個介面呼叫任何 model;AI Gateway 從單一 endpoint 路由數百個 models。官方把 Gateway 稱為「CDN for tokens」:跑在 Vercel 經營超過十年的全球網路上,每次呼叫走同一個 endpoint,provider 故障時自動 failover,並跨所有 provider 追蹤 cost 與 usage。

計價結構值得注意:Gateway 收 provider 原價、零 markup,而且可以用自己的 keys。對多模型架構的團隊,這代表路由層本身不是成本中心,風險只在選錯貴模型。

案例給了具體想像:地產科技公司 SERHANT 用單一 key 跑三個模型——市場分析送 Claude、行銷文案送 GPT、圖像生成送 Gemini。這是模型層抽象最實際的回報:任務導向的路由不必配合任何一家供應商的帳號結構。

不過統一介面不等於不需要路由判斷。便宜模型適合分類,不代表適合高風險決策;Gateway 解決的是連線與切換問題,不能替團隊決定品質標準。

第二層 Execute workflows:Workflow SDK 與 Vercel Sandbox

Workflow SDK 讓 agent runs 變得 durable:每個 job 的每一步都 checkpoint、保存 state、失敗就 retry;需要等人員批准、慢速 API 或 webhook 時可以 pause,之後從最後一個成功的步驟恢復,而不是歸零重跑。對跑數小時的任務,這直接決定模型費用與外部副作用要不要付兩次。

創作平台 FLORA 是官方給的數字案例:他們的 creative agent 建在 Workflow SDK 上,單一 creative session 可以 fan out 超過 50 個 image models,每一步持久化、失敗時重試。

Vercel Sandbox 處理另一半:每個 agent 一台 microVM——完整的 Linux 電腦,有自己的 filesystem、Docker 支援與 kernel,與 host 及其他 sandbox 隔離。安全設計的重點在憑證:credentials 只在 agent 的程式碼呼叫服務時才注入,agent 拿得到服務,但永遠看不到 raw token。官方並稱這是 Vercel 十億次 preview deployments 與每日六百萬次 builds 背後的同一個 primitive——隔離層不是新造的行銷詞,而是既有基礎設施的複用。

要留的老問題是 idempotency:付款、寄信這類外部副作用,workflow 只保存狀態,不能替你去重;retry 前仍要有明確的操作鍵與稽核記錄。

第三層 Connect to data and tools:Vercel Connect 與 Chat SDK

Vercel Connect 是這次更新的最新區塊(public beta):每個系統整合一次,之後 agent 為每個 task 鑄造 short-lived token,scope 只限明確授予的 permissions——有別於傳統的長效寬權限 token。內建支援 Slack、GitHub、Snowflake、Salesforce、Notion 與 Linear,其他服務走 OAuth 或 API 接入。

Chat SDK 解決送達問題:從單一 codebase 把 agent 送進使用者已經所在的 apps。案例是 NanoClaw——一個 agent 跨超過 12 個 channels,對話可以從 Slack 延續到 GitHub 或 Linear,context 不中斷。

這一層的共同主軸是權限的時間維度:token 短效、scope 明確,敏感操作才有可追溯的 audit log。連得愈多,這條線愈重要。

eve:把三層收攏成單一目錄

不想逐層接線的團隊,官方給了 eve:一個 opinionated 的 open-source framework,把 Agent Stack 的三層全部收進單一目錄。

agent/
  agent.ts          # 跑在哪個 model
  instructions.md   # 它是誰
  tools/            # 它能做什麼
  skills/           # 它知道什麼
  subagents/        # 它委派給誰
  channels/         # 它住在哪裡
  schedules/        # 它何時自己行動

durability、sandbox、approvals、delivery 都已在底層接好,團隊只寫 agent 本身:instructions 用 markdown,tools 用 TypeScript。eve 目前同樣是 public beta。

取捨與 builder 檢查表

把六件套放在同一個平台,對已在 Vercel 上的團隊省下大量接線工作;代價是觀測、狀態與部署設定更深地綁進同一環境。對供應商風險敏感的團隊,eve 開源是個對沖:三層的介面至少有可搬移的參考實作。

就算不採用整套產品,Agent Stack 仍是一張值得照著檢查的清單:

  • 模型層:換模型是否只改一行?provider 掛掉有沒有 failover?
  • 執行層:長任務斷在第 N 步,能否從第 N 步恢復?不受信任的程式碼在哪裡跑?
  • 連接層:外部系統的 token 是短效還是長效寬權限?敏感操作能否逐筆稽核?

三層六個問題,答不出來的那一格,就是下一個該投資的缺口。

參考來源

本文由 AI 協助自上述來源整理,經人工審核後發布。

分享X電郵