AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 代理與工作流出版

返回文章列表

AI SDK 7 不只包裝模型 API:Agent 開始需要真正的生產控制

本頁內容7 個段落
  1. 定位轉變:從模型 Adapter 到 Agent Runtime
  2. 控制面:推理設定、Tool Context 與三種審批
  3. 執行面:耐久執行、四層 Timeout 與 Sandbox 抽象
  4. 整合面:一次上傳、MCP Apps、終端機 TUI 與 Harness
  5. 觀測與多模態:生產環境的眼睛和耳朵
  6. Builder 的導入順序
  7. 參考來源

摘要: AI SDK 7 把更新集中在開發與執行 agent、接入 harness、觀測,以及語音和影片,讓權限、恢復與觀測開始有共用 runtime 解法。文章建議先把 approvals、timeout 與 telemetry 做穩,再導入耐久執行,實驗性 harness 與影音能力則等穩定後評估。

模型 API 的介面之爭告一段落之後,agent 真正難做的部分移到了執行控制:一把 API Key 該交到哪個 tool 手上、敏感操作什麼時候必須等真人點頭、跑了很久的任務換了部署要怎麼接著跑、系統出事時證據要上哪裡找。AI SDK 7 針對這一層給出了成體系的答案。

定位轉變:從模型 Adapter 到 Agent Runtime

AI SDK 每週下載量超過 1,600 萬次,扮演的是跨 provider 的 TypeScript SDK 標準層;Vercel 開源的 agent framework「eve」也同樣蓋在這層 SDK 上面——這個事實本身就是訊號:連框架都決定站在 SDK 這層、而非直接綁住某一家 provider,生態的重心顯然已經換了位置。第 7 版的更新集中在五個面向:開發 agent、執行 agent、接入任何 agent harness、觀測 agent,以及把觸角伸到文字之外的語音與影片。這五項排在一起看,定位不言可喻:它已經不是包在模型 API 外面的那層皮,而是各種 agent 共用的 Runtime 介面。對產品團隊來說,這表示執行層的共通難題——權限、恢復、觀測——開始有標準解法,agent 程式碼也不再非得焊死在某一家自己的迴圈裡。

控制面:推理設定、Tool Context 與三種審批

最先統一起來的是推理控制。generateText 與 streamText 新增了 reasoning 選項,一行就對應到 provider 原生設定(例如 reasoning: ‘high’),不用再替每家模型各自維護一份參數寫法。

Tool Context 處理的是權限要切到多細。現在越來越多 tool 由第三方獨立開發,它們會需要 API Key 這種 LLM 給不出來的輸入;新的做法是讓每個 tool 用 schema 宣告自己的 typed context,而且只有宣告的那個 tool 拿得到。第三方 tool 從此翻不到整個 agent 的 context——對把 tool 當產品來經營的團隊,這條邊界正是關鍵。另外還有一個 typed runtime context,在 prepareStep 與 tool approval 期間可讀可改,用來在步驟之間調整 prompt 或模型選擇;不過好用不等於放行,機密資料照樣要守最小權限。

審批提供三種形態:針對特定 tool 的 user-approval、可以自動核准或轉給真人判斷的 per-tool approval function,以及 catch-all。三者都直接定義在 ToolLoopAgent、generateText 與 streamText 上,走同一組執行 API,為了審批不必另學一套呼叫方式。風險更高的場景可以加開 HMAC 簽章的審批,執行前重新驗證 tool inputs 與 policies,核准結果因此無法被偽造。

執行面:耐久執行、四層 Timeout 與 Sandbox 抽象

@ai-sdk/workflow 提供的 WorkflowAgent 把執行做成耐久、可接續的流程:process 重啟、部署、中斷,乃至核准遲遲沒有回來,任務都能從斷點續跑。這裡有條界線得畫清楚——耐久恢復的是流程狀態,副作用不在保證範圍內;寄信、付款這類動作依然要自己設計 idempotency,否則恢復之後可能再執行一次。

Agent 卡住的花樣不少:provider 把 stream 開了卻不再送 chunk、某個 tool 懸在那裡不返回、多步 run 吃爆總預算——只想靠單一 timeout 一定顧不全。第 7 版於是把 timeout 升為一級選項,分 total、per-step、per-chunk、per-tool 四個層級,時間一到就以 TimeoutError 中止。SandboxSession 抽象則把 tool 開發跟 sandbox 的選擇拆開,同一組 tool 配上任何 sandbox provider 都行,Vercel Sandbox 是其中一例;拆開的好處很實際:tool 可以先在本機 sandbox 驗完,再原封搬進雲端 sandbox 跑 production,tool 自己完全不必感覺到差別。

整合面:一次上傳、MCP Apps、終端機 TUI 與 Harness

頂層的 uploadFile 與 uploadSkill 讓檔案和技能只上傳一次,之後憑 provider reference 反覆取用,不必每一輪重傳一遍。MCP Apps 則讓 MCP servers 把 tool 分成 model-visible 與 app-only 兩類,app UI 改在 sandboxed iframes 裡渲染——給模型看的東西跟給人看的介面,總算能各走各的路;在此之前,這類人機介面只能擠在聊天訊息裡湊合,sandboxed iframe 終於給了它一個正式的承載位置。

終端機場景交給 @ai-sdk/tui:用 runAgentTUI 寫個幾行,agent 就能互動式跑起來,reasoning、tools、markdown 都在支援之列。更大的動作是實驗性的 HarnessAgent:用單一 API 驅動 Claude Code、Codex、Pi 這類 agent harness,sandbox、instructions、skills 都能設定,session 支援暫停與恢復。官方既然明講是實驗性,介面後續還有變動空間,採用之前要把這筆調整成本算進去。

觀測與多模態:生產環境的眼睛和耳朵

Telemetry 註冊一次、全域生效:OpenTelemetry(GenAI conventions)之外,Datadog、Langfuse、Sentry 等服務都有現成整合可接。Node.js 端另外提供 ai:telemetry diagnostics channel,model calls、tools、embeddings、reranking 都會發出結構化事件,訂閱一次就能轉成 traces——觀測不再是各應用自己拼 callback 的活。對同時跑多種模型、多種 tool 的 agent 來說,找瓶頸頭一次有同一條時間軸可比對。

多模態兩項功能都明確掛著實驗性的牌子。Realtime 支援瀏覽器 WebSocket sessions,ephemeral tokens 由 server 端建立,provider 涵蓋 OpenAI、Google、xAI,React hook 直接回傳 UIMessage[];generateVideo 已經有 fal、Google AI Studio、Google Vertex、Replicate 的實作。介面統一之後,切換確實變得容易,但各家媒體模型在能力與計價上差距很大,上生產前仍要逐家核對限制。

Builder 的導入順序

升級有工具代勞:npx @ai-sdk/codemod v7 搭配 migration skill,把從 v6 搬過來的機械成本壓得夠低。功能不必一次全開,比較穩的次序是:先把 approvals、timeout、telemetry 這三件事做紮實——它們直接壓低生產風險,事後也最容易驗收:審批攔下了哪些操作、timeout 救回幾次卡死、telemetry 裡哪個 tool 最慢,全都是量得出來的改善。長時間任務接著引入 WorkflowAgent 的耐久執行;harness 整合與語音、影片這些實驗性能力,等它們穩定再來評估。AI SDK 7 的價值從來不在功能清單的長度,而在把 agent 從拼裝腳本升級成有權限邊界、可恢復、可觀測的 runtime——agent 要走向生產,缺的正是這塊地基。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. OpenRouter Agent SDK:自己搭一個 always-on AI agent

    OpenRouter 的 TypeScript 教學示範用 @openrouter/agent 0.11.0 建立排程代理,每次檢查成本不到一分美仙。

    OpenRouter

  2. Vercel Drives 正式可用:Agent 的檔案終於跟著它走

    Vercel Drives 正式推出,讓 agent 的檔案與工作記憶可以跨 sandbox 保存、共享,還能 fork 出隔離的平行工作區。

    Vercel

  3. Vercel Shop:讓 agent 成為一流顧客的店面範本

    Vercel Shop 正式 GA:同一個 Next.js 店面同時服務人類、搜尋引擎與 agent,內建 UCP 與 MCP 購物工具。

    Vercel