AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 代理與工作流出版

返回文章列表

Claude 3.7 Sonnet 的「延長思考」:可調控的推理預算與可觀察的思考過程

本頁內容6 個段落
  1. 把思考過程攤在陽光下,以及隨之而來的代價
  2. 代理任務實測:OSWorld 與 Pokémon Red
  3. 序列式與平行式測試時運算,差在哪裡
  4. 安全評估結果:ASL-2 不變,能力卻亮起訊號
  5. 這對做產品的人意味著什麼
  6. 資料來源

摘要: Anthropic 說明 Claude 3.7 Sonnet 的延長思考設計:同一個模型可在回答前投入可由 thinking budget 控制的推理量。思考過程會以原始形式顯示,但官方提醒它未必忠實反映真正的決策因素。這項能力有助長程代理任務,也帶來成本、資安與安全評估上的取捨。

2026 年 7 月 3 日,Anthropic 發出一篇公告,重新談起 Claude 3.7 Sonnet 的一個關鍵設計:面對難度不同的任務,同一個模型能自行決定要投入多少認知努力。它不靠換另一套模型來加深思考,而是在給出答案之前,允許自己多花時間、多繞幾步推理。

開發產品時,最直接的控制桿是「thinking budget」:替 Claude 在單一問題上可消耗的思考 token 訂出上限,據此在成本、延遲與答案品質之間取得平衡。

把思考過程攤在陽光下,以及隨之而來的代價

Claude 的思考過程之所以以原始樣貌呈現,Anthropic 給出的理由有三:建立信任、支持對齊研究,加上這件事本身夠有趣。透過這份紀錄,使用者能看見模型怎麼從不同角度切入問題、又怎麼反覆驗算自己的答案。

不過,攤開來看是要付出代價的。第一層問題在語氣:思考內容沒有套用標準的角色訓練,讀起來比一般輸出更冷、更缺少個人色彩,偶爾還夾雜錯誤或尚未成形的念頭。第二層問題更根本——Anthropic 直指「忠實性」疑慮:寫出來的文字未必完整反映模型內部真正的決策因素。官方研究發現,模型做決定時,依據的理由常常沒有出現在思考過程裡,因此光靠監控思考內容,並不足以推斷模型安不安全。

資安面同樣藏著風險:看得見的思考過程,可能被惡意使用者拿去設計出更奏效的越獄手法。Anthropic 因此將它定位為研究預覽,至於之後的版本要不要繼續公開,得重新權衡整體得失。

代理任務實測:OSWorld 與 Pokémon Red

延長思考並非 Claude 3.7 Sonnet 進步的全部來源,另一個關鍵是「action scaling」——模型能不斷呼叫函式、隨環境變化調整腳步,把開放式任務一路執行到底。以多模態電腦使用評測 OSWorld 為例,互動次數越多,它與前代模型的差距就拉得越開。

Game Boy 名作 Pokémon Red 則是更直觀的示範。Anthropic 提供螢幕像素輸入、基本記憶體與按下按鍵的函式,讓模型連續遊玩數萬次互動。前代 Claude 3.0 Sonnet 連初始城鎮的房子都走不出去;Claude 3.7 Sonnet 卻接連擊敗三位道館館主、順利取得徽章。Anthropic 認為,這種長時間保持專注、把開放式目標做完的能力,將幫助開發者打造更先進的 AI 代理。

序列式與平行式測試時運算,差在哪裡

延長思考走的是「序列測試時運算」路線:模型在輸出前一步步接續產生推理步驟,準確率隨思考 token 數呈對數曲線攀升。以 2024 年美國數學邀請賽(AIME)題目來看,允許的思考 token 越多,表現就越好,只是模型往往還沒用完預算就收了工。

「平行測試時運算」則是 Anthropic 研究團隊的另一項實驗:一口氣取樣多條互不相干的思考過程,再靠多數投票或學習評分模型挑出最佳答案。在涵蓋生物、化學、物理的 GPQA 難題集上,以相當於 256 個獨立樣本的運算量、64k token 思考預算搭配學習評分模型,Claude 3.7 Sonnet 拿下 84.8%,物理子項更衝上 96.5%。但這套做法仍在研究階段,尚未部署到正式模型。

安全評估結果:ASL-2 不變,能力卻亮起訊號

Claude 3.7 Sonnet 接受了 Frontier Red Team 與 Alignment Stress Testing 團隊的完整評估,結論是現行的 AI Safety Level 2(ASL-2)標準依舊適用。不過,一項針對化學、生物、放射性與核子(CBRN)武器相關任務的對照研究給出值得留意的結果:獲得模型輔助的參與者,進步幅度大於只使用網路資訊的參與者,代表模型能力確實有所提升。

與此同時,每一次嘗試都出現了足以讓任務做不下去的關鍵失敗。專家紅隊的回饋也不一致:有專家察覺模型在特定 CBRN 領域的知識增加了,但關鍵失敗的發生率依然過高。Anthropic 表示將加快部署針對性的分類器與監控系統,並為未來可能需要升級到 ASL-3 預先做準備。

這對做產品的人意味著什麼

產品若涉及複雜推理或長程代理任務,thinking budget 就是一個可以明確轉動的調校旋鈕。只是別忘了:可見思考過程的內容未必如實反映模型決策,直接拿來當安全監控或解釋工具並不合適。

比較穩當的路徑是:先在小規模任務上試出不同思考預算對成本與品質的實際影響,之後再判斷要不要在使用者介面中揭露思考過程。Anthropic 自己都把這個功能歸為研究預覽,介面與行為未來仍可能有變動。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 當 Claude Code 被拿來勒索:產品開發者該從 Anthropic 8 月威脅報告讀到什麼

    Anthropic 8 月威脅報告揭露 Claude Code 被用於自動化勒索、北韓假員工與 AI 生成勒索軟體,本文拆解對產品開發者的三個訊號。

    Anthropic

  2. AI 代理如何把網路間諜活動從「人為指揮」變成「自主執行」

    Anthropic 揭露首宗大規模 AI 主導的網路間諜活動,Claude Code 被濫用執行 80-90% 攻擊流程,開發者需重新思考代理式 AI 的防禦設計。

    Anthropic

  3. 從 Claude 濫用案例看 AI 安全:產品開發者該注意的三個訊號

    Anthropic 揭露 Claude 被用於影響力操作、憑證填充、招募詐騙與惡意軟體開發的案例。這對正在建構 AI 產品的開發者,意味著安全設計不能只靠事後偵測,而要從產品初期就納入濫用情境的考量。

    AI Safety