AGENTIC COMMONSAI 產業簡報

繁中EN

標籤AI search出版

返回文章列表

Exa Highlights:用 1/16 的 token 做到同等準確度,agent 搜尋的成本瓶頸有解了?

本頁內容6 個段落
  1. 先讀懂三組數字,再看結論
  2. 運作方式:逐請求現算、不吃快取、100 毫秒內完成
  3. 公開 API 之外:也是 Exa 自家 agent 產品的檢索底層
  4. 採用前該盤點的取捨與限制
  5. 給 builder 的落地建議
  6. 資料來源

摘要: Exa 於 4 月 22 日推出 Highlights,讓 agent 只讀與查詢相關的段落;其自報評測宣稱 SimpleQA 上 500 字元摘錄可追平前 8,000 字元原文,token 少用 16 倍。這些數字未經第三方驗證,定價也未公開,採用前應用自己的查詢集測試。

只要讓 agent 跑過幾輪搜尋,這筆帳遲早浮上檯面:每輪搜尋都把一整頁原封不動灌進 context,真正的答案不過寥寥數句,剩下的盡是導覽列、頁尾和反覆出現的 boilerplate;輪次一旦疊加,token 開銷與 latency 便同步線性攀升。Exa 稱之為 context bloat,並主張這是 agentic search 眼下最該優先解決的難題——4 月 22 日推出的 Highlights 更新,思路就是把「讓 agent 讀整頁」改成「只讀與這次 query 相關的段落」。

先讀懂三組數字,再看結論

Exa 在文中列出三組關鍵數字。動手解讀之前,先確認它們的性質:這些清一色是 Exa 自己報出的評測成績,未經任何第三方檢驗,「部分 evals」從頭到尾沒點明是哪些 benchmark,只能當作廠商說法,不能視為可重製的結論。

宣稱 內容
準確度打平 SimpleQA 上,500 字元的 Highlights 追得上頁面前 8000 字元的準確度
token 用量 這組比較的 token 少用 16 倍;Exa 另聲稱部分 evals 以約 94% 更少 token 得到更高品質結果
預算放大 32k 字元的全文,仍敵不過 4k 字元的 Highlights

三組之中最有分量的是 SimpleQA 那筆:區區 500 字元的摘錄便追平前 8000 字元原文的準確度,token 還少用 16 倍。「約 94%」屬於行銷摘要式的講法,找不到可供對照的基準細節;第三組(4k 勝 32k)則表示就算放寬預算,摘錄依舊佔上風。對 builder 而言,值得記住的是趨勢而非確切數字:壓縮比拉得再高,摘錄品質也沒有崩壞——這才是整篇公告想說的核心。

運作方式:逐請求現算、不吃快取、100 毫秒內完成

Highlights 是 Exa 自行打造的萃取方法(in-house method),用意是從網頁裡挑出與當次 query 最貼近的 excerpts。有三個設計決策值得留意。首先,它每個請求都重新執行、完全不做快取——同一頁面在不同 query 底下會萃出不相同的段落,Exa 寧取相關性而非重用。其次,單次執行不超過 100 毫秒,快到足以嵌進 agent loop 的每一步,等摘要不必以犧牲回應速度為代價。最後,Exa 表示這個模型是多輪研究磨合出來的,探索過各式架構與訓練配方才落定現行做法,並聲稱近來在技術文件(API references、SDK docs)與長文件(specs、research papers)上進展明顯。

差距拉得最開的正是長文件。在長頁面配小 context budget 的對比裡,500 字元這一點上 Highlights 拿 60%、對手方法只有 6%:面對滿紙 boilerplate 的長篇文件,對手幾乎鎖定不了正確段落,Highlights 卻能直接把答案段落推到最前面。多輪搜尋也因此受益最深——每一輪都在省,省下的量再乘上輪數,就是一個量級的落差。

公開 API 之外:也是 Exa 自家 agent 產品的檢索底層

對外的 Highlights API 並非全貌。Exa 自家的 agentic endpoints——/answer、Deep、Websets——底層同樣把 Highlights 當 retrieval substrate 用:這些產品的 agent loop 每迭代一次,讀進來的都是 highlights,而不是未經處理的頁面原文。Exa 更進一步聲稱,旗下 agentic 產品在 latency、cost、quality 三條軸上對競爭系統取得 Pareto dominant——這當然仍是自報宣稱,但邏輯站得住腳:檢索層先把 token 效率做起來,下游產品便自然同時繼承速度與成本兩項優勢,無須靠事後補做的壓縮。

採用前該盤點的取捨與限制

動手導入之前,有四件事得攤開來看。第一,全部數據出自 Exa 自報,沒有第三方背書,「部分 evals」也沒交代是哪些 eval,想套用結論,先用自己手上的查詢集驗一輪。第二,原文對 Highlights 的定價與計費隻字未提,成本模型得自己去弄清楚。第三,生態綁定:Highlights 隸屬 Exa API,走其他搜尋引擎或自建檢索的團隊得不到直接好處,出路只有兩條——換供應商,或自己訓一個類似模型。第四,摘錄必然會丟掉部分上下文,eval 上的 recall 不等於在你 domain 上的實際表現——被摘錄剔除的細節,agent 無從察覺它們缺席。

給 builder 的落地建議

三個馬上能用的判斷。第一,摘錄該被視為 agent 實際閱讀的介面,而非輸出前的妝點:檢索當下就只餵相關段落,比先收全文再過濾便宜整整一個量級,還能把 context window 留給真正的推理。第二,長文件工作負載優先接上——API references、SDK 文件、研究論文正是 60% 對 6% 這個差距現身的地方,也是 token 帳單最傷的位置。第三,人已經在 Exa 生態裡,Highlights 幾乎是零成本升級;人還在生態外,這篇公告起碼留下一個明確的訓練目標:檢索層該學會「為特定 query 抽特定段落」,而不是交回固定長度的頁首。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Exa Podcasts:320 萬集逐字稿進入搜尋索引

    **摘要:** Exa 在 2026 年 10 月 29 日宣布把播客內容納入搜尋索引:320 萬集節目、來自 119,000 個 show,全部附完整逐字稿。對 builder 來說,這代表過去鎖在音檔裡、搜尋引擎讀不到的大量專家發言,現在可以用 API 直接查詢,而且不需額外付費。

    Exa

  2. 把搜尋、檢索和網頁資料的入門知識收進一個資源庫:Exa 的 builder 學習路徑

    Exa 把二十多篇關於搜尋、檢索與網頁資料的指南整理成 Learn 資源庫,讓 builder 能按主題補齊選型與實作知識。

    AI search

  3. Exa reranking:相關性之外,agent 還需要什麼

    Exa 以四項內部評測補足 BEIR、MIRACL 之外的重排名能力,顯示只優化相關性的 reranker 會讓導航與時效查詢結果變差。

    Exa