摘要： Perplexity 在 2026 年 2 月 26 日開源 pplx-embed 家族，標準與語境檢索兩條產品線各提供 0.6B 與 4B 權重。模型採擴散預訓練和雙向注意力，並以 10 億個生產網頁驗證，讓 RAG 團隊多一條自架路線，但實際成績仍會隨任務與部署成本取捨而變化。
2026 年 2 月 26 日，Perplexity 在自家研究部落格上公開了 pplx-embed 家族：pplx-embed-v1 與 pplx-embed-context-v1 兩條產品線，各自供應 0.6B 及 4B 兩種規格的權重，全數上架 Hugging Face。方法細節寫在配套論文《Diffusion-Pretrained Dense and Contextual Embeddings》（arXiv 2602.11151，2 月 11 日先行提交）裡。手上負責檢索或 RAG 的團隊，從此多了一個不必綁在大型科技商商用 API 上的選擇——一組能自行部署、又標榜經網頁規模實戰檢驗的開放模型。
分數之外，還有一層背景值得放在眼裡。Perplexity 的日常業務是消化海量真實查詢，嵌入模型正是其搜尋管線裡的關鍵零組件。換句話說，這批模型先在自家生產環境裡鍛造，之後才對外釋出；它們接受考驗的舞台，是十億等級的生產網頁，而不只是學術基準測試。
四個開放權重，分屬兩條產品線
pplx-embed-v1 扮演標準檢索模型的角色，服務對象是查詢與獨立成篇的文字；pplx-embed-context-v1 則瞄準 RAG 管線裡的文件區塊——它把所屬文件的全域語境，融進每個段落的表徵之中。兩條線都釋出 0.6B 與 4B 版本，Hugging Face 收藏頁另外列出一個名為 pplx-embed-v1-late-0.6b 的變體。周邊整合也已備妥：LangChain 與 LiteLLM 皆可直接呼叫，Perplexity API 的 embeddings 端點供應的也是同一批模型——想自架、想走託管，兩條路都通。
擴散式預訓練如何帶出雙向注意力
撐起整個設計的是兩項技術決策。其一，骨幹採用擴散預訓練的語言模型：訓練時要求它從摻入雜訊、殘缺破碎的輸入裡重建語意，面對網路上一團混亂的文字，本質上就更加穩健；而且這類預訓練會自然導出雙向注意力——序列中任一 token 的表徵都能綜覽前後全文，mean pooling 因此成立，晚期分塊（late chunking）策略也獲得支援，長文件的全域語境不會在切塊的那一刀被斷開。骨幹基於 Qwen3、由因果解碼器改造為雙向注意力一節，出自 MarkTechPost 的報導。其二，多階段對比學習負責把這副骨幹雕琢成檢索模型。兩項決策相加，便是「網頁級」這個詞背後的技術底氣。
非對稱設計與成績單
pplx-embed 走的是非對稱路線：查詢端與文件端各配一個專屬模型，分頭應付短查詢對上長區塊的天生不對稱，再將兩者對齊到同一個共享向量空間。成績方面，pplx-embed-v1 在 MTEB（Multilingual v2）、MTEB（Code）、MIRACL、BERGEN 與 ToolRet 等測試集上都有競爭力；pplx-embed-context-v1 則在專測語境式檢索的 ConTEB 基準上改寫紀錄。更貼近現實的檢驗發生在內部：團隊以 10 億個生產網頁組出評測套件，並在動輒涉及數千萬文件的真實搜尋情境中完成驗證。
成本工程的三段設計：INT8、二值化、Matryoshka
在成本這一環，官方給了三個可分別調整的段落。模型的原生輸出即為 INT8 量化、未經正規化的嵌入，比對時官方建議採用餘弦相似度；往上一層可選二值化量化，最高可讓儲存與記憶體省下 32 倍；再搭配 Matryoshka Representation Learning，向量可裁切至較少維度，以一點點性能損失換取更低成本。當系統要索引的對象是整個網域、或數千萬份文件，帳單金額便由這三個開關直接拍板——畢竟檢索系統的開銷通常堵在向量儲存與比對這一關，生成端反而不是瓶頸。