AGENTIC COMMONSAI 產業簡報

繁中EN

標籤Cloudflare出版 2026-10-17

返回文章列表Cloudflare

Cloudflare 與 OpenAI 搜尋試點:讓 AI 找到你的頁面

**摘要:**Cloudflare 在 2026 年 10 月 15 日分享了他們與 OpenAI 從七月啟動的研究試點成果:用 Cloudflare 網路層的訊號,協助 OpenAI 的搜尋爬蟲發現更多值得索引的頁面。對網站擁有者和內容開發者來說,這代表你的內容有機會被 ChatGPT 找到、正確引用,而且不必承受重複抓取帶來的無謂負載。

為什麼「被找到」比「被優化」更根本

Cloudflare 的文章開宗明義點出問題:如果 AI 系統根本找不到你的網站,再多的 AI SEO 都是白費。你花一週寫的安裝指南、第一手的產品使用心得,可能正是某個提問者需要的答案,但這些頁面往往沒有其他網站連結,傳統搜尋排名機制看不到它們。

在舊的網路邏輯裡,能見度等於搜尋結果第一頁;如今使用者愈來愈依賴 AI 找資料和完成任務,discovery 的定義變了——AI 要能找到對的來源、判斷內容價值,然後用答案、引用或導流把人連過去。這正是我們在 Agent Cloud 與企業代理部署一文裡看到的同一條主線:AI 生態的每一步,都回頭考驗內容和服務怎麼被機器讀取。

試點做了什麼,數字說了什麼

分工很清楚:Cloudflare 提供網路層訊號,幫 OpenAI 的搜尋爬蟲發現更多頁面;OpenAI 則獨立評估和排序這些頁面的相關性與實用程度,形成一個雙向回饋迴圈。參與範圍約占 Cloudflare 整體網路的 1%,但已經讓 OpenAI 索引了數億個過去未知的新網頁,ChatGPT Search 也會連回原始來源。

Cloudflare 補充,這項工作與 OpenAI 的 GPT-6 和 Intelligent UI 是互補關係——找到更多、更新的資訊,讓這些更視覺化、互動式的體驗有東西可呈現。

從找到 URL 到判斷「值不值得抓」

試點過程中得到的一些教訓,對任何做爬蟲或內容發現的團隊都很實用:機器人流量很容易讓不存在的頁面「看起來很有料」——bot 反覆請求不存在的檔案、有些網站幾乎把所有網址重導向首頁、有些則是同一份內容的多份副本。在爬蟲真正抓取之前先識別這些模式,能省下大量浪費的工作,對網站擁有者也是好事。

另外,Cloudflare 正在測試標記潛在有害頁面的訊號。一個正當網站可能只有單一頁面被植入假登入表單;標記那一頁而不是整個網域,既能保護使用者,也不懲罰網站 owner。早期結果顯示這類訊號確實能找出不該進索引的頁面。

站在網站 owner 角度的取捨

抓取頻率是雙面刃:抓太少內容過時,抓太慢浪費頻寬。這個試點的做法是用過濾訊號擋掉不存在或重導向的頁面,用變更訊號判斷何時值得再訪。Cloudflare 也坦承,發現新頁面的初期反而會增加抓取量,目標是維持發現力和時效性的同時降低總工作量——對客戶是減少不必要負載,對 OpenAI 是把搜尋資源花在真正有用的資訊上。

兩個邊界值得注意:關於某頁面的訊號不代表存取授權,而且這項研究只用網頁的 metadata 做搜尋和發現,不會為模型訓練共享頁面內容。想控制 AI 系統怎麼存取自己網站的人,Cloudflare 的 AI Crawl Control 是現有工具。

下一階段會改進頁面選擇、測試更快更可靠的變更訊號,並衡量內容被發現之後實際帶來什麼結果。如果你在乎的正是「內容被 AI 發現後有沒有商業成效」,這部分目前只有方向、還沒有數字,值得持續追蹤。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. BotBase for Operators:讓網站主與機器人營運者不再互相猜測

    Cloudflare 推出 BotBase for Operators,把機器人提交流程從黑箱變成透明可追蹤的儀表板,並用新的行為與內容使用分類法加速審核。

    AI Agents

  2. Cloudflare 給 Verified bots 加上持續問責

    Cloudflare 新系統持續評估 Verified bots 是否尊重 robots.txt 與 429 訊號,讓信任以行為累積而非身分一次認證。

    Cloudflare

  3. 讓搜尋爬蟲進來、訓練爬蟲出去:Cloudflare 把混合用途爬蟲拆成三種行為

    Cloudflare 推出 Disallow AI Training,讓站長在保留搜尋收錄的同時拒絕 AI 訓練,並把爬蟲控制拆成 Search、Training、Agent 三類。

    Cloudflare