**摘要:**Cloudflare 在 2026 年 10 月 15 日分享了他們與 OpenAI 從七月啟動的研究試點成果:用 Cloudflare 網路層的訊號,協助 OpenAI 的搜尋爬蟲發現更多值得索引的頁面。對網站擁有者和內容開發者來說,這代表你的內容有機會被 ChatGPT 找到、正確引用,而且不必承受重複抓取帶來的無謂負載。
為什麼「被找到」比「被優化」更根本
Cloudflare 的文章開宗明義點出問題:如果 AI 系統根本找不到你的網站,再多的 AI SEO 都是白費。你花一週寫的安裝指南、第一手的產品使用心得,可能正是某個提問者需要的答案,但這些頁面往往沒有其他網站連結,傳統搜尋排名機制看不到它們。
在舊的網路邏輯裡,能見度等於搜尋結果第一頁;如今使用者愈來愈依賴 AI 找資料和完成任務,discovery 的定義變了——AI 要能找到對的來源、判斷內容價值,然後用答案、引用或導流把人連過去。這正是我們在 Agent Cloud 與企業代理部署一文裡看到的同一條主線:AI 生態的每一步,都回頭考驗內容和服務怎麼被機器讀取。
試點做了什麼,數字說了什麼
分工很清楚:Cloudflare 提供網路層訊號,幫 OpenAI 的搜尋爬蟲發現更多頁面;OpenAI 則獨立評估和排序這些頁面的相關性與實用程度,形成一個雙向回饋迴圈。參與範圍約占 Cloudflare 整體網路的 1%,但已經讓 OpenAI 索引了數億個過去未知的新網頁,ChatGPT Search 也會連回原始來源。
Cloudflare 補充,這項工作與 OpenAI 的 GPT-6 和 Intelligent UI 是互補關係——找到更多、更新的資訊,讓這些更視覺化、互動式的體驗有東西可呈現。
從找到 URL 到判斷「值不值得抓」
試點過程中得到的一些教訓,對任何做爬蟲或內容發現的團隊都很實用:機器人流量很容易讓不存在的頁面「看起來很有料」——bot 反覆請求不存在的檔案、有些網站幾乎把所有網址重導向首頁、有些則是同一份內容的多份副本。在爬蟲真正抓取之前先識別這些模式,能省下大量浪費的工作,對網站擁有者也是好事。
另外,Cloudflare 正在測試標記潛在有害頁面的訊號。一個正當網站可能只有單一頁面被植入假登入表單;標記那一頁而不是整個網域,既能保護使用者,也不懲罰網站 owner。早期結果顯示這類訊號確實能找出不該進索引的頁面。
站在網站 owner 角度的取捨
抓取頻率是雙面刃:抓太少內容過時,抓太慢浪費頻寬。這個試點的做法是用過濾訊號擋掉不存在或重導向的頁面,用變更訊號判斷何時值得再訪。Cloudflare 也坦承,發現新頁面的初期反而會增加抓取量,目標是維持發現力和時效性的同時降低總工作量——對客戶是減少不必要負載,對 OpenAI 是把搜尋資源花在真正有用的資訊上。
兩個邊界值得注意:關於某頁面的訊號不代表存取授權,而且這項研究只用網頁的 metadata 做搜尋和發現,不會為模型訓練共享頁面內容。想控制 AI 系統怎麼存取自己網站的人,Cloudflare 的 AI Crawl Control 是現有工具。
下一階段會改進頁面選擇、測試更快更可靠的變更訊號,並衡量內容被發現之後實際帶來什麼結果。如果你在乎的正是「內容被 AI 發現後有沒有商業成效」,這部分目前只有方向、還沒有數字,值得持續追蹤。
