AGENTIC COMMONSAI 產業簡報

繁中EN

標籤AI search出版

返回文章列表

ChatGPT 引用 Grokipedia:當 AI 開始引用 AI 生成的百科

摘要: 《衛報》2026 年 1 月 24 日刊出的實測發現,GPT-5.2 回答超過十二個問題時共引用 xAI 的 Grokipedia 九次。引用集中在冷門長尾主題,部分內容重複了《衛報》已查證推翻的說法。OpenAI 表示網頁搜尋希望廣納公開來源,並有安全過濾與低可信度來源處理機制。

《衛報》記者 Aisha Down 親手做了一輪實測,結果於 2026 年 1 月 24 日見報:OpenAI 最新的 GPT-5.2 回答超過十二道不同問題時,過程中總計把 xAI 旗下 AI 生成百科 Grokipedia 引用了九次。TechCrunch 隔日接力跟進,並給出自己的詮釋:Grokipedia 的內容正在「逃離」馬斯克生態系。

真正值得注意的是引完之後生出了什麼,而不是「引到對手的產品」這件事本身:某些主題上,GPT-5.2 的講法比 Wikipedia 更強,連《衛報》先前已經查證推翻的細節也照樣複述。聊天機器人一旦把 AI 生成的百科拿來當來源,來源品質就不只是一家模型的問題,而是整個資訊檢索生態要共同面對的問題。GPT-5.2 是 OpenAI 開年加快模型節奏之後交出的旗艦,背景見〈2026 開年觀察〉。

這次測試實際查到什麼

測試裡被引用的題目清一色冷門:伊朗的政治結構(Basij 民兵的薪資、Mostazafan 基金會歸誰所有),以及英國歷史學家 Richard Evans 的生平——他曾在對上大屠殺否認者 David Irving 的訴訟裡擔任專家證人。談到 MTN-Irancell 與伊朗最高領袖辦公室的關係時,ChatGPT 引用 Grokipedia 之後,給出了比 Wikipedia 更強的主張;至於 Evans 的庭審工作細節,模型複述的正是《衛報》2025 年 11 月已查證推翻的說法。

另一個細節同樣值得點出:在爭議熱區——1 月 6 日國會山莊事件、媒體偏袒川普的指控、HIV/AIDS——ChatGPT 反倒一次也沒引 Grokipedia。引用全部落在長尾冷門主題,而那裡正是安全過濾與人工審查最難顧到的角落。

Grokipedia:條目由 AI 撰寫,修訂也交給 AI

Grokipedia 在 2025 年 10 月由 xAI 推出,導火線是馬斯克批評 Wikipedia 對保守派抱持偏見。這套百科全程沒有人類直接編輯:條目出自 AI 筆下,連修改請求都由 AI 接手。上線至今,外界的批評從未間斷:The Verge 查到不少條目根本是照搬 Wikipedia;WIRED 則報導,條目裡出現了「色情內容導致愛滋危機」的說法、對奴隸制的「意識形態辯護」,以及貶低跨性別者的用語。

現象不止於 ChatGPT

TechCrunch 觀察到,Anthropic 的 Claude 碰上某些查詢時,看來同樣會引用 Grokipedia;《衛報》舉的例子包含石油產量與蘇格蘭啤酒。兩家被點名公司的回應,對比十分鮮明。OpenAI 說明,其網頁搜尋「旨在從廣泛的公開來源與觀點取材」,配有安全過濾器、看得到的引用,以及處理低可信度來源的機制;xAI 發言人答覆《衛報》時,只留下一句:「Legacy media lies.」(傳統媒體說謊。)

這對 AI 搜尋產品代表什麼

研究圈替這類風險起了名字:「LLM grooming」——惡意行為者(俄羅斯宣傳網路也在其列)預先把不實資訊埋進模型遲早會抓取的內容。研究員 Nina Jankowicz 的警告更具體:她檢視過的 Grokipedia 條目,引用來源「往好處說是不可信,往壞處說是刻意的不實資訊」;一旦獲得大型聊天機器人引用,這些來源在讀者眼中便顯得正當。她本人的遭遇更難堪:一段遭人捏造、栽到她名下的引言,連原發媒體都已下架,AI 的輸出卻還持續引用。

做搜尋與 RAG 產品的團隊,至少該記住三件事。其一,「有引用」不等於「有依據」:檢索與排序必須替來源分層,不能把抓得到的網頁一律同看待。其二,長尾查詢是評測的死角:安全機制若只拿熱點議題檢驗,永遠測不到真正出問題的位置。其三,AI 生成的內容正回頭成為其他 AI 的輸入——來源溯源(provenance)必須當作產品功能來設計,而不是預設網路上找得到的都算資料。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Cloudflare 與 OpenAI 搜尋試點:讓 AI 找到你的頁面

    Cloudflare 網路訊號讓 OpenAI 搜尋爬蟲多索引了數億個新頁面,同時降低網站不必要的抓取負載。

    Cloudflare

  2. 讓長輩用 AI 查帳單、辨詐騙:OpenAI 與 OATS 的十場實體課透露了什麼

    OpenAI 與 OATS 在美國十個社區開設長者 AI 實體課,教 ChatGPT 查帳單與辨識詐騙,也揭示產品設計的門檻。

    OpenAI

  3. 從教室到新聞室:OpenAI 用 400 個 ChatGPT Edu 授權把 AI 素養推進新聞教育

    OpenAI 與 CUNY Newmark J-School、Northwestern Medill 合作,提供超過 400 個 ChatGPT Edu 訂閱,並擴展 AJP、Lenfest、WAN-IFRA、INMA 等新聞生態系支援。對產品開發者而言,這代表新聞業的 AI 工作流程將從上游開始標準化。

    OpenAI