摘要： 《衛報》於 1 月 2 日報導，Google AI Overviews 在胰臟癌、肝功能檢查、陰道癌與心理健康等查詢上給出錯誤或誤導資訊，多家英國慈善機構警告可能造成實際傷害。Google 回應部分例子是不完整截圖，並稱絕大多數 AI Overviews 準確且與精選摘要相當；文章建議高風險領域採取更保守的檢索與生成策略。
1 月 2 日,英國《衛報》刊出調查報導:Google 搜尋頂端的 AI Overviews 生成摘要,在健康類查詢上給出了錯誤或誤導的資訊;Pancreatic Cancer UK、British Liver Trust、The Eve Appeal、Mind 等慈善機構同聲警告,民眾可能因此暴露在實際傷害之下。
AI Overviews 出包早非新聞;這一回的差別在證據的具體度——每一個錯誤都附有對應的疾病、實際的查詢方式,以及具名專家的背書。對做搜尋、摘要或 RAG 產品的團隊而言,這份清單值得逐條過一遍。
四個具體出錯案例
調查鎖定四類查詢。胰臟癌:摘要建議患者避開高脂食物,Pancreatic Cancer UK 的 Anna Jewell 直批「完全錯誤」——胰臟癌患者反而需要足夠的熱量攝取,這種錯誤建議可能讓他們在化療或手術前掉體重,危及治療本身。
肝功能血液檢查:摘要拋出一串「正常範圍」數字,年齡、性別等背景脈絡卻一概闕如。British Liver Trust 執行長 Pamela Healy 警告,無症狀的嚴重肝病患者可能因此誤判自己一切正常,從而跳過後續追蹤。
陰道癌:摘要把子宮頸抹片(pap test)列為診斷工具——事實並非如此。The Eve Appeal 執行長 Athena Lamnisos 指出,女性可能在抹片結果正常後輕忽症狀、延誤就醫;她還觀察到,同一個查詢每重跑一次,答案就換一個版本。
心理健康:精神病與飲食障礙相關查詢的摘要,被 Mind 的 Stephen Buckley 形容為夾帶「非常危險的建議」,可能讓人不敢踏進診間,或加深污名化的偏見。
Google 的回應
面對衛報查證,Google 發言人表示報導中的許多例子屬「不完整的截圖」,實際的 AI Overviews 均連向可靠來源;「絕大多數」AI Overviews 是準確的,正確率與既有的精選摘要相當;系統漏抓脈絡時,會依政策處置。
這份回應經不起細看:「與精選摘要相當」等於把新產品的正確率錨在一個本身就有爭議的基準上;「截圖不完整」的辯詞反而坐實了問題——使用者看到的就是畫面上那段文字,不會先點開來源、再決定要不要相信。
從 2024 年就存在的老問題
AI Overviews 於 2024 年 5 月隨 Google I/O 在美國全面推出,僅僅三週後 Google 便發過「關於上週」一文回應正確率爭議;同年 10 月擴展到 100 多國、每月超過 10 億使用者;2025 年 5 月再鋪到 200 多個國家與地區。規模一路翻倍放大,健康資訊正確性的結構性毛病卻從第一天起就在原地。
Patient Information Forum 的 Sophie Randall 與 Marie Curie 數位長 Stephanie Parker 把問題的核心場景點了出來:「人們是在焦慮與危急的時刻轉向網路。」在這個情境下,答案自帶的權威外觀,本身就是風險的放大器。
對搜尋與摘要產品的啟示
第一,非確定性在關鍵場景等於不可用。同一查詢每次給不同答案,在醫療情境就是缺陷;快取與答案穩定化應該寫進基本需求。第二,出處必須當成一級介面。生成摘要移除了點擊的摩擦,也一併移除了使用者交叉查證的動機;來源連結不能只是灰色小字的附註。第三,高風險域需要分級管線。醫療、法律、財務查詢應該走更保守的檢索與生成策略——更強的 grounding、更低的生成自由度——而不是與一般查詢共用同一組參數。AI Overviews 每月觸及數以億計的使用者,它的錯誤樣態,就是所有摘要產品現成的免費教材。