2025年5月31日，NPR發出一則基於Meta內部文件的報導，由記者Bobby Allyn與Shannon Bond署名：這家全球最大社群平台公司計畫把產品風險審查大幅交給AI處理，最高90%的隱私與完整性風險評估將由AI系統自動化完成，不再經過人工團隊逐案把關。TechCrunch同日跟進證實了這項變動。
多年來，Meta每當要為Instagram、WhatsApp與Facebook推出新功能，都會由內部所謂「隱私與完整性審查」的團隊先行評估。這項變更是否侵害用戶隱私、是否可能傷害未成年人、是否會加劇錯誤或有害內容的擴散。這套流程過去幾乎完全由人類評估者執行，如今即將被問卷加AI即時決策的組合取代。對每天發布更新的產品團隊來說，這是速度的勝利；對在乎平台把關的人來說，這是一場高風險的實驗。
內部文件揭露：九成審查走向自動化
依NPR取得的文件，Meta內部預期最高90%的風險評估很快就會自動化。實際受到影響的項目，包括Meta演算法的重大更新、新增的安全功能，以及內容在公司旗下平台之間如何被分享的規則調整。這些過去都需要人工團隊逐項討論潛在後果的變更，未來大多改由AI系統審批。NPR的結論很直接：像演算法關鍵更新與安全調整這類敏感變更，將不再接受專責員工的細緻檢視，而是由一個AI驅動的系統批准。值得注意的是，這套自動化不只涵蓋邊緣功能：文件所指的範圍包括演算法的重大更新、安全功能的調整，以及內容分享規則的修改，這些都是過去最需要人類反覆推演後果的敏感變更。把這些項目整批交給模型判讀，等於把平台最核心的風險決策，交給了問卷與演算法的組合。
問卷加即時決策的運作方式
TechCrunch整理的新制運作方式是：產品團隊在發布更新前填寫問卷，AI系統在多數情況下會直接給出「即時決策」，標記AI辨識到的風險，並附上上線前必須滿足的條件。換句話說，判斷一項產品變更是否帶有隱私或社會風險的依據，從人類之間的反覆辯論，變成團隊自己填寫的答案加模型的判讀。發布速度可以明顯加快，但整個機制的品質取決於兩個環節：問卷怎麼設計，以及模型能否正確判讀答案背後的風險。兩者任何一個失準，系統就會以穩定的高效率放行有問題的變更。
員工與前主管的疑慮
NPR訪談的現任與前任員工擔心，這波自動化等於把AI推上最困難判斷的第一線：一個平台變更可能在真實世界造成哪些非預期後果、可能如何被濫用，過去靠人力反覆推演，現在由系統快速放行。有前主管直言，如果流程實際上變成「更多東西以更快速度上線、更少嚴格審視與反對意見」，風險就會隨之升高。在Meta內部，這項變動被視為產品開發團隊的勝利，發布節奏不再被審查隊伍卡住；但把關功能的弱化，正是許多員工不安的來源。更麻煩的是，問卷制的成敗繫於填答者：產品團隊自己描述風險，系統依答案判斷，一旦描述失真或漏填，審查就有被繞過的空間。這也是受訪員工認為新制難以取代人類討論的主因之一。
監管背景與Meta的回應
這套人工審查制度有其法律淵源。NPR與TechCrunch都提到，Meta在2012年與美國聯邦貿易委員會（FTC）達成和解令，隱私審查是其中的義務，這也是這次變動格外敏感的原因。Meta對外的回應是：公司已在隱私計畫上投入超過80億美元，而且自動化之後，新型態或複雜的議題仍會交由人類處理。換言之，Meta的立場是AI處理常規案件、人類處理例外案件；批評者的疑問在於，這條界線由誰認定，而認定界線的，正是那個用問卷與模型組成的自動化系統本身。
對開發者與產品團隊的啟示
對在大型平台上開發、發布產品的人來說，這則新聞有兩個值得記下的訊號。第一，平台的合規與風險判斷正在被塞進自動化管線，發布節奏會更快，但決策邏輯也更不透明，遇到問題時更難追溯到具體的把關環節。第二，風險審查的品質越來越取決於上游設計：問卷的題目、模型的判讀標準，取代了過去的人類辯論。回頭看2025年5月底這個時間點，Meta的做法成為大型平台把AI導入內部治理流程的代表性案例；做產品決策時，它是討論「審查自動化可以走多遠」時最常被引用的例子之一。
參考來源
- NPR：Meta plans to replace humans with AI to assess risks
- TechCrunch：Meta plans to automate many of its product risk assessments
本文由 AI 協助自上述來源整理，經人工審核後發布。