AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

UNICEF 呼籲各國將 AI 生成兒童性虐待內容全面入罪

摘要: UNICEF 在2026年2月4日呼籲各國把 AI 生成或變造的兒童性化影像納入 CSAM 法律定義,並對製作、取得、持有與散布全面課刑。報告引用11國調查,過去一年至少120萬名兒童的影像遭加工成性暗示深偽。聲明也要求開發者採安全設計、平台主動阻斷流通,把防護從事後移除推向前端。

「Deepfake abuse is abuse」——深偽虐待就是虐待。UNICEF 於 2026 年 2 月 4 日在紐約發布的聲明,正是以這句話為題。聲明要求各國政府擴大兒童性虐待素材(CSAM)的法律定義,把 AI 生成影像一併納入,且這類影像的製作、取得、持有與散布,每一項都要負上刑責。Reuters 隨即跟進報導;2 月 10 日 Safer Internet Day 當天,UNICEF 美國分會也在 Forbes 撰文,再度傳達同一項訊息。

這次並非常態性的倡議發聲,支撐它的是迄今為止針對兒童族群規模最大的一批調查證據:過去一年內,至少 120 萬名孩子表示,自己的影像遭人加工成性暗示深偽。對 AI 產業來說,這份聲明將平台的責任邊界從「事後移除」推前到「事前阻斷」,而它瞄準的靶心,正是影像生成模型的防護設計。

120 萬這個數字是怎麼得出的

數字背後的研究計畫名為 Disrupting Harm Phase 2,由 UNICEF Innocenti 辦公室攜手 ECPAT International 與 INTERPOL 共同執行,資金來自 Safe Online。研究遍及 11 個國家,每一國約訪問 1,000 名 12 至 17 歲、有上網經驗的兒童,再加上約 1,000 名照顧者;各國樣本覆蓋率介於 91% 至 100%,推估時以聯合國 2024 年人口數據加權。

調查中有三個數字值得記住。第一,過去一年至少 120 萬名孩子透露,自己的影像被製成了性暗示深偽。第二,換算到部分國家的情境,等於每 25 名孩子就有 1 名遇到這種事——借用 UNICEF 的比喻,即一間教室裡的那一位。第三,若干國家多達三分之二的兒童表示,擔心 AI 被用來偽造自己的性影像;各國報告自 2026 年起將陸續公布。

聲明點名三方:政府、開發者、平台

這份聲明把責任分派給三個對象。政府:將 CSAM 定義擴及 AI 生成內容,製作、取得、持有、散布一律入罪——連「持有」都納入課責,比現行多數法律設下的門檻更嚴。AI 開發者:落實 safety-by-design,直接在模型層把防護欄建好,讓工具無從被用於生成虐待內容。數位公司:別再坐等通報才行動,要主動截斷內容流通,同步投資偵測技術,使內容即刻下架,而非拖到受害者通報後好幾天。

至於配套文件,可見 2025 年 12 月更新的《Guidance on AI and Children 3.0》,外加一份議題簡報——該簡報將生成式工具的擴散定性為兒童線上風險的「重大升級」。

定義之爭:堵死「反正不是真的」這條路

整份聲明裡,定義上分量最重的是這一句:「以 AI 工具生成或變造的兒童性化影像,就是兒童性虐待素材。」一句話,法律上的灰色地帶從此封死:以往只要影像被歸為合成,加害者與平台便能主張世上沒有真實受害者。UNICEF 的態度毫不拐彎:傷害不會因為像素的出處而打折——「深偽虐待就是虐待,它造成的傷害沒有一分是假的」。

「nudification」工具同樣被聲明點名:這類應用利用 AI 剝掉或竄改照片中的衣著,製造假的裸體影像;進入門檻低、擴散速度又快,正是 120 萬這個數字背後的主要技術載體。聲明留給立法者的最後一句話是:「孩子等不起法律追上來。」

開發者與產品團隊該解讀的訊號

手上做影像生成或影像編輯產品的人,應把這份聲明視為監管方向的事前預告。安全設計不再只是模型卡上的一句承諾,而將成為各國可能寫進刑法的義務:在輸入端,凡以真實兒童照片為底、要求進行變造的請求,都必須攔下;在輸出端,模型產出的媒體必須可偵測、可溯源。而「主動偵測」的訴求,則會把分類器與水印從加分選項搬進基礎建設——這也是2026 年開局展望預期的安全與監管主軸之一。

更貼身的變化,在於責任歸屬的位移。「事隔數天才移除」一旦被公開定調為不可接受,審核 SLA、安全管線與模型防護都會被架在放大鏡下檢視。趁現在就把兒童防護情境納入紅隊測試與評估指標,所需成本遠低於等立法底定後再回頭補救。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 白宮擬 AI 監管行政命令:模型上市前審查成選項

    NYT 報導川普政府討論以行政命令成立 AI 工作小組,研究上市前模型審查;同週 CAISI 宣布 Google、Microsoft、xAI 加入預先評測。從撤除拜登規則到考慮審查,政策轉向值得開發者關注。

    Regulation

  2. WHO 專家定調:生成式 AI 的心理健康風險是公共衛生議題

    2026 年 3 月 20 日 WHO 發布專家共識:未經設計與驗證的生成式 AI 正被大量用於情緒支持,特別是年輕人,並提出三項建議——視為公共心理健康議題、納入影響評估、與專家共同設計,同時籌組橫跨六個區域的合作中心聯盟。

    Responsible AI

  3. 肯塔基州起訴 Character.AI:全美首件州級 AI 聊天機器人訴訟

    2026 年 1 月 8 日,肯塔基州檢察長 Coleman 起訴 Character.AI 與兩位創辦人,成為全美首件州級 AI 聊天機器人訴訟。訴狀指控平台利用兒童牟利、違反 1 月 1 日生效的消費者資料保護法,每項違反求償 2,000 美元。

    Regulation