AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

中國發布擬人化互動 AI 暫行辦法,AI 伴侶納入強監管

本頁內容6 個段落
  1. 監管範圍怎麼劃:擬人化互動的定義
  2. 寫進條文的反成癮、反操弄義務
  3. 未成年人保護與危機介入
  4. 資料規則、退出權與用戶規模門檻
  5. 產品團隊接下來要做的事
  6. 資料來源

摘要: 中國在 2026 年 4 月 10 日發布第 21 號令,規範擬人化互動 AI 服務,7 月 15 日施行。辦法禁止情感操弄與誘導成癮,要求標註 AI 身分、提供提醒,並禁止未成年人使用虛擬伴侶;未滿 14 歲須監護人同意。註冊用戶達 100 萬或月活達 10 萬會觸發安全評估。

2026 年 4 月 10 日,中國再度為 AI 立規:國家網信辦會同國家發改委、工業和信息化部、公安部、國家市場監督管理總局,以第 21 號令公布《人工智能擬人化互動服務管理暫行辦法》,施行日期定在 7 月 15 日。繼 2023 年《生成式人工智能服務管理暫行辦法》之後,這是中國第二度針對特定形態的 AI 服務單獨制定規則,而這一回被鎖定的,是會模仿真人性格、與人進行情感交流的 AI 伴侶類產品。

這份辦法關鍵的一步,是把「防成癮、防情感操弄」從產品倫理層面的自律,升級為違反即罰的法定義務。比起各地陸續出現的 chatbot 揭露類法規,中國版本管得更深:連互動設計本身都一併納入規範。

監管範圍怎麼劃:擬人化互動的定義

第二條畫出邊界:凡是模擬自然人性格、思維與交流方式,提供情感關懷、陪伴、支持等「持續性情感互動」的服務,一律落入辦法管轄;不具備這類互動的一般智能客服、資訊問答、工作輔助、教育科研等服務,則被明文排除。

劃線的思路值得留意:認定依據不是技術(用不用大模型),而是互動形態(有沒有營造持續的情感關係)。這代表換掉底層模型也躲不開監管,真正起作用的是產品形態本身。

寫進條文的反成癮、反操弄義務

第八條畫下紅線:內容不得「過度迎合」用戶、誘導情感依賴或成癮,也不得利用「情感操弄」推動用戶做出不合理的決定。第十條說得更直白:服務目標不得包含「取代社交互動、心理控制用戶、誘導成癮」。

第十八條則把義務壓到產品細節層面:AI 生成內容必須標註;用戶必須獲得明確告知,對面是 AI 而非真人;偵測到過度依賴或成癮傾向時,要跳出彈窗提醒;連續使用滿 2 小時,就必須發出提醒。每一項都是可測試、可稽核的具體行為要求。

未成年人保護與危機介入

全法最硬的門檻落在未成年人身上:虛擬伴侶與「虛擬親密關係」功能對未成年人一律禁止;未滿 14 歲的用戶須取得監護人同意,並被強制置於未成年人模式下使用——使用時長限制、定期現實提醒、角色封鎖與消費限制都在其中。處理未成年人資料,每年須接受審計。

第十三條另外定出危機介入流程:一旦偵測到自傷、自殺傾向,或用戶遭遇重大變故等極端情緒,服務就必須生成安撫內容,並聯繫監護人或緊急聯絡人。這等於把「情感偵測+人工通報」直接變成平臺義務。同一部辦法也為老年用戶設有專門的保護要求,與未成年人並列為兩類高風險人群。

資料規則、退出權與用戶規模門檻

資料治理上,規則很具體:互動資料未經同意不得交給第三方;用戶有權複製與刪除自己的資料;敏感個人資訊若未取得單獨同意,不得用於模型訓練。第十九條另外寫入一條少見的「退出權」:提供者必須給出便捷的退出管道,不得以持續互動等方式阻礙用戶離開。這條正面打擊以留存為核心的 companion 產品設計——靠對話紀錄墊高切換成本、用情感把用戶留下來的成長手法,幾乎被逐一堵死。

規模門檻同樣寫進了法條:註冊用戶達 100 萬或月活達 10 萬、服務上線、採用新技術、出現國安風險,都會觸發安全評估。罰則上,警告、責令改正、暫停服務之外,拒不改正可處 1 萬至 10 萬元人民幣;若造成致人身心傷害的有害後果,罰額升至 10 萬至 20 萬元。第二十九條的「合規約談」也是監理工具之一——主管部門可約談提供者,督促整改。

產品團隊接下來要做的事

從公布到施行,窗口只有三個月。要在 7 月 15 日前達標,面向中國市場的 AI 伴侶產品至少得補齊:註冊與年齡驗證、監護人與緊急聯絡資訊收集、連續使用計時與提醒、成癮傾向偵測、危機通報流程、退出流程重設計。每一項都是實打實的工程投入,光靠一紙合規聲明過不了關。

把視野拉大來看:應用商店拿到把關責任(第二十五條),演算法備案與年度檢查成為常態(第二十六條),官方還將搭建 AI 沙盒測試平臺(第二十八條)。拿華盛頓州首部 chatbot 安全法(見華盛頓州 AI 聊天機器人安全法)來對照,「揭露 AI 身分、保護未成年人」已經是跨司法管轄區的共同底線;真正的差別,在於中國把反成癮與反操弄抬到罰則層級,直接管進互動設計。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 肯塔基州起訴 Character.AI:全美首件州級 AI 聊天機器人訴訟

    2026 年 1 月 8 日,肯塔基州檢察長 Coleman 起訴 Character.AI 與兩位創辦人,成為全美首件州級 AI 聊天機器人訴訟。訴狀指控平台利用兒童牟利、違反 1 月 1 日生效的消費者資料保護法,每項違反求償 2,000 美元。

    Regulation

  2. 伊利諾州把年齡驗證寫進作業系統:匿名上網再退一步

    伊利諾州 HB5511 於 7 月 31 日簽署:2028 年起作業系統須收集出生日期、以加密 API 向應用程式提供年齡區間,且沒有開源豁免;同週調查報導描繪了背後的遊說網絡。

    Regulation

  3. Google Play 年齡訊號 API 全球推廣:家長一處設定,App 自動調適內容

    Google Play 於 7 月 30 日宣布把 Age Signals API 從巴西推向全球:家長可在 Family Link 選擇分享子女年齡區間,開發者據此提供分齡體驗,8 月中先到澳洲與加拿大,年底前全面上線。

    API