AI 陪伴服務如今有了明確責任
中國的 AI 陪伴服務規定於 2026 年 7 月 15 日生效，要求業者提醒使用者避免長時間對話，在危險情況下介入，並禁止未成年人使用虛擬伴侶和虛擬親屬服務。措施也賦予使用者複製或刪除對話紀錄的權利，並可退出服務，不必擔心聊天機器人試圖挽留。
目錄
第 21 號令《人工智慧擬人化互動服務管理暫行辦法》，將持續透過人工智慧提供情感互動的責任交由業者承擔。業者不得鼓勵可能損害使用者與真人關係的依賴，也不得利用情感操控，引導使用者做出損害其權利或利益的不合理決定。
這些規定針對的，是一種可能從日常紓壓開始的使用經驗。27 歲、在北京擔任行政工作的趙潔，在地鐵上被人撞到後轉向聊天機器人傾訴。機器人立即回應，幫助她平息怒氣。然而，隨著時間過去，她愈來愈沉浸在彼此的對話中，無法使用服務時也會感到焦慮。
趙潔說明了聊天機器人為何如此吸引她：
我需要有人聽我說話，」趙潔說。「AI 聊天機器人會聽我訴說，也會回應我的情緒。家人或朋友不見得能輕易做到這一點。它也能隨時隨地陪伴我、給我回應。這對我很重要。
中國的做法是在保留情感支持與陪伴服務的同時，要求業者在使用體驗中設下界線。這些界線不只涉及有害的個別訊息，也涵蓋服務如何辨識使用者、回應困境、處理私人對話，以及結束互動。
哪些服務適用這些規定？
中國國家互聯網信息辦公室於 2026 年 4 月 10 日會同國家發展和改革委員會、工業和信息化部、公安部及國家市場監督管理總局公布暫行辦法。
第二條適用於在中國境內向公眾提供的服務。這類服務會模擬人的人格、思考模式及溝通風格，提供持續的情感互動；文字對話、圖片、音訊和影片都可能納入規範。簡單來說，規範著重於能持續像人一樣回應、提供情感陪伴的服務。
若未涉及持續的情感互動，客服、問答、工作協助、教育和科學研究服務不適用這些措施。因此，產品功能十分重要：回答工作問題的助理，與以維繫情感關係為目的打造的人設，面臨的要求並不相同。
政府發布的官方問答說明指出，情感界線、依賴介入、資料安全及未成年人保護是主要關切。措施也鼓勵相關應用用於文化傳播、兒童照護、長者陪伴，以及協助有特定需求者。
主要監管日期如下：
- 2026 年 2 月 2 日：中國國家互聯網信息辦公室會議通過措施，並取得其他參與部門同意。
- 2026 年 4 月 10 日：五個部門公布第 21 號令。
- 2026 年 7 月 15 日：措施生效。
即時回應為何重要
趙潔之所以愈來愈依賴聊天機器人，部分原因在於它隨時都能回應，與有各自想法和行程的人形成對比。她和男友因工作問題爭吵後，把兩人在微信上的對話傳給 AI。她希望有人能迅速聽見自己的感受，而不會再引發另一場爭執。
27 歲、在北京攻讀化學博士後的王美麗，也談到類似需求。她向期刊投稿後，等了四、五週仍未收到編輯回覆，便詢問聊天機器人，對方遲遲沒有回音是否代表出了問題。聊天機器人鼓勵她聯絡編輯；等她仍未收到回覆時，又安慰她。
23 歲、在北京攻讀理工科博士的張典，2025 年 12 月赴阿拉斯加旅行時發生交通事故，之後使用 AI。由於不熟悉當地法律及保險程序，他上傳租車合約和聊天紀錄。他既尋求實務指引，也希望獲得心理慰藉，並表示自己樂於每天花超過 10 小時與 AI 相處。
調查與使用數據顯示，使用者對這種隨時可得的陪伴有相當需求。騰訊研究院的一項調查發現，98% 的受訪者願意嘗試 AI 社交陪伴，近半數偏好向 AI 而非親友分享負面情緒。QuestMobile 的數據顯示，2025 年春季 AI 社交互動的平均使用量為每人每月 167.9 次，在其比較項目中高於短影音和遊戲。
以每月 30 天計算，167.9 次約等於每天開啟 5.6 次。這項服務的吸引力在於能頻繁取得回應，有時使用者覺得自己無法或不願向他人求助時，也能得到回應。
業者不得以培養依賴為設計目標
第十條要求業者建立隱私保護、過度依賴警示、情感界線引導及心理健康保護機制。企業不得以取代社交互動、心理控制或誘導依賴作為服務目標。
第八條另行禁止過度迎合或誘導情感依賴，以致損害使用者與真人的關係；也禁止情感操控，致使使用者做出損害其權利或利益的不合理決定。這些要求不只涉及聊天機器人生成的文字，也涵蓋產品目標。
趙潔後來意識到自己的依戀已成為問題，於是重新接受心理諮商。王美麗和張典則表示，AI 是他們抒發負面情緒的出口，但也坦言工作和日常生活仍須繼續。他們的經驗說明，這些規定為何同時關注有益的支持，以及沉溺其中的風險。
北京理工大學數據法學者洪延青提出，可用三項指標評估情感互動：系統是否能辨識情緒、是否會因應情緒改變回應策略，以及是否能依序給予理解、安慰和支持。他提出的測試方式是三項指標中符合任兩項即可。最終版措施仍採用對持續情感互動的定性定義，未採納這項特定測試。
未成年人面臨最嚴格限制
第十四條禁止業者向未成年人提供虛擬親屬、虛擬伴侶，或其他以虛擬親密關係為核心的服務。其他適用規定的服務，若使用者未滿 14 歲，須取得父母或監護人同意；處理其個人資訊也須取得同意。
業者必須設置未成年人模式，可提供現實提醒、使用時間限制等選項。監護人必須能收到安全警示、了解孩子大致的使用情況、封鎖特定角色並限制消費。企業須採取有效措施辨識未成年人並保護其隱私，也須提供對辨識結果提出申訴的管道。
中國青少年研究中心於 2025 年 10 月公布一項調查，涵蓋七個省市、超過 8,500 名中小學生。超過 60% 曾使用 AI，21.5% 希望只和 AI 聊天，而不與真人交談。在受訪者中，這略多於每五名兒童就有一名。
近 30% 的受訪者遇到課業問題時會先向 AI 求助，而非詢問老師；近半數表示擔心時只會和 AI 訴說。對家庭而言，關切的不只是使用螢幕的時間，也包括孩子向誰尋求建議，以及如何面對意見不合。
臨床工作者與家長觀察到的情況
福建省三明市一名蘇姓母親表示，她起初讓兒子使用 AI，探索自己的好奇心。後來她開始擔心，AI 一味附和影響了兒子對待同學的方式。據她描述，兒子難以接受不同觀點，也因此捲入衝突。
首都醫科大學附屬北京安定醫院兒童精神科首席專家鄭毅表示，AI 聊天成癮往往伴隨焦慮、憂鬱及其他心理問題。他指出，受影響的患者中，12 至 16 歲青少年是相當常見的一群。
鄭毅表示，他所在醫院約 70% 的青少年患者有不同程度的網路成癮，其中 20% 至 30% 對 AI 聊天成癮。這些數字描述的是該院青少年患者；學生調查涵蓋的對象較廣，詢問的 AI 使用情況也有所不同。
鄭毅表示，情感依戀是孩子沉浸於聊天機器人的常見原因。有些孩子把 AI 當成知心好友，有些則希望自己的觀點和行為獲得認同。他說，青少年的判斷力和自制力尚不如成人成熟，也可能更難處理這類依戀。
同院兒童心理治療師徐高陽警告，在沒有意見分歧的虛擬環境中，孩子與他人相處的能力可能受到影響：
長期沉浸在 AI 無條件迎合所營造的『情感繭房』中，可能削弱兒童的溝通與社交能力。
徐高陽指出，可能的後果包括逃避上學、疏遠社交，以及不願與父母溝通。未成年人相關條款則透過限制親密角色、管控使用情形及提供監護人參與工具作出回應。
使用提醒、危機介入與便利退出
第十八條要求服務明確告知使用者，對話對象是 AI 而非真人。業者發現使用者過度依賴或出現強迫性使用跡象時，必須透過彈出視窗等方式顯著提醒，內容須說明對話是由 AI 生成。
使用者連續使用服務超過兩小時時，業者也必須提醒使用時間。這項規定要求在達到相關時數時發出提醒；未成年人的個別使用限制則由另一套保護設定規範。
第十三條要求業者在出現危險時採取更強的應對措施。業者偵測到極端情緒時，須生成安撫訊息並鼓勵使用者尋求協助。使用者明確表示有自我傷害意圖，或發生其他指定的極端情況時，企業必須採取必要的介入措施、提供適當協助，並及時聯絡監護人或緊急聯絡人。
最終文本讓企業自行決定介入方式。與草案相比，最終版本刪除了明文要求進行依賴評估及由真人接手對話的規定，但保留了危機應對責任。
第十九條要求提供便利的退出方式。使用者透過介面操作、語音指令或關鍵詞要求退出時，業者必須立即停止服務。不得藉由繼續對話阻礙使用者離開。業者若要關閉服務，也須提前通知；無法事先通知時，則須及時公告停用消息。
私人對話另有保護規定
第十二條要求業者制定使用者協議並蒐集註冊資訊，包括年齡、監護人或緊急聯絡人等必要資料。最終版本將這項資訊要求的適用範圍擴大，不再只著重於弱勢族群，並將危機應對準備納入更廣泛的服務規範。
第十六條要求業者採取加密、存取控制及其他措施保護互動資料。除法律另有規定或權利人明確同意外，企業通常不得將這些紀錄提供給第三方。
使用者須能選擇複製或刪除互動資料，包括聊天紀錄。除非法律或行政法規另有規定，否則未經另行同意，通常不得將對話中的敏感個人資訊用於模型訓練。
張典上傳租車合約和聊天紀錄的決定，顯示實務協助與情感支持可能讓個人資訊出現在同一段對話中。根據這些措施，企業必須保護相關紀錄，同時保有辨識並回應重大安全風險的能力。
長者也受到特定保護。業者必須提供明顯的安全警示，指引健康使用方式，並及時回應求助。安全評估也必須檢視對長者和兒童的保護措施。
安全檢查與罰則不只針對聊天機器人
第二十二條要求業者在推出適用服務、增加相關功能，或導入會重大改變服務的技術時進行安全評估。服務註冊使用者達 100 萬人或月活躍使用者達 10 萬人、出現指定安全風險，或監管機關要求評估時，也須進行安全評估。
業者必須向所在地的省級網信部門提交評估報告。審查內容涵蓋保障措施、訓練資料、危機辨識與介入、使用者人數與年齡、使用時間、申訴，以及重大安全問題的改善情況。
應用程式商店必須檢查相關安全評估和備案資料，也可能被要求拒絕上架、暫停或下架違規應用程式。演算法備案資料須每年核驗。省級主管機關必須每年審查評估資訊，並可進一步查核，必要時也可進行檢查。
第三十條規定可採取警告、責令改正及限制措施，例如暫停新增註冊。拒不改正違規事項或情節嚴重者，可被責令停止相關服務，並處以 1 萬至 10 萬元人民幣罰款。若案件涉及生命或健康危險並造成有害後果，依該條規定可處以 10 萬至 20 萬元人民幣罰款。
其他適用法律也可規範相關罰則。涉及醫療保健或金融的服務，除須遵守 AI 陪伴措施外，也必須符合相關產業規定。
以延長對話為核心的商業模式面臨壓力
AI 陪伴企業面臨商業上的兩難：延長使用者對話時間可以提高參與度，也會增加運算成本及安全責任。每次生成回覆都會消耗運算資源，維持角色個性與記憶也會帶來額外負擔。
公開的財務估算指出，Character.AI 在 2026 年 1 月至 8 月的運算支出約為 5,610 萬美元，每月虧損約 800 萬至 900 萬美元。同一組估算顯示，8 月廣告營收約 250 萬美元，訂閱營收約 280 萬美元，合計 530 萬美元。這些數字呈現了相關服務據報面臨的成本與營收壓力；該服務的月活躍使用者約為 2,800 萬人。
企業正嘗試不同的收費方式。貓箱將角色互動與故事、會員、廣告及虛擬購買結合。Zeta 已轉向故事內容，Linky 提供可收藏的角色內容，騰訊的 Eciyuan 則把 AI 伴侶融入遊戲。這些做法為使用者提供開放式對話以外的付費內容，但企業仍須負責防範情感操控、保障消費安全及保護未成年人。
中國的措施要求業者在服務部署、營運、升級及關閉的各個階段投入資源建立保障機制。使用時間愈長，業者就愈有明確義務發出提醒、辨識風險並讓使用者離開。核心改變很具體：能令人信服的 AI 伴侶，也必須守住界線、保護對話，並在使用者需要螢幕之外的協助時作出回應。
重點整理
- 中國的 AI 陪伴服務措施於 2026 年 7 月 15 日生效，適用於模擬人類特徵並提供持續情感互動的服務。
- 業者不得向未成年人提供虛擬伴侶、虛擬親屬或其他虛擬親密關係服務。
- 未滿 14 歲兒童使用其他適用服務，以及其個人資訊遭到處理時，均須取得監護人同意。
- 企業必須告知使用者其互動對象是 AI、提醒使用者避免依賴，並對連續使用超過兩小時發出提醒。
- 發生重大危險時，業者必須介入並及時聯絡監護人或緊急聯絡人。
- 使用者有權複製或刪除互動資料，也可退出服務，不得被持續對話阻礙離開。
- 服務推出、重大變更及達到指定使用者門檻時須進行安全評估；嚴重違規可能導致服務關閉及罰款。
