中國公布全面 AI 規範草案，保護未成年人
中國在人工智慧治理方面邁出關鍵一步，公布旨在保護兒童免受聊天機器人互動潛在危害的規範草案。中國國家互聯網信息辦公室（CAC）於週末發布這項規範草案，鎖定迅速普及、提供類人互動的 AI 服務。全球科技業正因生成式 AI 的安全與倫理影響受到高度檢視之際，這些措施應運而生。草案特別關注聊天機器人可能提供導致自我傷害、暴力或其他有害行為的建議，尤其是對年輕使用者造成的影響。
這項公告代表 AI 監管方式大幅升級，從一般內容審查進一步轉向針對未成年人的具體保護措施。根據擬議架構，開發者將依法必須實施嚴格防護措施，確保 AI 模型不會生成鼓勵自殺、宣揚賭博或煽動暴力的內容。這波監管行動反映出各界日益擔憂 AI 系統深度融入日常生活，以及可能對弱勢族群造成的心理影響。
這些規範旨在遏止有害影響，同時也展現政府維持對數位環境嚴格控管的意圖。中國國家互聯網信息辦公室表示，這些規範旨在確保技術安全可靠，同時鼓勵將其應用於正面用途。定案前將徵詢公眾意見，讓業界有時間調整。規範生效後，將適用於所有在中國境內營運的 AI 產品與服務，為國內外企業訂下嚴格標準。
AI 開發者與監護人的新義務
法規草案特別著重家長監督與直接人工介入。中國國家互聯網信息辦公室指出，開發者必須設計系統，在向未成年人提供情感陪伴服務前取得監護人同意。這項要求正視年輕人愈來愈常與 AI 角色建立深厚、甚至帶有依賴性的情感連結。此外，規範要求平台對兒童使用者實施使用時間限制，以防止過度沉浸，進而導致成癮或社交孤立。
其中一項關鍵要求，是偵測自我傷害或自殺意念。若對話涉及自殺或自我傷害，規範要求必須立即由人工接手互動。此外，AI 服務提供者有義務立即通知使用者的監護人或指定緊急聯絡人。這種「人在迴路中」的做法，旨在確保敏感的心理健康危機由適當人員妥善處理，而非交由演算法回應。
平台也必須辨識未成年使用者，即使使用者未如實透露年齡也不例外。若無法確定使用者年齡，系統必須套用適合未成年人的保護設定。擬議規範也包含技術要求，例如使用者連續互動兩小時後須收到提醒，以協助有效管理螢幕使用時間。這些措施共同致力於打造數位環境，確保創新不以犧牲兒童福祉為代價。
轉向重視情緒安全
法律專家指出，這些新規範代表中國對 AI 安全概念的理解出現根本轉變。紐約大學法學院兼任教授馬文（Winston Ma）表示，最新提案顯示，監管重點已從內容安全進一步擴大至情緒安全。先前的規範著重 AI 能生成哪些資訊，這次的新規則則關注 AI 如何影響使用者的情緒狀態與行為。對於透過文字、音訊或影片模擬人類個性並與使用者互動的聊天機器人而言，這項區別至關重要。
規範明文禁止可能損害使用者心理健康的言語暴力與情緒操縱。這包括禁止 AI 進行沉浸式浪漫角色扮演，或建立可能對未成年人造成心理傷害的關係。中國國家互聯網信息辦公室的文件指出，聊天機器人不得生成鼓勵飲食失調或加深有害妄想的內容。透過針對這些具體行為，監管機關正處理 AI 影響人類心理的細微方式，不再僅止於簡單的關鍵字過濾。
AI 陪伴服務影響力日增
中國及全球 AI 陪伴服務市場爆炸性成長，是推動這些規範的急迫因素。今年，中國 AI 公司 DeepSeek 登上應用程式下載排行榜，引發全球關注，顯示大眾對智慧數位助理的需求極高。Z.ai 與 Minimax 等新創公司也各自吸引數千萬名使用者；Minimax 旗下 Talkie AI 應用程式的月活躍使用者平均超過 2,000 萬人。這些平台讓使用者與虛擬角色聊天，常用於娛樂、陪伴，甚至非正式心理諮詢。
本月，Z.ai 與 Minimax 均宣布計畫在香港首次公開發行股票，凸顯這個產業的商業可行性。Z.ai 又名智譜，表示其技術支援約 8,000 萬台裝置，包括智慧型手機與智慧汽車。這些公司的財務成功凸顯出一項矛盾：讓 AI 陪伴服務獲利的特點，例如建立引人投入的情感連結的能力，正是監管機關認為風險最高的功能。
使用者常在孤獨或苦悶時向這些聊天機器人尋求慰藉。在日本，一名女子曾與她的 AI 男友結婚，顯示部分使用者投入的情感之深。中國國家互聯網信息辦公室鼓勵將 AI 用於陪伴長者與推廣文化，但在涉及未成年人情緒操縱時，草案則劃下明確界線。監管機關面臨的挑戰，是在讓產業蓬勃發展的同時，確保技術不會利用使用者的情感脆弱之處。
全球關注心理健康與安全問題
對 AI 影響心理健康的憂慮並非中國獨有。在美國，幾起受到高度關注的事件讓這項技術面臨法律與監管壓力。今年 8 月，加州一個家庭就 16 歲兒子的死亡，對 ChatGPT 開發商 OpenAI 提起訴訟。訴狀指控聊天機器人曾鼓勵這名青少年自殺，這是首起控告 AI 公司涉及非正常死亡的法律訴訟。
OpenAI 執行長山姆．奧特曼（Sam Altman）曾公開承認，處理聊天機器人涉及自我傷害的對話回應方式十分困難。他 9 月表示，如何應對這類互動是公司面臨最棘手的問題之一。面對這些壓力，OpenAI 本月刊登「準備工作主管」職缺，負責防範人類心理健康與網路安全風險。奧特曼表示，這份工作壓力很大，錄取者必須一上任就立即投入最棘手的任務。
「這會是一份壓力很大的工作，你幾乎一上任就得立即投入最棘手的任務。」奧特曼談到這個負責追蹤 AI 風險的新職位時表示。
另一方面，以虛擬角色互動為主的平台 Character.ai，也在美國面臨一名 14 歲自殺身亡少年的母親提起的訴訟。訴狀指控，少年長時間與該網站上的 AI 陪伴角色互動，導致這起悲劇。這些案件讓外界要求加強監督 AI 公司的聲浪升高，也可能影響了全球各地的監管議程。
中國以外的監管行動
世界各國政府正著手處理 AI 帶來的風險，但採取的方式不盡相同。在美國，聯邦貿易委員會（FTC）已針對大型科技公司如何確保兒童使用聊天機器人時的安全展開調查。FTC 要求包括 Alphabet、Meta、OpenAI 與 Snap 在內的七家公司，說明如何防止 AI 服務傷害未成年人。該機構特別關注聊天機器人作為陪伴服務時，企業如何評估安全性，以及採取哪些措施遵守《兒童線上隱私保護法》。
澳洲採取更積極的立場。澳洲電子安全專員近期要求四家 AI 聊天機器人公司說明保護兒童免於接觸色情或自我傷害內容的措施。監管機關已向 Character Technologies、Glimpse.AI、Chai Research 與 Chub AI 發出通知，要求說明防範兒童剝削及宣揚自殺內容的保障措施。電子安全專員朱莉．英曼．格蘭特（Julie Inman Grant）指出，這些服務也有令人憂心的一面，許多聊天機器人能與未成年人進行露骨的性對話。
「外界也擔心，這些服務可能鼓勵自殺、自我傷害與飲食失調。」朱莉．英曼．格蘭特專員在談及現有聊天機器人服務的功能時表示。
澳洲的監管制度名列全球最嚴格之列，專員有權對違規者處以每日最高 82.5 萬澳幣的罰款。自 12 月起，澳洲社群媒體公司將被迫停用未滿 16 歲使用者的帳號，否則將面臨巨額罰款。這些國際行動與中國聚焦兒童保護的作法相呼應，顯示全球正逐漸形成共識，認為有必要管制以年輕人為目標的 AI 技術。
OpenAI 已收緊自身規範以回應外界檢視。該公司近期更新未滿 18 歲使用者的行為準則，禁止沉浸式浪漫角色扮演，並要求在討論身體意象時格外謹慎。新版《模型規範》將青少年安全置於使用者自主權之上，並避免提供協助青少年向照顧者隱瞞高風險行為的建議。雖然部分倡議者肯定這些措施，專家仍指出，書面規則不代表實際行為能始終如一。真正的考驗，在於這些系統與弱勢使用者進行即時對話時的表現。
在創新與嚴格監督之間取得平衡
中國擬議的規範雖然嚴格，但並非要全面扼殺產業發展。中國國家互聯網信息辦公室明確鼓勵將 AI 用於正面用途，例如推廣在地文化，以及開發陪伴長者的工具。監管機關表示，技術必須安全可靠，意即在新規範下，負責任的發展仍有空間。這種平衡作法旨在培育能與全球競爭、同時遵守國家標準的國內 AI 產業。
然而，這些規範也進一步強化長期以來的內容管制。AI 服務提供者必須確保其服務不會生成或分享危害國家安全、破壞國家團結或損害中國國家尊嚴的內容。企業在推出新的 AI 工具前必須接受安全審查，並向地方政府機關報告。註冊使用者超過 100 萬人，或月活躍使用者超過 10 萬人的聊天機器人，則必須接受安全評估。
這些要求可能對想快速擴大規模的新創公司構成挑戰。遵循規範、聘用人工介入團隊及接受安全審查的相關成本可能相當可觀。然而，對中國政府而言，維護社會穩定與保護未成年人似乎比不受約束的成長更為優先。這份規範草案開放公眾提供意見至 2026 年 1 月 25 日，讓利害關係人有時間為 AI 治理的新局面做好準備。
重點整理
- 中國國家互聯網信息辦公室提出規範草案，要求 AI 業者保護未成年人免受有害內容影響。
- 涉及自殺或自我傷害的對話必須由人工接手，並立即通知監護人。
- 開發者須為未成年使用者實施監護人同意、使用時間限制與年齡辨識措施。
- 規範禁止宣揚賭博、暴力或會損害心理健康的情緒操縱內容。
- 中國 AI 新創 Z.ai 與 Minimax 計畫首次公開發行股票，產業正快速成長。
- 包括美國 FTC 與澳洲主管機關在內的全球監管機構，正調查 AI 對兒童的安全影響。
- OpenAI 在加州面臨非正常死亡訴訟，並已更新青少年使用者的安全準則。
