一份包含99條條文的提案，探討人工智慧應被允許做什麼
浙江大學研究人員公布一份人工智慧法專家提案，全文分為八章、共99條，核心理念是：賦予人工智慧系統的權限，應與其可靠程度及所執行任務的後果相符。
目錄
浙江大學版本1.0提案於9月24日的發布會上提出。該校的官方活動公告安排活動於2026年9月24日下午2時至5時30分，在紫金港校區舉行。議程將產業發展與權利保障、責任追究並列，反映這份提案試圖回應的兩方面需求。
對受人工智慧影響的人而言，實際疑慮迫在眉睫。模型營運者能否未經同意，就將插畫家的作品用於訓練？語言模型給出有害且錯誤的答案時，誰該負責？未經同意使用某人臉孔的影片在網路上散播後，當事人該如何保存證據並尋求補救？
企業面臨另一系列問題：法遵要求重疊、產品投入使用前的程序繁瑣，以及小型公司可能難以負擔的成本。研究人員表示，他們提出的方法旨在保障權利，同時回應這些壓力。
這份文件是供討論並進一步修訂的學術提案。其中最完整發展的理念，是針對人工智慧在特定情境中的表現進行評估，將系統能做什麼、運作有多可靠，以及受影響者所承受的利害關係連結起來。
草案如何形成
起草團隊花了近六個月制定提案，並完成五輪密集修訂。初稿原有174條，後來精簡為99條，減少75條，約43%。這顯示文件在制定過程中大幅濃縮，但單看條文數量，無法看出個別規定會對使用者或企業造成多大的負擔。
研究人員走訪杭州20多家人工智慧企業，以及多家領先的網路公司。他們的工作也參考了之江立法論壇的討論、與相關部委的交流，以及數輪專家審查。研究工作亦與兩項地方性法規草案的制定同步進行，分別涉及杭州人工智慧產業，以及杭州建設創新城市的發展。
主辦單位包括浙江大學光華法學院、該校數位法治研究院、浙江省立法研究院及浙江大學立法研究院。官方議程安排由光華法學院研究員李文龍發布並介紹這份提案。
提案的制定與發布流程如下：
- 團隊在近六個月內走訪企業、進行諮詢，並完成五輪修訂。
- 9月24日，提案於浙江大學發布，官方公告所載活動日期為2026年。
- 會後，團隊計畫納入各方意見，並提出後續版本。
提案規則背後的三個問題
浙江大學數位法治研究院院長孫笑俠以三個相互關聯的要素說明此架構：執行能力、認知成熟度，以及任務的性質與影響。簡單來說，問題在於人工智慧系統能做什麼、可靠程度如何，以及它的決策有多重要。
孫笑俠以中文說明他對人工智慧風險來源的看法：
我們認為，人工智慧的風險並非來自機器有多強大，而是能力、認知與任務之間不相匹配。
某個系統或許能在無人介入的情況下，連續執行一長串操作，卻難以辨識異常情況。若交付涉及人身安全的任務，系統的行動自由與其判斷異常的能力之間，就會出現危險落差。
因此，提案不只依據單一標籤來界定某項技術。監管機關會檢視系統的特定版本、預定用途及運作環境。同一項底層技術用於不同任務時，可能需要不同管制措施。
能力與可靠性將分開評估
提案中的能力分級分為四級：輔助、有限自動化、高度自動化及自主執行。評估將考量系統行動的自主程度、決策影響範圍、可使用的工具、可持續運作的時間，以及是否能改變數位或實體環境。
工具存取權限之所以重要，是因為只提出建議的人工智慧系統，與獲准實際執行操作的系統，影響範圍並不相同。若系統有權操作其他軟體或設備，一個錯誤答案就可能演變成一連串實際行動。
認知成熟度也分為四級，分別是基礎、一般、較高及高度受控。評估將檢視準確性、一致性、辨識異常輸入並修正錯誤的能力、網路安全、可追溯性，以及人類可在何種條件下接手控制。
信心校準也是考量因素。簡單來說，就是檢視系統表達的信心，是否符合其實際答對的頻率。若系統常常出錯，語氣卻十分肯定，使用者就特別難以監督。
此架構也會檢視重要輸出是否能獲得解釋，以及系統能否遵守既定界線。將能力與可靠性分開評估，能讓監管機關辨識出有能力自主行動、但可靠程度不足以勝任敏感任務的系統。
哪些任務會受到更嚴格檢視？
提案將任務依影響程度分為三級：低、一般及高。評估將考量受影響權利的重要性、傷害發生的可能性及嚴重程度、受影響人數、影響持續時間、結果是否可逆，以及當事人是否能獲得補救。
當事人的弱勢程度也會納入考量。若某人難以對決策提出異議，相關決策可能需要比起影響有管道取得協助者的類似決策，受到更嚴格檢視。
涉及生命與健康、人身自由、人格尊嚴、平等機會、重大財產利益、教育、就業、社會保障、司法、行政執法或公共安全的任務，將推定為具有高度影響。可能對大量人群造成重大影響的任務，也適用相同推定。
提案也指出，無論任務影響程度如何，禁止的人工智慧應用都不得開發、部署或使用。隨提案公布的說明，並未列出禁止應用的詳細清單，也未針對文首提出的著作權、錯誤輸出及未經同意替換臉孔等爭議，給出明確法律答案。
醫療案例說明能力與任務相符的原則
孫笑俠以醫學影像及病理分析為例，說明系統承接的任務與其技術能力同樣重要。人工智慧能快速處理大量影像和醫療資料，但面對困難或罕見狀況時，推理能力可能仍有限。
合適的任務安排應同時考量這兩項特點。若讓系統對困難診斷負起全部責任，並過度信任其判斷，就會造成此架構試圖避免的能力落差。
孫笑俠以中文說明這項目標：
要求相匹配，與單純施加限制不同；它追求的是能力、認知與任務之間的最佳匹配。
他認為，若系統無法勝任要求較高的任務，可以改派較不複雜的任務，而非直接棄用。因此，實際選項不只有不加限制地使用或全面禁止使用。主管機關及營運者可以調整任務、系統權限，或人類介入的程度。
對醫院而言，這種做法會將注意力放在交付人工智慧的具體工作，以及相關防護措施。對病患而言，關鍵在於系統所扮演的角色，是否符合決策的重要程度。
人工智慧變化時，核准也必須跟著調整
提案中的治理流程涵蓋六個階段：研究與開發、測試、部署、運作、迭代及撤回。分類評估將貫穿整個流程，因為系統投入使用後，其能力與運作情境仍可能改變。
模型更新可能擴大系統能執行的操作範圍。拓展到新的情境，可能讓更多人或更敏感的利益受到系統決策影響。新資料也可能改變模型的行為，包括降低可靠性，而這種變化在先前測試時或許尚未顯現。
提案要求在系統或任務發生變化時重新評估。評估結論會根據具體版本、用途及運作環境作出，因此只要其中任一要素改變，營運者就有理由重新檢視自身義務。
孫笑俠指出，能力與任務相符的原則可引導八個領域的法律規則：分類、義務分配、評估、高影響用途認定、監管強度、風險管控、法律責任及隨時間調整。透過單一架構串連這些決策，是提案試圖讓人工智慧治理更一致的主要做法。
權利保障與企業義務，關鍵在具體規定
插畫家、錯誤答案及偽造影片等問題，凸顯問責的重要性不只在技術測試。若有人要尋求賠償或要求移除有害內容，就需要一套可行途徑，能從其遭受的傷害追查到應負責的各方。
提案將法律責任納入能力與任務相符的架構。這代表系統是否適合執行指定任務，將成為討論義務與問責時的相關考量。然而，評估結果與現行民事責任規則之間的關係，仍是孫笑俠所說有待進一步細化的議題之一。
研究人員也需要明確訂出認知成熟度的測試方法，以及能力、可靠性與任務需求之間的落差達到多大時，才算不相匹配。這些選擇將決定企業能否一致地採用此架構，以及監管機關能否有效檢視其判斷。
發布會議程將這些相互競合的實際需求納入同一場活動。產業場次列有美團和抖音的法律專家，以及學界和技術領域人士；權利與問責場次則列有阿里巴巴合規主管、律師及大學學者。這些人受邀參與，顯示主辦單位希望納入多元觀點；但議程並未提供足夠依據，不能據此認定這些與會者對草案抱持共同立場。
對小型企業而言，具體影響包括需要進行多少項評估、必須提出哪些證據，以及產品發展過程中義務如何變動。對受人工智慧影響的人而言，關鍵則在於這些義務能否有助於預防傷害，並在出問題時提供可行的補救途徑。
研究團隊計畫依據會議回饋修訂提案。目前的核心工作，是將能力與任務相符的原則轉化為可供實際爭議及產品決策採用的測試、門檻與責任規則。
重點整理
- 浙江大學人工智慧法專家提案共八章、99條，從最初的174條精簡而來。
- 此架構將系統的執行能力、認知可靠性及指定任務連結起來。
- 健康、自由、就業、教育及其他敏感任務，將推定為具有高度影響。
- 評估涵蓋完整的開發與使用週期，並在系統或任務變更時調整。
- 這份學術提案仍將進一步修訂，測試方法、門檻及責任規則也有待更詳盡的研究。
