南韓以《人工智慧基本法》領先全球
南韓正式制定其所稱全球首套全面規範人工智慧的法律。這部共六章、43條的《人工智慧基本法》於週四生效，建立了監管架構，涵蓋範圍極廣的 AI 活動與相關業者。這項立法旨在保障公民權益，同時為日益由 AI 驅動的社會奠定官員所稱的「信任基礎」。
這項里程碑使南韓在建立統一的 AI 治理方式上領先其他主要經濟體。歐盟去年開始實施部分 AI 相關規範，其《人工智慧法案》的核心內容則將於 8 月起分階段上路。美國目前仍沒有聯邦 AI 法律，不過白宮上個月發布行政命令，挑戰被認為阻礙 AI 創新的「繁苛」州法。中國則採取不同做法，在既有的網路安全法中增列部分倫理或風險監測規定。
南韓《人工智慧基本法》是全球規範人工智慧技術的重要進展。這部法律設有兩項相輔相成的目標：促進南韓 AI 產業發展，同時實施必要防護措施，保障公民免於 AI 部署可能帶來的風險。
我們是從全球共識最基本的層面著手。目標不是透過監管阻止 AI 發展，而是確保民眾能安心使用。
科學技術情報通信部 AI 政策室次官金敬萬（Kim Kyeong-man）這番話，凸顯南韓有意建立平衡的架構，在處理民眾對安全與可靠性的疑慮之際，不妨礙技術進步。
界定高影響 AI 系統
南韓新法的一項核心特色，是聚焦於「高影響 AI」：可能對人類生命、安全或基本權利造成重大影響的系統。法律明確列出 11 個關鍵領域，要求 AI 系統接受更嚴格的監督並提高透明度：
- 能源供應系統
- 飲用水生產流程
- 醫療服務系統
- 醫療器材的開發與使用
- 核材料與核設施管理
- 用於刑事調查的生物特徵資訊分析
- 就業與貸款評估
- 交通系統與管理
- 影響公共服務的政府決策
- 教育中的學生評量
- 其他對人類生命、安全與權利有重大影響的領域
對於這些高影響應用，企業必須採取幾項重要防護措施。若有人提出要求，企業必須能說明 AI 系統的決策邏輯；確保必要時有人類介入；並明確告知使用者，他們正在使用 AI 服務。這些規定適用於用來篩選貸款或工作申請者等情況。
法律也區分「高影響 AI」與南韓所稱的「高效能 AI」。歐盟的規範主要著眼於特定應用的風險，南韓則採取不同方式，透過技術門檻判定哪些系統須受監管。門檻包括累積訓練運算量等指標，因此只有極少數先進模型會受到最嚴格的安全要求約束。
南韓政府目前表示，無論國內或國外，現有 AI 模型都不符合這項高效能條款的監管條件。官員也指出，目前沒有國內服務屬於「高影響」類別，不過未來第四級或更高級別的完全自駕車可能符合條件。
透明度要求與 AI 標示
南韓 AI 監管中最受矚目的部分之一，是對 AI 生成內容的透明度要求。依新法規定，企業必須為可能被誤認為真實內容的 AI 生成內容提供清晰或可聽見的標示，例如浮水印。這項要求主要針對深偽內容，以及其他可能造成錯誤資訊或欺騙風險的 AI 產出。
標示方式依內容類型而異。若為了安全或真實性，辨別內容究竟是真實還是 AI 生成至關重要，就必須加上可見標示。但對於使用 AI 製作的創意內容，例如遊戲、動畫或網漫，法律允許採用較不顯眼的揭露方式，包括將標示放在終端使用者不一定能立即看到的中繼資料中。
這種細緻的做法引發網漫創作等產業的疑問，平台與創作者不確定「AI 生成」內容的定義範圍究竟有多廣。部分使用 AI，例如生成背景、上色或編輯，是否也會觸發揭露義務，仍是業界關切的問題。法律不規範僅使用 AI 工具的個人，但適用於提供 AI 創作工具或發行 AI 生成作品的平台與企業。
為 AI 生成內容加上浮水印，是防止深偽內容等濫用 AI 技術所致副作用的最低防護措施。
一名部會官員這番話，凸顯政府將標示視為防範 AI 濫用的基本保障。透明度要求不只涵蓋內容標示，也包括使用者與 AI 服務互動時的強制揭露。企業提供運用高影響 AI 或生成式 AI 的產品或服務時，必須事先通知使用者，通常會透過彈出式提醒或醒目告示等方式進行。
治理架構與產業支持
《人工智慧基本法》為南韓 AI 政策建立了完整的治理架構。科學技術情報通信部是負責執行 AI 政策的主管機關，國家人工智慧委員會則隸屬總統，負責審議並決定更廣泛的 AI 政策方向。法律也設立 AI 政策中心與 AI 安全研究院，協助執行政策並處理安全疑慮。
除了監管措施，法律也納入多項促進南韓 AI 發展的條文，包括支持 AI 研究與開發、推動 AI 技術標準化、開發 AI 訓練資料，以及協助企業導入和運用 AI 技術。法律特別重視扶植中小企業、新創公司及 AI 領域人才培育。
法律也為制定「AI 基本計畫」提供法源，作為南韓 AI 技術發展的政策藍圖。這種全面性的做法承認，要成功監管 AI，不只需要限制，也必須積極支持創新及在全球 AI 領域的競爭力。
為減輕企業初期負擔，南韓政府設置至少一年的緩衝期。期間主管機關不會進行事實調查或處以行政制裁，而會以諮詢與宣導為主。政府也成立專責 AI 法案諮詢窗口，協助企業判斷其系統是否落入法律適用範圍，以及應如何因應。
《人工智慧基本法》諮詢窗口由 AI 安全研究院、韓國知識資訊社會振興院等機構的專家提供服務，為開發、經營或使用人工智慧工具的業者提供保密諮詢與指引，協助他們遵守新規定。
遵循義務與罰則
在南韓營運或向韓國使用者提供服務的企業，依新法須履行特定遵循義務。符合特定條件的外國 AI 公司，例如全球年營收達 1 兆韓元（6億8,100萬美元）以上、國內營收達 100億韓元以上，或在南韓每日使用者至少達 100萬人，必須指定本地代表與主管機關聯繫。目前 OpenAI、Google 等大型企業都符合這些條件。
AI 業者分為兩類：開發並提供 AI 的 AI 開發業者，以及使用開發業者提供的 AI 來提供 AI 產品或服務的 AI 利用業者。兩類業者都須履行透明度義務，但監管重點仍主要放在高影響 AI 與生成式 AI 系統。
相較於其他司法管轄區，南韓法律的執法方式刻意採取較寬鬆的做法，不設刑事罰則，而是優先對違規者發布改正命令；只有在業者不遵從命令時，才會處以最高3,000萬韓元（2萬6,200美元）的罰鍰。政府官員強調，這反映的是以遵循規定為主、而非以懲罰為主的做法。
作為比較，歐盟監管架構設有更嚴厲的制裁，依違規類型處以不同級別的罰則，行政罰鍰最高可達全球年營業額的 7%。罰則嚴重程度差異顯著，反映南韓所稱維持最低限度監管、同時建立基本安全架構的意圖。
南韓法律規定的三種罰鍰違規情形為：使用高影響 AI 或生成式 AI 提供產品或服務時，未通知主管機關相關 AI 營運情形；未依規定指定國內代表；以及未遵守科學技術情報通信部長發布的暫停或改正命令。
產業反應與新創疑慮
政府將《人工智慧基本法》定位為兼顧創新與安全的平衡做法，但科技業並非人人都認同這種看法。南韓新創公司對新規帶來的潛在遵循負擔表示憂慮，尤其是新法生效時間早於其他國家類似架構。
根據新創聯盟調查，專注於 AI 的新創公司中，只有 2% 表示已制定正式的法規遵循計畫，約有一半承認尚未充分了解新法要求。缺乏明確資訊讓創業者感到不安，他們擔心法條措辭模糊，可能迫使自己採取過度保守的開發策略，以避免監管風險。
心裡多少有些不滿：為什麼非得由我們先做？
南韓新創聯盟共同主席林正旭（Lim Jung-wook）這番話，道出部分創業者對於在全球競爭對手之前先受全面 AI 監管的挫折感。許多創業者質疑，率先監管 AI 究竟會讓南韓取得優勢，還是使國內企業在國際市場上處於不利地位。
總統李在明已承認這些疑慮，敦促政策制定者聽取產業意見，並確保創投企業與新創公司獲得充分支持。李在明日前與幕僚會面時強調，應透過制度支持充分發揮產業潛力，同時預先管理可能出現的副作用。
科學技術情報通信部回應這些疑慮，表示將在緩衝期間規劃指引平台與專責企業支援中心。一名發言人指出，政府持續檢視如何減輕產業負擔，也正考慮視國內外產業情勢延長緩衝期。
與國際作法比較
南韓《人工智慧基本法》代表一種有別於其他主要經濟體的監管理念。立法參考著重民間部門自主權的美國模式，以及強調安全與可靠性的歐盟監管模式。最終，南韓選擇了一條獨特道路，試圖將最低限度監管與 AI 推廣相互結合，以實現成為全球 AI 競爭力領先國家的目標。
如同歐盟《人工智慧法案》，南韓架構定義了 AI 系統，並針對高影響 AI 設定多項義務，包括基本權利影響評估（FRIAs）。不過，具體監管程度可能會依未來的附屬法規調整，相關法規預計於 2025 年上半年公布。
南韓與歐盟做法的一項重大差異，在於義務的設計方式。歐盟《人工智慧法案》依 AI 價值鏈中不同參與者的類型訂定差異化義務，南韓《人工智慧基本法》則全面界定義務，未區分不同類型的參與者。較簡單的做法或許能降低複雜度，但也可能使主管機關難以在多元的 AI 生態系中實施適切監督。
南韓界定高影響 AI 的方式也不同於歐盟。歐盟著重特定應用的風險，針對醫療、招募及執法等領域使用的 AI；南韓則以技術門檻判定哪些系統須受監管，包括累積訓練運算量等指標。以目前技術能力而言，受監管系統的範圍可能因此小得多。
監管理念的差異也反映在違規罰則上。歐盟已設置嚴厲制裁，罰鍰最高可達全球年營業額的 7%；南韓架構的行政罰鍰則最高僅為3,000萬韓元（約2萬6,200美元）。這項顯著差異反映南韓重視遵循與改正，而非懲罰。
全球影響與未來展望
南韓制定全面性 AI 立法，對全球 AI 發展格局具有重大影響。作為歐盟之後第二個採行全面 AI 監管架構的國家，南韓提供了新的立法範例，其他國家在制定自身 AI 治理方式時可能會加以參考。
這項法律在政治動盪期間仍獲通過，當時總統尹錫悅宣布戒嚴，之後遭到彈劾，顯示各黨對 AI 監管的重要性已有共識。該法於 2024 年 12 月 26 日在國會院會以跨黨派壓倒性支持通過，凸顯各界在因應 AI 挑戰方面具有廣泛政治共識。
展望未來，南韓官員承認，現行立法只是起點，並非定案。許多條文的詳細執行方式，將取決於附屬法規與各產業指引；這些內容會在法律於 2026 年 1 月全面生效前的一年準備期內定案。
南韓推動相關部會依不同監管對象或產業的特性整合專業知識時，國家人工智慧委員會的協調功能將至關重要。AI 技術正擴及個人資訊、著作權、醫療與國防等各個領域，有效治理需要政府各機關審慎協調。
隨著全球對 AI 規範與治理的討論日益熱烈，為確保 AI 可信賴而推動國際互通與監管合作的需求也愈加迫切。南韓的做法可能影響這些國際討論，尤其是在 AI 治理中如何兼顧創新與安全疑慮方面。
重點整理
- 南韓已制定全球首部全面性 AI 法律《人工智慧基本法》，涵蓋人工智慧的開發、部署與使用。
- 法律界定醫療、金融、交通與政府服務等 11 個關鍵領域中的「高影響 AI」，要求加強監督並具備人類介入能力。
- AI 生成內容必須標示；可能被誤認為真實內容者須加上可見浮水印，網漫與動畫等創意作品則可採用較不顯眼的標示方式。
- 符合營收或使用者門檻的外國 AI 公司，必須在南韓指定本地代表。
- 違規罰則最高為3,000萬韓元（2萬6,200美元），遠低於歐盟最高可達全球年營業額 7% 的罰鍰。
- 法律設有一年的緩衝期，期間以提供指引而非懲罰為主，並設置專責諮詢窗口協助企業遵循規定。
- 新創公司憂心法規遵循負擔與法條措辭模糊，僅 2% 表示已制定正式遵循計畫。
- 法律旨在使南韓成為全球前三大 AI 強國，同時為 AI 技術建立信任基礎。
- 南韓監管先進 AI 系統時著重技術門檻，有別於歐盟聚焦特定應用風險的做法。
- 經過一年制定附屬法規與詳細指引的準備期後，法律將於 2026 年 1 月全面實施。
