公共 AI 服務從承諾走向壓力測試
南韓正準備讓每位公民免費使用人工智慧，讓聊天機器人和 AI 代理觸手可及，使民眾能將其用於課業、醫療照護、公共服務和日常決策。這項名為「AI for All」的計畫旨在廣泛推廣這項技術，並協助南韓與美國和中國競爭。同時，一個棘手的問題也因此浮上檯面：當 AI 成為公共生活中的日常一環，安全防護措施能否跟上腳步？
李在明政府計畫先推出測試版服務，再考慮從明年起將試辦計畫轉為由納稅人出資的常設公共服務。這項服務將串接由 SK Telecom、KT 和 Kakao 牽頭的三個國內聯盟所開發的通用型 AI 工具。政府已借給這些團體數百個輝達 B200 圖形處理器，這類專用晶片用於訓練和運行高效能 AI 系統。
官員最終設想由 AI 中介協助民眾透過政府連結服務預約看診、尋找住房及諮詢稅務。這項前景可能讓公共系統更容易使用，尤其能幫助那些難以處理複雜表格或忍受漫長等待的人。但這也意味著，錯誤、隱私外洩或帶有偏見的建議，可能影響正在使用基本服務的民眾。
政府已編列 2,500 億韓元，供這項計畫推行至 2027 年，此外，本財政年度的 AI 預算為 10 兆韓元。這項規模反映出南韓的國家策略：提升 AI 能力，並讓廣泛民眾都能使用，而非只限於負擔得起私人訂閱服務的人。試辦計畫將檢驗免費使用是否能轉化為實用的公共基礎設施，以及公民是否信任處理其資訊和問題的系統。
為什麼 AI 領袖對這項技術發出警告？
南韓的計畫正值 AI 產業知名人士警告，技術快速發展伴隨嚴重風險之際。Anthropic 執行長 Dario Amodei 曾呼籲業界放慢腳步。一名前 Anthropic 工程師也曾任職於 OpenAI，他離開公司後表示，對於不受制衡的發展可能意味著「我們所有人近期都可能喪命」，他「真的感到害怕」。電腦科學家 Geoffrey Hinton 是諾貝爾獎得主，常被稱為「AI 教父」，他也警告，若先進系統脫離人類控制，可能構成生存威脅。
這些警告涉及的可能性，從自主武器、機器發動的網路攻擊，到大規模失業都有。其他風險則更為人熟悉：足以取信於人的假圖片和影片、帶有歧視性的自動化決策，以及人們依賴那些語氣肯定、答案卻不準確的系統。公共服務推廣不會憑空帶來所有這些危險，但可能讓 AI 更容易大規模使用，進而增加民眾接觸這些風險的機會。
通用型 AI 系統透過辨識資料中的模式產生回應，而非像人類一樣理解世界。它們有助於起草、摘要和查找資訊，但也可能把錯誤說得像事實一樣。在政府或醫療相關情境中，使用者需要明確的查證方式，也要能聯絡有權更正資訊的人員。
首爾正採取哪些安全措施？
南韓依據今年 1 月生效的《人工智慧基本法》，為 AI 使用範圍擴大訂定規範。這套框架要求有人類監督、進行影響評估，並清楚標示合成內容。這些措施旨在讓 AI 生成內容更容易辨識，並要求組織在部署系統前檢視潛在危害。
由國家資助的 AI 安全研究院也負責評估風險，並擔任技術監督機構。它的工作與正式規範同樣重要，包括評估系統是否可靠運作、敏感資料是否受到保護，以及使用者能否對重大決策提出異議。唯有檢視實際影響，並在問題出現時促成改變，影響評估才有用。
計畫將 AI 串接政府服務，因此問責尤其重要。若 AI 助理提供錯誤稅務資訊，或未妥善處理醫療預約請求，使用者應知道哪個機關負責，以及如何尋求協助。系統不應成為公民與決策官員之間的阻礙。只有在人工審查管道容易使用、及時，而且有權推翻自動化建議時，才能真正發揮作用。
免費使用也不代表營運不需成本。公共機關仍須支付運算、安全、維護和評估費用，並決定服務應保留多少個人資訊。政府投入運算硬體和軟體，只是長期公共服務的一部分；監督和支援也需要持續投入資源。
就業與深偽濫用已成爭論焦點
南韓部分憂慮源於正在發生的傷害。南韓銀行報告指出，15 至 29 歲就業人口從 2022 年 6 月到今年 6 月減少 28 萬 5,000 人。該行估計，減少人數中有 94% 集中在高度受到自動化影響的產業。這些數字顯示青年就業與技術變遷之間有明顯交集，但無法證明減少完全由 AI 造成。經濟情勢和其他招聘變化也會影響就業。
自動化可能取代特定工作內容，卻不至於消滅整個職業。即使如此，對於入門職務遭自動化取代或雇主減少招聘的勞工而言，這種區分仍難以帶來安慰。若例行行政或服務工作過去一直是踏入職場的途徑，年輕勞工可能尤其容易受到影響。隨著 AI 普及，政策制定者需要追蹤工作品質和招聘模式，而不只是整體就業數字。
對許多南韓人而言，最迫切的恐懼是犯罪濫用，尤其是帶有性暴力內容的深偽影像。2020 年網路性剝削醜聞「N 號房事件」及後續案件，促使南韓在 2024 年加強深偽影像相關法律。然而，根據國際特赦組織韓國分會近期論壇公布的數據，警方去年仍記錄 1,553 起與深偽影像相關的犯罪。
數位性犯罪調查團體 Team Flame 主任 Won Eun-ji 今年大部分時間與調查媒體 Newstapa 一同進入約 50 個 Telegram 聊天室。她記錄了 AI 工具如何擴大匿名加害者的範圍，並降低受害者的年齡。影像生成和換臉工具讓製作侵害性內容變得更容易，而加密或匿名網路空間則可能增加調查和究責的難度。
刑事法律只是因應措施之一，預防和支援也同樣重要。受害者需要迅速移除影像、獲得舉報侵害的實際協助，並受到保護，避免內容進一步散布。隨著 AI 工具更容易取得，公共服務政策必須考量系統可能被用來製作或散布有害內容，即使這些工具原本並非為此目的設計。
學校面臨 AI 價值的另一項考驗
教育已成為另一個爭議焦點。去年，教育工作者曾抗議政府短暫提出的計畫，該計畫擬投入 1 兆 2,000 億韓元購買 AI 教科書。他們的疑慮不只在於軟體是否可用，也質疑如果系統在學生自行解題前就給出答案，學生會因此失去什麼。
曾參與抗議的忠清南道五年級教師 Song Keun-sang 表示，AI「就是直接給你答案」，「沒有太多教育價值」。他的批評點出教育中的基本差異：完成一項任務，不等於學會如何完成。能解釋困難概念或依學生需求調整練習的工具或許有所幫助；若工具跳過閱讀、推理或寫作，則可能削弱這些能力。
閱讀成績下滑的疑慮，讓這場辯論更顯迫切，但不應將此視為 AI 造成學生表現變化的證據。學校需要有關特定工具如何影響理解力、注意力和獨立作業的證據。教師也應參與決定何時以 AI 輔助教學，以及何時不該讓 AI 介入學習過程。
課堂規範可能不同於一般公共聊天機器人的規範。學生需要符合年齡需求的保護措施、明確的資料蒐集限制，以及能評量自身理解程度的作業。AI 可以協助教師備課，或為學生提供另一種解說，但無法取代師生關係，也無法可靠地判斷每位學生的需求。
普及使用能否建立公眾信任？
「AI for All」是一項雄心勃勃的計畫，試圖將 AI 使用權視為公共基礎設施。這種模式可能縮小目前的落差，避免先進工具主要由富裕個人和大型企業取得。可靠的助理或許能協助民眾查找資訊、處理例行文書，或使用難以操作的服務。這些效益取決於工具品質，以及系統出錯時，使用者能否向真人尋求解答。
普及使用也會擴大設計決策的影響。一個私人聊天機器人的缺陷會影響它的使用者；公共服務的缺陷則可能波及更多人口。若系統連結公共紀錄或機關作業流程，資安漏洞和不準確的輸出可能造成超出單次對話的影響。嚴格的隱私限制、獨立測試、明確的系統效能紀錄，以及申訴管道，都將影響這項服務能否贏得信任。
南韓擁有強大的科技產業，也有資源進行大規模試辦。核心挑戰在於讓這項服務不僅具備技術能力，也能向公眾負責。這意味著必須說明系統蒐集哪些資料、指出誰應為錯誤負責，並公布足夠資訊接受外部檢視。此外，還要衡量服務是否真正幫助民眾，而非把使用者人數或功能數量當成成功證明。
這項推廣計畫將檢驗，公共投資能否擴大使用機會，同時在犯錯代價重大的領域保留人類判斷。南韓的法律和安全研究院提供了制度框架，但當 AI 進入教室、職場和政府機關後，成效仍須看實際運作情形。
重點
- 南韓計畫推出免費 AI 試辦服務，由與 SK Telecom、KT 和 Kakao 有關的聯盟負責。
- 政府希望將 AI 打造成永久性的公共服務，並串接預約和稅務諮詢等服務。
- 《人工智慧基本法》要求人類監督、影響評估，以及標示合成內容。
- 就業疑慮包括 15 至 29 歲就業人口減少，且減幅集中在容易受到自動化影響的產業。
- 警方去年記錄 1,553 起與深偽影像相關的犯罪，AI 工具助長性暴力的問題持續受到關注。
- 教師質疑 AI 教科書，認為即時提供答案可能妨礙學習。
