熟悉的金秀基行動手法加入 AI 新招
南韓一家網路安全公司在詳細分析中指出，北韓金秀基（Kimsuky）組織利用人工智慧，為網路釣魚行動製作看似逼真的南韓軍方人員識別證圖片。誘餌要求收件者檢視文職人員識別證的範例設計，這類要求在國防機構內看來再平常不過。附上的圖片看似合法證件，但調查人員表示，這些圖像是由生成式 AI 模型製作，並與可控制受害者電腦的惡意軟體一同散布。
目錄
電子郵件冒充負責核發識別證的國防相關機構。攻擊者附上仿似識別證草稿的 PNG 圖片，試圖讓收件者放下戒心。同一傳遞鏈中還藏有檔案，一旦目標與內容互動，就會啟動後門程式。這些圖片可能是透過提示商用 AI 系統，要求其製作測試用的識別證模型，而非真實證件；這種手法可能騙過自動化防護機制。
寄件者地址也仿冒可信的軍方網域。調查人員發現，攻擊者使用 .mli.kr 等假網域，模仿南韓官方國防網域尾碼 .mil.kr，藉此欺騙會留意熟悉線索的收件者。這類細微變動是常見的社交工程手法，收件者在忙碌的收件匣中快速瀏覽時，很難察覺。
這波行動最早於 7 月中旬被發現，發生在同一組織先前使用 ClickFix 類型誘餌、散布同一惡意軟體家族的活動之後。攻擊者似乎重用了先前行動中累積的經驗，如今再搭配 AI 生成圖像，讓故事更具可信度。目標包括一個軍事相關組織，以及關注北韓議題的研究人員、記者和行動人士。
網路釣魚行動如何運作
誘餌很簡單：收件者收到訊息，要求快速檢視識別證範例設計。ZIP 壓縮檔或下載連結會提供圖片及一個或多個指令碼。檔案開啟後，攻擊鏈便會執行程式碼，連上攻擊者的基礎設施、下載更多元件，並建立遠端控制能力。圖片則讓整件事看起來像無害的設計審查。
透過提示注入繞過 AI 防護
多數主流 AI 工具會拒絕製作政府核發的身分證件，因為仿製這類文件違法，且可能助長詐欺。在這起事件中，攻擊者似乎將提示包裝成內部模型用的設計範例。這種做法可能讓模型將請求判定為無害。這是一種提示注入或越獄手法，使用者透過重新界定意圖的措辭，引導模型繞過原有規則。
檢視其中一張假圖片的分析人員表示，深偽檢測工具判定該圖由 AI 生成的機率為 98%。至少一個樣本的圖片中繼資料提及 GPT 4o 和 ChatGPT，顯示攻擊者在測試或製作過程中可能使用了 OpenAI 的圖像生成流程。圖片愈像一般的識別證草稿，忙碌的員工就愈可能認為這項要求合情合理。
惡意軟體散布與入侵鏈
散布的檔案組合不盡相同。在一個已觀察到的案例中，ZIP 檔內含一個偽裝成一般文件的捷徑檔。啟動後，捷徑會執行 PowerShell 指令，連上遠端伺服器、取得後門程式，並下載作為誘餌的識別證 PNG 圖片。另一個案例中，名為 LhUdPC3G.bat 的批次檔與圖片一同執行，開始進行惡意活動，包括建立持續存取能力、竊取資料及啟用遠端控制。
這些都是魚叉式網路釣魚郵件，操作者在細節上下足功夫。有些壓縮檔以收件者真實姓名的部分遮蔽版本命名，以提高可信度，誘使目標開啟附件。假的識別證圖像、熟悉的請求類型，以及幾乎相同的寄件者網域，合在一起讓收件者放下戒心。
金秀基的目標與動機
多年來，政府機關和民間研究人員一直追蹤金秀基，將其視為北韓的情報蒐集單位。外界評估，該組織蒐集符合國家優先事項的政策、軍事和科技資訊。其受害目標通常包括政府機關、國防相關機構、智庫、學術研究人員、記者，以及關注北韓的人權組織。
6 月，研究人員記錄到以 ClickFix 為主題的電子郵件，誘導使用者按下按鈕，以解決所謂的問題。7 月的行動沿用了相同的惡意軟體及許多相同手法，再加入 AI 生成的設計範例，強化誘餌效果。這不是大規模散發，而是一場謹慎且具針對性的行動，目的是入侵特定網路和收件匣。
歸因判斷是根據多種技術與背景證據，包括共用惡意軟體程式碼、重複使用基礎設施、語言模式及目標選擇。這些跡象都與過去歸因於金秀基的活動相符。這種做法符合該組織長期以來的任務：滲透政策圈、蒐集資料，並在密切關注北韓的機構內建立據點。
冒充負責核發識別證的單位，利用的是人們熟悉的業務流程。身分文件往往需要協作審查，字型、照片和版面配置也常須來回修改，並帶有權威的意味，因此檢查範例的要求顯得平常不過。
北韓行動者濫用 AI 的趨勢擴大
這起網路釣魚行動符合更廣泛的趨勢。8 月，一家大型 AI 開發商表示，已阻止北韓行動者利用其模型製造假身分、應徵美國科技公司的遠端職缺，甚至在受聘後完成技術工作。同一份報告也說明，公司如何封鎖與這類活動有關的帳號，並更新偵測系統以因應惡意使用。
南韓和美國的安全簡報警告，北韓行動者利用 AI 工具撰寫流暢的電子郵件、製作履歷與求職信、編寫程式碼，並建立附有專業大頭照的人設。這些能力讓小型操作者也能展現大型團隊般的專業水準。技術門檻已降低；技術能力有限的人，如今也能依靠 AI 獲得指引、更快撰寫惡意軟體模組、將內容翻譯成道地的韓文或英文，並生成能通過快速目視檢查的圖像素材。
研究半島數位衝突的分析人士指出，針對南韓機構的攻擊大幅增加。2023 年的公開資料提到，政府系統每天遭受數百萬次攻擊，其中許多可追溯至北韓活動。另有聯合國報告及產業研究指出，北韓單位涉及大規模加密貨幣竊盜，所得用於資助戰略計畫。魚叉式網路釣魚、AI 輔助求職詐欺和金融竊盜，都是在制裁下蒐集情報及創造收入的同一套策略的一部分。
中國背景的操作者及其他與國家有關聯的行動者也在試用生成式 AI，但此處的重點是北韓單位迅速採用這類技術，用於間諜活動和非法籌資。網路釣魚工具與 AI 輔助內容工作室之間的界線已逐漸模糊。過去需要設計師、翻譯人員和開發人員組成團隊才能完成的工作，如今透過提示和少數開源工具便能組合完成。
AI 為何讓社交工程更具說服力
生成式 AI 擅長按需產出精緻內容。在網路釣魚情境中，這代表只需付出少量心力，就能針對目標族群量身製作圖像、文字和程式碼。逼真的識別證模型或帶有機構標誌的信箋，都能降低讀者的戒心。模型若能以正式的官僚韓語寫作、加入恰當的縮寫並維持恭敬語氣，就能產生看起來、讀起來都像真的訊息。
語言模型也能充當不知疲倦的寫作助理。它們能修正文法、仿照機構風格，並讓多封電子郵件的語氣保持一致。攻擊者可以要求模型為不同職務製作同一訊息的多種版本。模型可以寫出一份看似寄給人資主管的例行通知，也能寫出另一份讀起來像寄給 IT 主管的技術備忘錄。
在技術方面，程式碼助理能協助經驗較少的操作者串接指令碼和攻擊載荷。模型可以解釋錯誤、建議修正方式，並產生可執行的範例。若遭不當使用，這些功能會加快開發速度、降低製作惡意軟體的學習門檻。再加上文字生成和翻譯，單一操作者便能執行多語言行動，而這在過去需要一整個團隊才能完成。
身分建立是另一個支柱。模型可以協助捏造工作經歷、製作格式完整的履歷，並撰寫符合職缺需求的求職信。圖像工具則能生成經得起快速檢視的大頭照。這些能力結合起來，讓商務電子郵件入侵和長期滲透更容易得手，至少在人為與技術防禦趕上之前是如此。
防禦、偵測與政策因應
南韓已更新《國家網路安全戰略》，著重國際合作、採用先進技術及強化防禦。計畫強調運用 AI 進行即時監控、加強與合作夥伴的資訊共享，以及提升關鍵基礎設施的韌性。首爾也持續加強與美國、日本的協調，以統一政策方向，並舉行聚焦事件應變的聯合演習。
組織可透過流程、訓練和技術等多管齊下，降低仿冒網域和深偽圖像攻擊的效果。流程上的第一步是核實身分。涉及憑證或身分文件的要求應遵循書面流程，包括透過第二管道聯絡已知的官方人員。員工應學會逐字檢查網域，並在點擊前將游標移至連結上確認網址。
技術控管有助於阻止程式執行。電子郵件閘道應隔離含有巢狀壓縮檔的郵件，並封鎖捷徑檔、ISO 映像檔和指令碼等高風險附件類型。應盡可能關閉或限制 PowerShell，並使用應用程式允許清單，防止未核准的可執行檔運作。端點偵測與回應工具可偵測惡意 PowerShell 呼叫和異常對外連線。網路監控則可在使用者與電子郵件互動後，對連往不明網域的新連線發出警示。
招募和供應商審查日益成為網路防禦的一環。遠端招募流程應採取嚴格的身分查核，包括即時視訊、可信任第三方驗證，以及獨立的推薦人查證。處理敏感資料的系統應落實最低權限存取及持續驗證。例行稽核可發現異常，例如不尋常的登入地點，以及非預期時段的活動。
AI 的法律與倫理防線
這起事件凸顯 AI 採用過程中的一項矛盾。企業讓員工使用 AI 撰寫文件、編寫程式碼和處理圖像，確實能從中受益；但同樣的便利也可能遭對手濫用。AI 開發商已導入安全系統，拒絕產生有害內容並監控濫用情況，但攻擊者仍試圖以刁鑽提示繞過這些措施。防禦社群則透過分享濫用跡象、移除違規帳號，以及調整模型行為以抵禦操弄，來應對這些威脅。
政策與採購決策也很重要。機關和承包商應要求 AI 系統供應商提供稽核紀錄、濫用通報管道，以及模型強化更新。明確的企業 AI 使用規範可避免意外產生高風險內容。資安團隊應以常見的越獄提示測試模型，並為文件設計或程式碼審查等商務需求提供安全替代方案及預先核准的工作流程。
重點整理
- 金秀基在 7 月的魚叉式網路釣魚行動中，利用 AI 生成的南韓軍方識別證圖片作為誘餌。
- 電子郵件要求收件者檢視識別證範例設計，寄件網域則以 .mli.kr 仿冒官方尾碼 .mil.kr。
- 調查人員在至少一張圖片的中繼資料中發現 GPT 4o 和 ChatGPT 的相關字樣；一款檢測工具判定其中一張假圖由 AI 生成的機率為 98%。
- 散布鏈包含 ZIP 壓縮檔和指令碼，會執行 PowerShell 指令、安裝後門程式，並下載作為誘餌的 PNG 圖片。
- 目標包括一個軍事相關組織，以及關注北韓議題的研究人員、記者和人權行動人士。
- 這波行動重用了 6 月 ClickFix 主題活動中出現的惡意軟體，該活動也被歸因於同一組織。
- 根據一家大型 AI 供應商近期的報告，北韓行動者也曾利用 AI 工具建立假身分並取得遠端工作。
- 防禦措施包括嚴格核實身分相關要求、透過電子郵件和端點控管封鎖高風險檔案類型及指令碼，以及加強遠端招募查核。
