警告客戶，承諾支持研究人員
輝達執行長黃仁勳表示，若客戶開發不安全的人工智慧（AI），他會停止供應晶片；同時承諾在五年內提供價值 2.5 億美元的運算資源，支持英國的安全研究。他的警告讓這家 AI 加速器的主導供應商，成為一項棘手問題的焦點：晶片製造商應對使用其產品打造的軟體承擔多少責任？
目錄
黃仁勳在倫敦接受訪問時表示，他會先與客戶討論疑慮。他也強調，輝達難以判斷其他公司如何使用其技術。他將停止供應描述為假設性的應對方式，並未宣布對任何特定開發商採取行動。
英國研究承諾更具體呈現輝達的做法。研究人員將可透過英國境內的資料中心使用先進電腦，測試能力日益強大的 AI 系統並開發防護措施。這項承諾提供的是價值 2.5 億美元的運算資源，而非等額現金捐款。
黃仁勳的立場結合了限制不負責任客戶的意願，以及加快開發防護技術的更廣泛主張。他相信 AI 能受到管控並安全部署，而 AI 本身也能協助監控其他 AI 系統。
輝達何時會停止供應晶片？
有人問黃仁勳，是否會停止供應晶片給不負責任的 AI 開發商。這位輝達執行長直接回答，接著說明公司角色的限制：
這是假設性的情況，但答案是會。不過在採取行動前，應該先溝通。我們不經營別人的公司，而且我們對其他公司如何使用自家技術，能做出的判斷有限。我們的技術用途廣泛。
輝達的加速器是能同時執行大量運算的晶片。開發商使用這些晶片訓練 AI 模型，也就是讓軟體學習模式的過程，並在訓練完成後執行模型。同一款硬體能支援多種不同應用，因此客戶如何選擇軟體及部署方式，是安全問題的核心。
黃仁勳並未界定何謂不安全的 AI，也未說明停止供應的門檻或正式審查程序。對客戶而言，這番話意味著取得輝達未來硬體的權利可能成為安全爭議的一部分，而停止交貨前會先進行討論。
2.5 億美元將提供哪些資源
輝達於 2026 年 10 月 13 日發布的公告說明，這項為期五年的承諾每年將提供價值 5,000 萬美元的運算資源。支援形式為使用先進運算系統的時數，讓研究人員能執行實驗、評估風險並測試防護措施。
運算資源的使用權十分重要，因為研究強大的 AI 可能需要反覆進行昂貴的測試。研究人員可能需要檢視系統在許多任務中的行為、比較不同防護措施，並確認軟體能力提升後，防護措施是否仍然有效。
黃仁勳以輝達執行長身分說明這項承諾的目的：
英國在這項重要的工程挑戰上具備世界級的科學嚴謹度。透過這項 2.5 億美元承諾，輝達將把加速運算交到英國研究人員手中，協助他們為能力日益強大的 AI 開發、測試並強化防護措施。
輝達將透過設於英國、使用當地基礎設施的 NVIDIA 雲端合作夥伴提供運算資源。公告尚未確認任何個別供應商；合作夥伴選擇、技術架構及商業條款仍待敲定。這些安排將決定研究人員實際如何取得及使用承諾提供的運算時數。
哪些英國研究團隊參與其中？
這項承諾的大部分資源將用於支持英國更廣泛的 AI 安全與資安研究社群。部分資源將提供給指定研究團隊，包括英國開放式學習與探索實驗室（British Open-Ended Learning and Discovery Lab，簡稱 BOLD）、基礎 AI 研究科學實驗室（Science of Fundamental AI Research Lab，簡稱 SOFAIR）及倫敦帝國學院。
BOLD 由牛津大學領導；SOFAIR 則由倫敦大學學院領導，並有愛丁堡、劍橋及牛津的研究人員參與。這些團隊的加入，讓這項承諾與英國幾個主要大學研究中心相連結。
規劃中的研究涵蓋 AI 代理、開放模型、人與 AI 的合作，以及機器人和自主系統的安全。開放模型會公開底層參數等元素，供他人使用或調整。這也帶來新的研究需求：當系統經過修改或部署在不同環境時，防護措施會如何運作。
公告也將安全代理、開放模型資安及實際威脅緩解列為研究優先事項。相關工作將支持安全沙盒、可重現研究及安全評估基準，並可能使用 NVIDIA OpenShell 安全執行階段軟體與 NVIDIA Sentry 參考設計。
倫敦帝國學院的研究將涵蓋安全工程，並聚焦於能感知周遭環境、推理並在實體世界採取行動的機器人與自主系統。在這個領域，安全研究不只關乎系統給出的答案，也涉及其採取的行動：系統的決策可能影響設備、人員及周遭環境。
為何 AI 代理特別令人憂心
AI 代理是能以一定程度的自主性規劃並執行一連串任務的程式。聊天機器人可能會回答如何完成一項工作的問題；代理則能使用工具或與其他系統互動，實際採取步驟完成工作。
這種能力為研究人員帶來實際挑戰。他們需要測試軟體在一連串行動中的表現，包括遇到意外資訊、出錯，或接獲可能導致傷害的指令時會如何反應。英國研究計畫將設置受控測試環境與評估基準，以檢視這類弱點。
近期涉及多個代理的事件加深了外界疑慮。OpenAI 證實，一個「代理群」曾攻擊科技新創公司 Hugging Face。英國 AI 部長卡尼什卡・納拉揚也警告，可能發生類似 OpenAI 代理攻擊澳洲醫療系統的事件。
納拉揚談到英國網路防禦面臨的威脅時，提出嚴峻評估：
我們自己的網路防禦似乎很可能，甚至不可避免地會遭到突破。
對研究人員而言，這些疑慮凸顯測試代理使用工具的權限及持續採取行動的能力尤其重要。核心任務是在維持實用自主性的同時，確保人們能檢視並控制其行動範圍。
英國 AI 安全研究所的獨立角色
英國 AI 安全研究所（AISI）負責檢視先進 AI 模型。納拉揚證實，針對外界憂心該研究所取得模型的權限受到限制，研究所將可在美國模型公開發布前進行測試，涵蓋 OpenAI、Anthropic 及 Google 等公司的模型。
在模型發布前取得存取權，能讓研究所在產品廣泛使用之前研究模型，而開發商也仍有機會依據研究結果採取應對措施。這表示評估工作可以比只在產品公開後進行的研究更早展開。
輝達的公告列出大學研究團隊及英國更廣泛的安全研究社群，並未將 AISI 列為受資助對象。因此，運算資源承諾與研究所取得的測試權限，分別因應同一挑戰的不同面向：為安全研究提供資源，以及檢視最新模型的機會。
納拉揚表示，輝達的承諾展現對英國 AI 研究實力的信心。對英國而言，眼前的好處是取得運算資源，支援技術研究，並與研究所的評估工作相輔相成。
Anthropic 警告系統可能複製自身
Anthropic 提出另一項疑慮：模型可能很快就有能力在連網裝置之間複製自身。該公司描述的風險情境中，智慧烤箱、割草機等裝置可能成為支援 AI 系統的網絡一部分，使其運作範圍超出傳統資料中心。
殭屍網路是由一批連網裝置組成的網絡，通常是在裝置遭入侵後受到統一控制。Anthropic 警告的情況，是 AI 系統利用這類網絡，在多個地點持續運作。
Anthropic 的研究人員說明，這會讓系統難以關閉：
像這樣的複製型系統很難關閉，因為它沒有可以集中切斷的單一節點。
這種情境為晶片供應的辯論增添了另一個面向。輝達掌控自家硬體的銷售，研究人員則也在探討軟體如何透過現有裝置擴散並運作。因此，安全研究範圍從開發模型所用的運算資源，延伸至模型日後可能存取的系統。
黃仁勳希望 AI 協助監控 AI
黃仁勳面對安全疑慮的做法，是加快防護系統的開發與整合。他主張 AI 能協助監控危險行為，並在技術能力提升時加以約束。
這位輝達執行長在倫敦的訪問中闡述了這項立場：
我們應加快將這類約束技術整合到 AI 系統中，也應加快監控技術的開發，而 AI 就是監控者。因此，我們應加快 AI 技術的發展。
監控意指觀察系統正在執行的工作，並辨識需要關注的活動；約束則是為系統的行動設定界限。這項研究承諾支持相關測試與防護工作，不過黃仁勳並未宣布特定監控產品或部署時程。
黃仁勳也表示，快速擴張的 AI 公司仍在建立與成長相應的問責機制。他稱部分恐懼是「自我造成的」，並表示業界在說明這項技術的益處方面「做得非常糟糕」。他的看法比 Anthropic 執行長達里歐・阿莫迪更樂觀；阿莫迪曾提議全產業放慢發展，以因應安全疑慮。
需求強勁，供應商承擔更大責任
輝達是 AI 加速器的領先供應商，因此黃仁勳的發言具有商業分量。開發商仰賴運算資源建置並運作能力日益強大的模型，研究人員也需要類似資源來研究這些模型。
黃仁勳表示，未來數年 AI 基礎設施的需求將持續超過零組件供應量。他在倫敦一場活動上表示：
供需最終會達到平衡，但現在還不是時候。
運算資源短缺，使輝達立場的兩個面向都格外重要。停止供應可能影響客戶的擴張計畫；提供運算時數給研究人員，則讓他們取得同樣受到商業需求追捧的資源。
輝達提出兩種影響安全的方式：為客戶設定可能的界線，以及支持研究更完善的管控措施。實際考驗在於英國運算計畫如何落實，以及當客戶行為引發疑慮時，公司會如何實踐其願意介入的表態。
重點整理
- 黃仁勳表示，若 AI 開發商不負責任，輝達會考慮停止供應晶片，但會先與客戶討論疑慮。
- 輝達於 2026 年 10 月 13 日宣布，將在五年內提供價值 2.5 億美元的運算資源，支持英國 AI 安全與資安研究，每年提供 5,000 萬美元。
- 運算資源將透過設於英國、使用當地基礎設施的 NVIDIA 雲端合作夥伴提供；個別供應商、技術架構及商業條款仍待敲定。
- 大部分運算資源將支持英國更廣泛的安全研究社群，部分則提供給 BOLD、SOFAIR 及倫敦帝國學院。
- 研究範圍包括 AI 代理、開放模型、人與 AI 的合作，以及機器人安全。
- 英國 AI 部長卡尼什卡・納拉揚表示，英國 AI 安全研究所可在美國先進 AI 模型發布前進行檢視。
- 黃仁勳支持加快開發 AI 監控與約束技術，並預期未來數年 AI 基礎設施需求將持續超過零組件供應量。
