Nvidia攜手台灣夥伴推出DSX POD,目標14天部署AI

閱讀時間 8 分鐘
Nvidia Unveils DSX POD With Taiwan Partners, Targeting AI Deployment in 14 Days

七個AI機櫃、一個貨櫃,縮短創造營收所需時間

Nvidia推出DSX POD模組化AI工廠設計,將七個Vera Rubin NVL72運算機櫃裝進貨櫃,在出貨前完成組裝與測試。該公司表示,在已備妥的場址,部署時間最快可縮短至14天;傳統安裝與整合則約需六個月。

目錄
  1. 七個AI機櫃、一個貨櫃,縮短創造營收所需時間
  2. DSX POD內部裝載了什麼?
  3. 工廠組裝如何改變時程
  4. 台灣夥伴進一步投入完整系統
  5. 電力與冷卻仍是每次部署的關鍵
  6. 除了安裝,也要管理電力
  7. 延遲數週的代價可能十分高昂
  8. 運送可運作系統成為工程課題
  9. 貨櫃式方案與傳統資料中心的定位
  10. 重點整理

這項設計於GTC Berlin公布,並在2026年日期為10月21日的公告中說明,將六家台灣企業納入全球交付網絡:透過Ingrasys參與的鴻海、台達電、技嘉、和碩、廣達雲端科技(QCT)及緯創。全球交付預計於2027年初展開。

14天指的是目的地已備妥所需電力、冷卻、網路及支援設施後的部署時間。土地整備、地基、電力連接及其他設施建置,仍屬於整體專案時程的一部分。

Nvidia的商業論點很直接:在目的地需要組裝的電纜、管線與系統越少,昂貴的處理器就能越早開始投入實際工作。AI工廠是為訓練AI模型或替客戶執行模型而設計的資料中心。其產出包括token,也就是模型處理與生成的文字或其他資訊片段。

Nvidia創辦人暨執行長黃仁勳說明這類基礎設施開始創造價值的時點:

AI工廠開始產出token時,就開始創造價值

因此,對營運商而言,目標不只是完成建設,而是更具體的「首個生產token所需時間」:新設施開始為實際客戶工作負載執行模型的那一刻。只要客戶已準備好使用運算容量,越早投入營運,企業就越早有機會銷售運算服務。

廣告

DSX POD內部裝載了什麼?

一個運算貨櫃的七個NVL72機櫃合計搭載504顆Rubin圖形處理器(GPU)。GPU能同時處理大量運算,因此適合AI所需的龐大數學運算工作。將數百顆GPU連接在一起,就能分攤單一處理器難以負荷的工作。

貨櫃重量約28,000公斤,也就是28公噸,尺寸與標準貨櫃相近。其整合系統包含約1,000萬個零件及3,500條電纜。連接線路包括約20公里、用於連接處理器的NVLink銅纜,以及17公里、用於整個運算系統通訊的網路線。

Nvidia的設計不只涵蓋運算機櫃,也包括儲存、服務與管理功能、電力分配、冷卻、控制系統,以及貨櫃之間的連接。儲存系統必須快速傳輸訓練資料、模型資訊及保存的進度,才能確保處理器持續有工作可做。

因此,這是一套參考設計,而非由Nvidia全程製造的單一成品。參考設計為合作夥伴提供共同的工程基礎,包括配置、介面與測試要求,合作夥伴據此打造並支援客戶的安裝專案。

工廠組裝如何改變時程

傳統安裝作業需要施工團隊在目的地安置機櫃、鋪設電纜、連接冷卻管線,並測試相互連結的設備。這些工作仰賴不同專業人員依序到場、備妥所需零件,同時也要配合建築與公用設施的完工進度。

DSX POD將許多可重複的作業移至製造廠完成。合作夥伴會在出貨前完成機櫃間連接、電氣配線、冷卻管線及功能檢查。同一時間,目的地的團隊則可準備地基、電力、外部冷卻系統及網路連線。

因此,工廠作業與場址整備可以同步進行。交貨後,施工人員會安置貨櫃、連接相鄰貨櫃與外部服務系統,檢查運輸後的狀況並完成試運轉。試運轉是確認互連後的設施能否在工作條件下依預期運作。

廣告

Nvidia超大規模運算副總裁Ian Buck將貨櫃到場後的流程描述為安置、連接及最終測試。老化測試是最終流程的一部分,會讓設備持續運轉,以便在正式服務前找出故障。Nvidia預期,將整合工作移至工廠完成,可降低安裝期間受到零件延誤及昂貴失誤影響的風險。

部署分為三個主要階段:

  • 2026年10月21日:Nvidia於GTC Berlin公布DSX POD。
  • 部署前:合作夥伴組裝並驗證貨櫃,目的地團隊則準備支援基礎設施。
  • 2027年初:預計開始全球交付;在已備妥的場址,部署目標最快為14天。

台灣夥伴進一步投入完整系統

鴻海旗下Ingrasys參與DSX POD早期設計與製造工作。其加入使鴻海與其他台灣企業並列,這些企業的業務橫跨運算系統、電力基礎設施及製造整合。QCT隸屬廣達;台達電、技嘉、和碩與緯創則是Nvidia列出的其他台灣夥伴。

整個合作生態系共有17家夥伴。除了上述六家,還包括Anduril、Armada、Bull、Crusoe、DayOne、Dell Technologies、Eaton、HPE、Lenovo、Schneider Electric及Vertiv。名單涵蓋運算設備製造商,以及電力、冷卻、模組化基礎設施與部署相關企業。

Nvidia提供經驗證的設計基礎。設備製造商整合運算系統;基礎設施專家調整電力與冷卻配置;模組化供應商打造外殼並整合子系統;場址合作夥伴則負責場地準備、安裝及試運轉支援。

鴻海的參與也延續其與Nvidia於2025年公布的台灣超級電腦中心計畫。該計畫預計投資14億美元,供電容量為27百萬瓦,目標是在2026年上半年開始營運。這項由Visonbay.ai以Blackwell GB300系統為核心開發的計畫,展現鴻海擴大布局AI基礎設施製造及運算容量服務的方向。

DSX POD將雙方合作中的製造業務延伸至更大型的整合單元。更多組裝、測試與運輸工程都在交付前完成,讓工廠負責更大比例的可運作系統整合工作。

廣告

電力與冷卻仍是每次部署的關鍵

Nvidia於10月21日發布、由產品管理資深總監Premal Savla撰寫的DSX POD技術說明,詳述採用800伏特直流電的標準輸入設計,涵蓋電氣保護、配電、接地、機櫃連接、控制系統及遙測,也就是用於監測設備的測量資料。

合作夥伴必須依各地條件設計上游電力供應與轉換設備。各地的電氣規範、可用設備及電網配置各不相同。貨櫃邊界採用共同介面,讓核心設計可以重複使用,同時依當地情況調整外部供電系統。

液冷系統會帶走高密度運算機櫃產生的熱。工廠團隊可在出貨前組裝、沖洗並對內部管線進行壓力測試、檢查是否漏水,並驗證感測器。目的地團隊之後將貨櫃連接至已備妥的供水與散熱設施,並確認整套冷卻迴路運作正常。

Nvidia也曾說明DSX整體架構中的冷卻方式,可接受45攝氏度的進水,並使用搭配乾式冷卻器的封閉式迴路。封閉式迴路會反覆循環冷卻液;乾式冷卻器將熱量傳至室外空氣,而非依賴水分蒸發。

該公司估計,以2吉瓦規模採用這種方式的合適設施,每天最多可節省5,400萬公升用水。這是針對極大型部署的預估值。實際用水量取決於冷卻配置、當地氣候,以及比較對象的設施。

除了安裝,也要管理電力

Nvidia更廣泛的DSX平台包含MaxLPS,可動態將電力分配給有需求的運算工作。該公司表示,這項技術最多可在耗電量減少30%的情況下,達到相同產出。軟體也能協助營運商依設施可用電力安排工作負載。

DSX Flex則處理另一項限制:電網其他地方的用電需求。它透過應用程式介面(API),讓資料中心系統自動與電力業者協調。尖峰用電期間,部分運算工作可以延後或縮減,將容量留給其他使用者。

廣告

Buck形容,運作方式正從依賴電話聯繫,轉向自動化協調。對營運商而言,這代表規劃時必須同時考量電力供應上限與工作負載的時間安排。可以暫停的訓練工作,排程需求就與必須立即回應的客戶服務不同。

黃仁勳在柏林將AI基礎設施概括為五個相互連結的層次:電力、先進運算、AI工廠、模型及應用程式。DSX POD著重於加快實體層投入運作,電力管理工具則協助提升已安裝運算容量的運作效率。

延遲數週的代價可能十分高昂

黃仁勳在GTC Berlin以一個大型財務案例說明:一座耗電1吉瓦的AI工廠造價可能約500億美元,每年營收約400億美元。以這個假設營收計算,延遲三個月就相當於錯失約100億美元營收。

黃仁勳談到這項估算時表示:

100億美元的營收,任何人都會感到焦慮

這項計算說明了Nvidia為何重視讓已安裝的硬體盡快投入服務。該公司的營收假設是以特定規模運作的假設性設施為基礎。各營運商的回報仍取決於需求、使用率、價格與營運成本。

黃仁勳也表示,從設備到貨、安裝到開始產出token的時間,已從四至五個月縮短至約一個月。DSX POD公布了更明確的目標:在已備妥的場址,部署最快可縮短至14天;相較之下,公告所列的傳統部署時間約為六個月。

Nvidia也將Vera Rubin定位為AI代理的運算平台;AI代理是能運用模型與工具執行任務的軟體。黃仁勳表示,過去十年AI效能提升了100萬倍,並稱Vera Rubin相關處理效能在兩年間達到Blackwell的30倍。這些都是Nvidia提出的效能主張;部署方案則處理另一項實際工作,也就是如何將這些運算容量完成連接並投入運作。

運送可運作系統成為工程課題

裝載已安裝機櫃的貨櫃,需要考量的不只是卡車空間。Nvidia的技術設計涵蓋結構負載、設備固定、重量分布、重心、吊掛點及搬運所需空間。設備在運輸與安裝期間,都必須符合機械、電氣及冷卻方面的要求。

廣告

合作夥伴會在出貨前記錄設備配置與測試狀態、固定設備,並在抵達後重複指定檢查。工廠驗證可包括韌體版本、電力檢查、網路連線、感測器、冷卻系統完整性及整合系統測試。韌體是用來控制硬體的基礎軟體。

標準標籤、電纜路徑及維修空間,對正式啟用後的維護同樣重要。技術人員必須能辨識連接點、接觸設備,並在不拆除無關系統的情況下更換零件。標準化配置也讓營運商能以一致的單元規劃擴充與維護。

貨櫃式方案與傳統資料中心的定位

模組化資料中心在歐洲與台灣已有發展歷史。德國於2025年啟用的JUPITER超級電腦,使用約50個預製貨櫃模組。台達電已開發20英尺貨櫃式AI資料中心,技嘉也在2026年台北國際電腦展展示GADU模組化資料中心解決方案。

Nvidia將DSX POD定位於需要快速增加數百兆瓦容量的專案。對於吉瓦級園區,傳統建築仍是選項,大型永久設施可受惠於規模經濟。永久設施籌備期間,貨櫃式方案也可先讓AI應用投入運作。

Electricity Express總經理劉耀元提醒,即使貨櫃可以快速安裝,設施要開始運作前,仍須備妥完整供電與備援基礎設施。他的提醒凸顯剩餘建設工作在專案規劃中的重要性:營運商必須協調工廠交貨日期與目的地的準備進度。

Nvidia尚未公布DSX POD價格、各合作夥伴的詳細供應分工或客戶採購量。14天目標仍待實際部署驗證,首批交付的2027年初確切日期也尚未公布。因此,規劃專案的客戶必須將公布的交付時間與自身公用設施、建設及試運轉時程相互配合。

重點整理

  • Nvidia於2026年10月21日在GTC Berlin公布DSX POD,預計2027年初開始全球交付。
  • 一個運算貨櫃整合七個Vera Rubin NVL72機櫃與504顆Rubin GPU,並在出貨前完成整合與測試。
  • Nvidia的目標是在電力、冷卻、網路及場址支援基礎設施備妥後,最快14天完成部署。
  • 台灣合作夥伴包括透過Ingrasys參與的鴻海、台達電、技嘉、和碩、QCT及緯創。
  • 這項設計採用800伏特直流電輸入,並在工廠整合運算、儲存、網路、電力及液冷系統。
  • 價格與客戶訂購量尚未公布;採用模組化方案的同時,傳統資料中心建設仍持續進行。
分享本文

您可能也喜歡