96 顆加速器組成的機櫃，支撐微軟下一波 AI 布局
微軟公布 Maia 300 AI 加速器，其運算晶粒將採用台灣積體電路製造公司（台積電）的 N2P 製程，並預計自 2027 年起部署於正式環境。這項公告為微軟的目標提出了具體設計：讓自研 Maia 硬體成為旗下產品與服務執行 AI 推論的主要系統。
目錄
規劃中的機櫃將整合 96 顆加速器，功耗上限為 167 千瓦，配備 27.6 TB 高頻寬記憶體，整體記憶體頻寬約為每秒 1.7 PB。微軟預期，Maia 300 每百萬瓦可產生的 token 數量，將比採用圖形處理器（GPU）的領先系統高出 40%；單一機櫃的輸出量最高則可達 Maia 200 機櫃的 7 倍。
這些數據是微軟提出的效能主張，並非獨立基準測試結果。不過，它們仍顯示微軟的投資方向：在資料中心的電力、散熱與空間限制內，提升有效 AI 輸出量，而不只是增加單顆晶片的運算能力。
微軟雲端暨 AI 執行副總裁 Scott Guthrie 在公司 2026 年 10 月 12 日發布的 Azure Maia 公告中說明部署計畫。
我們將從 2027 年起，把 Azure Maia 家族擴展至數吉瓦規模的部署，讓 Maia 成為微軟產品與服務的主要推論系統。
這項承諾涵蓋 Maia 家族，而非僅限 Maia 300。有報導稱微軟可能在 2027 年部署超過 100 萬顆 Maia 300 晶片，但這超出已發布公告的內容。公告確認了起始年份，卻未說明晶片數量，也沒有提出更廣泛擴建計畫的完成期限。
台積電 N2P 製程將用於哪些晶片
微軟的確認比籠統地將 Maia 300 描述為 2 奈米晶片更為明確。運算晶粒採用台積電 2 奈米製程家族中的 N2P；記憶體控制器以及輸入、輸出功能則配置在獨立晶粒上，讓封裝內不同部分能採用適合各自用途的製造技術。
小晶粒是能與封裝內其他晶粒協同運作的較小矽晶片。在 Maia 300 中，這種分工讓微軟能以先進製程製造運算功能，同時將連線、記憶體控制與成本視為各自獨立的設計選項。這不代表封裝內的每顆晶粒都採用 N2P。
微軟於 10 月 12 日發布的 Maia 300 架構分析明確說明了這項分工。文章由 Azure 硬體系統與基礎架構總裁 Rani Borkar，以及系統規劃與架構企業副總裁 Saurabh Dighe 撰寫。
文件指出，架構改良使系統浮點運算吞吐量提升 36%、HBM 頻寬提高至 2.5 倍，並使加速器間的通訊頻寬增加 14%。這些數據描述的是系統內不同的資源；任何一項都無法單獨解釋機櫃 token 輸出量據稱提升 7 倍的原因。
記憶體的重要性不亞於運算能力
Maia 300 主要是為推論而設計，也就是使用已訓練完成的模型產生答案或執行任務。目標工作負載包括長文件推理、需要快速回應的對話，以及能長時間執行多個步驟並使用工具的 AI 代理。
這類工作負載可能花費大量時間搬移模型資料與已儲存的對話資訊，而非進行算術運算。因此，微軟為每顆加速器配置 8 組 HBM4 記憶體堆疊，提供 288 GB 容量與每秒 18 TB 的峰值頻寬，熱設計功耗為 950 瓦。熱設計功耗是電力與散熱的設計規格，並非持續耗電量的測量值。
微軟表示，相較 Maia 200，Maia 300 的記憶體容量增加 33%，頻寬則提高至 2.5 倍。容量差異與外界報導的數字相符：每顆加速器從 216 GB 增至 288 GB，增加 72 GB。
頻寬單位需要留意。有些報導以每秒太位元（terabits）表示前一代晶片的頻寬，並以每秒拍位元（petabits）表示新機櫃的頻寬。微軟的 Maia 300 文件使用的單位則是每秒 TB 與 PB。位元與位元組相差 8 倍，因此以不同單位表達的數據不能視為相同。
軟體掌控資料的流向
Maia 300 延續微軟的軟體定義本地存取資料流架構（Software Defined Locally Accessed Dataflow Architecture，SDLA）。實際上，這讓軟體能明確控制資料的存放位置、移動方式、格式轉換時機，以及如何協調運算引擎、記憶體與網路上的作業。
新設計在不同小晶粒間採用非均勻記憶體配置。部分記憶體比其他記憶體更靠近特定運算區域，因此軟體可將資料放在所需運算引擎附近，減少資料搬移。位於晶粒上的快速記憶體 SRAM 也由軟體管理，作為暫存工作區，降低對 HBM 的需求。
微軟也將這些改良與更廣泛的精簡數值格式支援結合，包括 MXFP4 和每個數值使用不到 3 位元的儲存格式。這些表示方式可減少資料占用的記憶體空間，以及推論期間必須搬移的位元組數。其效益取決於軟體與模型是否支援，而非只靠較小的格式就能達成。
這項設計也著眼於 KV 快取。KV 快取會儲存模型已處理過的 token 資訊，避免模型每個步驟都重新計算。當對話變長，或必須同時服務大量使用者時，讓快取維持精簡尤其重要。
微軟 AI 執行長 Mustafa Suleyman 將硬體計畫與公司的模型開發工作連結起來，說明團隊為何希望掌控模型底層的平台。
達到這種規模時，我們需要一個由自己擁有、並與模型共同設計的平台。這就是為什麼讓 Microsoft AI 模型運行在 Maia 晶片上，是我們團隊的核心工作。
從單一機櫃擴展至 12,288 顆加速器
一個 Maia 300 機櫃包含 24 個托盤，每個托盤裝有 4 顆加速器，以及相應的主機處理器、記憶體、儲存設備與散熱系統。機櫃加速器數量是 Maia 200 的兩倍，從 48 顆增至 96 顆。將主機設備整合進這些托盤，就不必另外設置主機托盤，並能騰出空間容納更多加速器。
微軟的網路設計最多可連接 128 個機櫃，組成含有 12,288 顆加速器的超級機櫃群。機櫃內採用電氣連線，機櫃間則採用光學連線，並以乙太網路為基礎建置客製化 AI 傳輸架構。
這個網路讓整個超級機櫃群對軟體呈現單一通訊模式。加速器可直接向其他加速器發起資料傳輸，不必透過主機處理器，機櫃間通訊也不必經過獨立網路介面。
模型分散在多顆晶片上時，這點特別重要。張量平行運算會把模型的部分計算工作分配給多顆加速器，並要求它們頻繁互通。微軟表示，軟體可將需要最短回應時間的流量留在同一個機櫃內，同時把其他工作分散到更大的範圍。
同一個網路也能將提示詞的初始處理與後續答案生成分開。儲存的 KV 資料可直接在負責這兩個階段的工作節點間移動。如果某個機櫃的容量無法使用，其他機櫃的閒置加速器也能接手，不過較長的通訊路徑會增加延遲。
效能主張實際比較的是什麼
微軟提出兩項應分開看待的主要比較。每百萬瓦 token 數量預期增加 40%，比較對象是採用 GPU 的領先系統；單一機櫃 token 輸出量最高提升至 7 倍，則是比較完整配置的 Maia 300 機櫃與 Maia 200。
token 是語言模型處理文字的單位，通常是詞的一部分，而非完整詞語。token 吞吐量衡量輸出量，但無法單獨反映答案品質、個別使用者的回應速度，或模型在所有情境下的效能。
架構文件對 Maia 200 的效率也使用不同說法。機櫃章節稱每瓦效能最高可達 2.5 倍，結論部分則稱超過 2.5 倍。缺乏詳細測試條件時，不應將這些說法合併成單一保證數據。
加速器數量有助於解釋機櫃輸出量的部分增幅：Maia 300 的晶片數量是前一代的兩倍。因此，聲稱吞吐量提高 7 倍，不只是增加晶片密度，還結合記憶體、軟體、網路與執行效率的改良。這不代表每顆晶片的效能提高 7 倍。
加速器 950 瓦的規格，也不同於機櫃 167 千瓦的功耗上限。96 顆加速器各耗 950 瓦，合計為 91.2 千瓦。機櫃數據涵蓋更廣泛的系統，包括主機、記憶體、網路與供電，因此兩個數值描述的範圍不同。
散熱與電力左右部署規模
每個機櫃功耗達 167 千瓦，Maia 300 必須整合電力與散熱設計。微軟表示，液冷可帶走加速器、穩壓器與網路交換器晶片產生的逾 80% 熱量；記憶體、儲存設備與其他元件則由氣冷處理。
機櫃可在設施具備條件時直接連接供水系統，或在仰賴氣冷的資料中心使用熱交換器。雙路電源與自動切換開關，則可在其中一路電源因維護而關閉時，協助維持系統運作。
機櫃與列級的電力測量數據會回傳至資料中心營運系統。微軟表示，這些資訊有助於演算法分配電力、安排工作負載位置，並調整部署密度，使其符合可用電力與散熱容量。
微軟總經理 Alistair Speirs 在談到新架構時，說明了效能與營運成本的關聯。
我們需要新的架構，讓整體效能更好，也能更有效運用現有電力。
因此，數吉瓦部署目標不只是晶片採購計畫，也代表大規模基礎設施投入，涵蓋機櫃、網路、電力容量與散熱。已發布的公告並未說明部署地點、各地區的分配情況，或相關容量的完成時程。
Maia 200 是起點
微軟表示，Maia 200 已用於正式工作負載，包括 Microsoft Copilot，並支援 MAI 團隊開發新模型。它可執行 OpenAI 模型、微軟自家的 MAI 模型，以及主要開源模型系列，目前部署於美國、歐洲與澳洲。
關於 GitHub Copilot 與 Microsoft Foundry 的部署進度，報導說法不一。一篇報導稱兩者已在 Maia 200 上執行正式工作負載；微軟 10 月 12 日的聲明則表示，預計於 2026 年底前跟進。描述兩者進度時，以官方時程為較可靠的依據。
微軟表示，相較於領先的 GPU 基礎架構，Teams、Copilot 與 Cowork 體驗內建 AI 功能的每瓦 token 數量最高可增加 1.7 倍。微軟也列出未來用途，涵蓋程式撰寫輔助、雲端模型服務、推論，以及為 MAI 產生資料；Dragon Copilot 則將用於臨床工作流程。
公告與計畫里程碑如下：
- 2023 年：微軟推出首款自研 AI 加速器 Maia 100。
- 2026 年 1 月：微軟宣布 Maia 200。
- 2026 年 10 月 12 日：微軟公布 Maia 300 架構，並確認 Maia 200 已用於正式工作負載。
- 2026 年底前：GitHub Copilot 與 Microsoft Foundry 預計跟進，轉至 Maia 200 上執行。
- 2027 年：Maia 300 開始部署於正式環境，Maia 家族也開始擴展至數吉瓦規模。
微軟技術院士 Jim Kleewein 表示，Maia 300 應能加快部分 Microsoft 365 Copilot 功能的執行速度，但目前尚未公布使用者回應時間改善的具體數據。
台積電與台灣伺服器產業的重要性提升
Maia 300 確認台積電將參與另一家大型雲端公司的先進 AI 硬體供應鏈。加速器由微軟設計，運算晶粒則由台積電以 N2P 製程製造。因此，減少對外購 GPU 的依賴，並不代表不再依賴半導體製造產能。
台積電表示，採用 2 奈米製程的 5 座廠區將於 2026 年逐步量產，其中 2 座位於新竹，3 座位於高雄。N2P 預定於 2026 年下半年進入量產，早於微軟計畫在 2027 年開始部署的時間。
市場估計，到 2026 年底，台積電 2 奈米月產能約為 9 萬至 10 萬片晶圓，至 2027 年年中將超過 11 萬片。預測認為，該製程可能貢獻下半年營收近 10%；這是市場預估，並非已確認的 Maia 訂單營收。
台積電公布的目標包括：2 奈米製程量產第一年的晶圓產出量，較 2023 年 3 奈米製程量產第一年高出 45%；2026 年至 2028 年間，2 奈米產能年複合成長率達 70%。這兩項目標都無法據此判定微軟能取得多少產出。
更廣泛的市場預測將鴻海、廣達、緯創、緯穎、和碩、英業達、仁寶與神達列為 AI 伺服器需求成長的潛在受益者。預測指出，AI 伺服器出貨量將從 2026 年的 350 萬台增至 2027 年的 520 萬台。這些經四捨五入的總數代表約 49% 的成長，略高於另一項單獨提出的 46% 預測。
預測也指出，美國主要雲端服務商 2026 年資本支出將增加 96%，其中約半數增幅來自資料中心建設。鴻海預期 AI 機櫃年出貨量將增加逾一倍；廣達則維持 AI 伺服器至少成長 100% 的目標。這些是更廣泛的產業預期，並不代表已確認取得 Maia 300 供應合約。
Nvidia 仍是計畫的一部分
微軟的目標是讓 Maia 成為自家產品與服務的主要推論系統，而非取代 Azure 中所有 GPU。訓練新模型仍是另一項需求，微軟也持續與 Nvidia 和 AMD 合作處理這類工作。
微軟在 7 月的財報電話會議中表示，預期將成為首批部署 Nvidia Vera Rubin 與 AMD Helios 系統的雲端服務商之一。Evercore ISI 預估，到 2027 年第一季，Maia 可能占微軟 AI 晶片支出的約 10%。支出占比與實際執行的推論工作占比不同，因此這項估算無法直接衡量微軟距離營運目標還有多遠。
Maia 加速器目前未開放其他公司按小時租用。這限制了外部評估，也代表已公布的效能主張，尚未證明獨立客戶使用特定模型時能達到什麼成效。
尚待釐清的問題包括部署數量、吉瓦級容量全面到位的時程、詳細基準測試條件，以及 Maia 與外購 GPU 最終如何分配工作負載。微軟表示，將於 11 月在舊金山舉辦的 Ignite 2026 大會及線上活動中，公布更多策略資訊。
重點整理
- Maia 300 的運算晶粒採用台積電 N2P 製程，預計於 2027 年開始部署於正式環境。
- 每顆加速器配備 288 GB HBM4 記憶體，峰值記憶體頻寬為每秒 18 TB。
- 完整機櫃配備 96 顆加速器，功耗上限為 167 kW。
- 微軟預期 Maia 300 每百萬瓦的 token 數量將比領先 GPU 系統高出 40%，單一機櫃輸出量最高可達 Maia 200 的 7 倍。
- Maia 家族將從 2027 年起擴展至數吉瓦規模，但尚未公布完成期限。
- 微軟公告並未確認 Maia 300 部署量將超過 100 萬顆的報導。
- 微軟仍計畫部署 Nvidia 與 AMD 系統，並與自研硬體並行使用。
