Moonshot釋出 Kimi K3.1 Pro 權重,華為與阿里巴巴同步支援部署

閱讀時間 8 分鐘
Moonshot Releases Kimi K3.1 Pro Weights as Huawei and Alibaba Add Deployment Support

一款 2.8 兆參數模型不再只透過 API 提供

Moonshot AI 已在 Hugging Face 釋出 Kimi K3.1 Pro 的完整權重,讓開發者與企業能在自有運算基礎設施上執行這款旗艦多模態模型。這項消息於北京時間 11 月 5 日清晨公布;此前,Moonshot 已於 2026 年 10 月 24 日推出這款模型,並透過 Kimi 產品及其應用程式介面(API)開放使用。

目錄
  1. 一款 2.8 兆參數模型不再只透過 API 提供
  2. K3.1 有哪些新變化?哪些特點延續自 K3?
  3. 開放權重仍受營運與授權條件限制
  4. 華為將記憶體負載分散至昇騰系統
  5. 阿里巴巴透過 SuperPoD 平台提供另一種部署途徑
  6. 程式開發結果顯示,持續執行任務的能力有所提升
  7. 3D 創作與金融領域獲得針對性改進
  8. Moonshot 公布兩組不同的事實錯誤率結果
  9. 代管代理與 API 使用方式各有取捨
  10. 重點整理

K3.1 Pro 含有 2.8 兆個參數,也就是儲存模型所學內容的數值設定。它採用混合專家架構,每次推論步驟約啟用 1,040 億個參數,而非一次動用整個模型。模型支援約 100 萬個 token 的上下文,也能理解文字以外的視覺資訊。

華為昇騰與阿里雲都在權重釋出當天宣布支援。兩者的部署採用 vLLM 與 SGLang 推論框架,這類軟體負責管理訓練完成的模型如何處理請求。對考慮在本地部署的企業而言,此次釋出除了提供可下載的權重,也帶來在中國加速器系統上執行模型的初步方案。

Moonshot 於 10 月 24 日更新的模型發布公告表示,完整權重將於 11 月 4 日前釋出;公開釋出公告則於 11 月 5 日發布。此前,公司已透過 kimi.com、Kimi App、Kimi Work、Kimi Code 與 Kimi API 開放使用。

這次釋出的實際改變,在於使用者可以決定模型在哪裡執行。API 客戶會將請求傳送至服務供應商的平台;部署權重的組織則可在自行管理的基礎設施內運作模型,但仍須遵守 Moonshot 的授權條款,也需要具備支援模型運作所需的大量硬體。

Moonshot 也推出 Kimi Hosted Agents,這是一項代管服務,可讓 AI 代理在長時間任務中持續運作。兩項消息為企業提供不同選擇:自行管理模型,或將更多營運工作交由 Kimi 負責。

廣告

K3.1 有哪些新變化?哪些特點延續自 K3?

Kimi K3.1 Pro 以 K3 為基礎進一步訓練,而非從頭訓練全新的基礎模型。Moonshot 表示,公司大幅增加強化學習所用的運算資源;強化學習會對成功的操作給予獎勵,協助模型透過反覆嘗試持續改善。

Moonshot 將這套訓練應用於數百種任務,特別著重程式撰寫、3D 創作、金融研究,以及需要執行多個步驟的代理。工程改進涵蓋訓練軟體、長上下文處理、工作排程,以及可供生成程式碼執行的沙箱環境。

約 100 萬個 token 的上下文視窗沿用自 K3。Token 是模型拆分文字及其他輸入內容後形成的單位。較大的上下文視窗可讓模型在處理請求時保留更多文件、指令與先前對話內容。

此次發布分別開放服務使用權與模型本身的存取權:

  • 2026 年 7 月 16 日:根據已公布的模型比較資料,Kimi K3 發布。
  • 2026 年 10 月 24 日:Moonshot 透過旗下產品與 API 推出 K3.1 Pro,並預定於 11 月 4 日前釋出權重。
  • 11 月 5 日:Moonshot 宣布釋出權重並推出 Kimi Hosted Agents;華為與阿里巴巴宣布支援部署。

開放權重仍受營運與授權條件限制

具備足夠運算能力的組織可下載權重,獨立執行 K3.1 Pro。企業可依照適用的授權條款設定自己的服務系統、串接內部工具,並進行特定用途的調整。

Moonshot 採用自訂授權條款規範商業用途。此次釋出內容包含模型權重,但未公開訓練程式碼與原始訓練資料集。因此,開發者取得的是訓練完成的模型,使用權限依 Moonshot 條款界定,而非依照開放原始碼促進會(Open Source Initiative)的定義取得完整訓練套件。

模型規模仍是營運上的重要考量。雖然每個步驟只會啟用混合專家網路的一部分,但部署時仍須能存取完整權重。長請求也會產生大量暫存注意力資料,模型運作期間必須將其保存在記憶體中。

廣告

華為將記憶體負載分散至昇騰系統

華為表示,昇騰團隊在 K3.1 Pro 權重開放當天完成適配,可立即進行部署驗證。支援範圍包括透過 vLLM Ascend 與 SGLang 部署於 Atlas 800 A3、Atlas 900 A3 SuperPod 及昇騰 950 超級節點系統。

這項適配因應模型的混合式注意力架構,包括稀疏注意力與多模態處理。注意力機制能協助模型判斷輸入內容中哪些部分對下一個步驟最重要;稀疏注意力則限制部分連結,以減少處理超長輸入所需的運算量。

昇騰採用分散式快取,將模型暫存資料分散至多個神經網路處理器(NPU),降低各加速器的記憶體負載。華為也表示,已調整核心數學運算,減少不必要的資料複製與計算。

部署者可載入原始權重,或針對不同模型元件採用較低位元精度,並搭配注意力快取量化。量化以較少位元儲存數值,可降低記憶體需求。華為表示,此實作保留前綴快取,可重複利用相同輸入;分塊預填充,可分段處理長提示;以及推測式推論,可成批檢查候選 token,加快生成速度。

阿里巴巴透過 SuperPoD 平台提供另一種部署途徑

阿里雲表示,其凌駿真武 M890 SuperPoD 已完成適配,並在 vLLM 與 SGLang 軟體堆疊上通過驗證。支援範圍也涵蓋真武 810E 配置,為模型增加另一種在中國加速器上部署的途徑。

阿里雲、平頭哥與 Kimi 團隊共同開發平頭哥 SAIL 軟體堆疊,內容包括 FlashMLA、DeepGEMM 混合專家運算、MegaMoE 與 MoonEP。這些元件負責注意力計算,以及在專家與加速器之間分配工作。客戶可透過專屬裸金屬 SuperPoD 執行個體或阿里雲 REIN 服務部署,也可透過旗下通義千問 AI 平台使用 API。

阿里巴巴在發布當天宣布,開放寧夏中衛 SuperPoD 區域的邀請測試,並在中衛與烏蘭察布提供執行個體。中衛配置新增平頭哥 Panmai 920 網路卡;阿里巴巴表示,該卡支援 PCIe 5.0、112G PAM4 乙太網路,每秒最高可達 400 gigabits 的傳輸量與 4 億個封包。

網路規格之所以重要,是因為如此龐大的模型必須在處理器之間快速傳輸資訊。阿里巴巴表示,該網路卡整合的 PCIe 交換器可讓系統成本降低約 30%。阿里巴巴也表示,M890 SuperPoD 已服務超過 100 家大型客戶,並預估規劃中的後繼產品 V900 效能約為目前一代的 3 倍;這項數據是公司的預期。

廣告

程式開發結果顯示,持續執行任務的能力有所提升

Moonshot 表示,K3.1 Pro 在 Terminal-Bench 4.0 獲得 65.7% 的分數。這項基準測試會在真實運算環境與資源限制下,評估代理執行終端機任務的能力。Moonshot 公布的比較數據顯示,GPT-6 Astra 為 58.2%,Claude Opus 5.5 為 66.4%;在這項測試設定下,K3.1 Pro 比後者低 0.7 個百分點。

Moonshot 內部的 Kimi Code Bench 3.0 長期任務分數,從 K3 的 55.95% 上升至 K3.1 Pro 的 61.2%,提高 5.25 個百分點。這項測試著重規劃、工具使用,以及透過多個步驟完成工程問題。

獨立評測提供了另一種觀察角度。Artificial Analysis 記錄的 Intelligence Index 從 44 提升至 55;Terminal-Bench 結果則顯示,K3.1 Pro 約為 67%,K3 為 13%。該機構的終端機評測採用不同於 Moonshot 的代理框架,因此兩組分數反映的是不同的執行設定。

Moonshot 的示範不只聚焦程式碼生成,也強調持續執行的能力。公司在一項內部測試中,讓模型處理以 296 個骨骼元件和 402 個肌肉元件構成的行走模擬。Moonshot 表示,在 167 項任務與 420 次獨立審查中,模型將模擬身體連續行走時間提升至 11.2 秒,並修正肩部肌肉計算中的 36 項錯誤。

另一項 Plotly 評測中,K3.1 Pro 答對 43 題中的 42 題,K3 則答對 35 題;不過,K3.1 Pro 的成本較高,中位完成時間也較長。因此,token 生成速度更快、答案更準確,不代表任務完成所需的等待時間一定更短。

3D 創作與金融領域獲得針對性改進

Moonshot 表示,K3.1 Pro 在 BenchCAD 搭配工具時獲得 92.7% 的分數。這項基準測試要求模型根據物件的不同視角重建 3D 物件,並生成電腦輔助設計程式碼。Moonshot 公布的比較數據中,Claude Opus 5.5 為 96.2%,GPT-6 Astra 為 95.9%。

Moonshot 表示,模型能為 Blender 與 CAD 軟體等專業建模工具撰寫並執行指令碼。公司展示的案例包括由 2,100 個實體物件構成的 FreeCAD 渦輪風扇引擎,以及設計成五個零件、可供 3D 列印的檯燈。Kimi 網站與 App 也提供 3D Make,可用來預覽、編輯及匯出模型。

金融工作也是重點發展方向。Moonshot 表示,模型在 OfficeQA Pro v2 獲得 64.4 分。這項測試會評估模型如何透過檢索、跨文件核對與數值推理,分析真實金融文件。公司內部評測顯示,金融建模能力提升 14%、金融研究提升 20%,模擬商業營運分數則約為 K3 的 4.2 倍。

已公布的比較資料列出其中兩項測試的詳細數據:金融研究分數從 58.8 升至 70.4,商業營運分數則從 8.9 升至 37.0。對企業使用者而言,預期效益是讓模型能從尋找資訊、進行計算,到完成試算表或研究成果,一路處理整項任務。

廣告

Moonshot 公布兩組不同的事實錯誤率結果

Moonshot 的發布公告指出,在 Kimi Hallu Bench Hard 測試中,單一事實主張的錯誤率從 K3 的 23.4% 降至 K3.1 Pro 的 8.3%;API 指南則公布另一項壓力測試結果:在使用者曾標記有事實錯誤的匿名對話中,錯誤率從 23.35% 降至 6.85%。

兩個頁面公布的逐則回答數據也不相同。發布公告表示,至少包含一項事實錯誤的回答比例,約為 K3 的 42.4%;API 指南則列出約 46.4%。Moonshot 尚未說明這兩項評測之間的關係。

兩種說法都涉及容易出錯、經特別挑選的困難案例。對金融與商業部署而言,實際工作仍包括在採用模型輸出前,依據原始紀錄核對計算結果、引文與事實陳述。

獨立比較也記錄到一項長上下文測試分數略降:AA-LCR v1.1 從 K3 的 88.7% 降至 K3.1 Pro 的 86.3%。處理長篇文件的組織,除了模型維持不變的上下文容量,也需要考量檢索準確度。

代管代理與 API 使用方式各有取捨

Kimi Hosted Agents 提供圍繞 AI 模型運作的框架,通常稱為執行框架(harness)。這套框架負責管理工具、程式碼執行、上下文、權限,以及任務中斷後的恢復。Moonshot 表示,這項服務支援全天候運作、長時間任務,以及多個代理協同合作。

Moonshot 指出,內部監控與營運應變,以及面向客戶的研究助理和支援服務,都是潛在用途。使用代管服務的企業可設定任務並串接工具,由 Kimi 維護底層執行環境;自行執行權重的企業則須自行負責服務與營運安排。

API 客戶若要使用 K3.1 Pro,Moonshot 的API 快速入門指南要求至少儲值 10 元人民幣。新註冊用戶獲得的 15 元人民幣抵用券不可用於此模型。指南提供 low、high 與 max 三種推理設定,預設為 max;快取保留時間則可選 5 分鐘或 1 小時。

Moonshot 也提供 K3.1 Pro Highspeed,並表示它的智慧能力相同,輸出速度約快 2 至 3 倍。公布的比較資料列出,標準版輸入與輸出價格分別為每百萬 token 2 美元與 10 美元,低於 K3 的 3 美元與 15 美元,降幅為三分之一,尚未計入快取費用及其他適用費用。實際總支出仍取決於任務消耗的 token 數量與工具互動次數。

開發者整合時須留意幾項具體要求:工具呼叫期間必須保留完整的助理訊息;視覺輸入須使用 base64 資料或已上傳檔案的識別碼,不能使用公開圖片網址;指南也建議,在網路搜尋工具更新期間,不要將其用於正式環境。

廣告

重點整理

  • Moonshot 於 11 月 5 日宣布釋出 Kimi K3.1 Pro 權重,此前已透過產品與 API 開放使用。
  • 模型共有 2.8 兆個參數,每次推論步驟約啟用 1,040 億個參數,上下文約可容納 100 萬個 token。
  • 華為昇騰與阿里雲宣布透過 vLLM 與 SGLang 支援部署。
  • Moonshot 表示,模型在程式開發、3D 建模與金融領域都有進步,但結果會因任務和評測設定而異。
  • 獨立部署需要大量運算資源,並須遵守 Moonshot 的自訂授權條款。
  • Kimi Hosted Agents 提供代管方案,可執行長時間任務並協調多個代理。
分享本文

您可能也喜歡