中國 Kimi K2 Thinking 為開源 AI 樹立新標竿,在多項關鍵測試中超越 GPT 5

閱讀時間 8 分鐘
中國 Kimi K2 Thinking 為開源 AI 樹立新標竿,在多項關鍵測試中超越 GPT 5

強大的開放模型挑戰前沿水準

Moonshot AI 發布了 Kimi K2 Thinking,這是一款開放權重模型,直接瞄準推理系統的最高水準。該公司表示,這款模型在多項高難度評測中勝過領先的專有系統,評測項目涵蓋逐步推理、網頁瀏覽代理程式及軟體工程。K2 Thinking 可透過 Moonshot 平台和 Kimi.com 使用,模型權重則公布於公共模型平台,供使用者自行託管;其採用經修改的 MIT 授權條款,允許商業使用,超大型部署只須以簡單方式標示出處。

目錄
  1. 強大的開放模型挑戰前沿水準
  2. K2 Thinking 是什麼,以及它如何運作
  3. 稀疏專家與效率
  4. 原生 INT4 與量化感知訓練
  5. K2 Thinking 領先的基準測試
  6. 代理式搜尋與瀏覽任務
  7. 程式設計與軟體工程
  8. 價格、使用方式與授權
  9. 這對 AI 競賽的意義
  10. 中國 AI 影響力日益擴大
  11. 能力與實際案例
  12. 開發者的實測觀察
  13. 專家觀點
  14. K2 Thinking 仍有待證明之處
  15. 重點摘要

這款模型的設計兼顧規模與效率。K2 Thinking 採用混合專家(Mixture of Experts)架構,據稱總參數量達一兆,但每次生成 token 時僅啟用約 320 億個參數。模型支援 256,000 個 token 的上下文視窗,並透過量化感知訓練,針對原生 INT4 推論進行訓練。這種設計可降低延遲與記憶體需求,也有助於解釋其具競爭力的定價。除了原始評分,這次發布也推動開放模型朝代理程式行為發展。K2 Thinking 展現長程規劃能力,能以結構化方式使用工具,連續呼叫 200 至 300 次,並可輸出透明的推理軌跡,讓使用者檢視中間步驟。這些能力搭配較低成本,讓封閉模型競爭對手面臨更大壓力。

K2 Thinking 是什麼,以及它如何運作

K2 Thinking 是以混合專家 Transformer 架構打造。大量專門化專家模組由路由器負責調度,每個 token 只會選用其中一小部分,以降低運算量並保留模型容量。Moonshot 表示,模型架構包含 61 層、384 個專家模組,每個 token 選用 8 個專家、64 個注意力頭、7168 的隱藏維度,以及 160,000 的詞彙表大小。任何時刻僅有約 320 億個參數處於啟用狀態,使推論維持在可管理的範圍,同時保有極高的總容量。其注意力機制採用多頭潛在注意力(multi-head latent attention),並搭配 SwiGLU 激活函數。此方法讓訓練和推論聚焦於與上下文內容最相關的專家,提升吞吐量與準確度。

稀疏專家與效率

混合專家架構讓模型得以擴展至一兆參數,而不必在處理每個 token 時都執行所有參數。實際上,這代表模型能展現更深入的推理能力和更廣泛的知識,同時將記憶體占用與每步處理時間維持在現有加速器可負荷的範圍內。256k 上下文視窗可讓模型讀取大型程式碼庫或篇幅冗長的研究資料,再透過呼叫工具進行多步規劃。這種設計特別適合代理程式任務,因為系統可能需要在數十或數百個操作中搜尋、閱讀、撰寫並驗證結果。

原生 INT4 與量化感知訓練

Moonshot 使用量化感知方法訓練 K2 Thinking,使其能以 INT4 原生執行權重儲存與推論。INT4 以每個參數值 4 個位元表示,而非採用精度更高的格式,因此能降低記憶體需求並加快生成速度。該公司表示,相較於較高精度格式,生成速度約提升兩倍,品質損失極小;所有基準測試分數也都是在 INT4 下取得。這對成本和可及性都很重要。社群測試者表示,這款模型能在高階桌上型電腦上運作;Moonshot 則推薦使用 vLLM、SGLang 和 KTransformers 等引擎。模型也支援相容於 OpenAI 和 Anthropic 的 API,方便已採用這些介面模式的團隊整合。

廣告

K2 Thinking 領先的基準測試

在公開測試中,這款模型的成績躋身現有最佳推理系統之列,並在多項測試中排名第一。公布的數據包括:啟用工具時,Humanity’s Last Exam 得分 44.9%;純文字設定下得分 23.9%,高強度設定下得分 51.0%;網頁瀏覽代理程式測試 BrowseComp 得分 60.2%;使用工具修復軟體錯誤的 SWE Bench Verified 得分 71.3%;LiveCodeBench v6 得分 83.1%;Seal 0 得分 56.3%。在數學和科學方面,模型在不使用工具時的 AIME25 得分為 94.5%,允許執行 Python 時為 99.1%;不使用工具時的 HMMT25 得分為 89.4%;科學知識測驗 GPQA Diamond 得分約為 85% 至 86%。其他公布的成績還包括 Frames 87.0、FinSearchComp T3 47.4,以及 SWE Multilingual 61.1。在許多類別中,K2 Thinking 的表現媲美或超越 GPT 5,而 BrowseComp 分數更大幅領先 Claude Sonnet 4.5。

代理式搜尋與瀏覽任務

BrowseComp 評估模型能否規劃、搜尋網路、追蹤連結、統整發現並驗證答案。K2 Thinking 的 BrowseComp 得分為 60.2%,高於 GPT 5 公布的 54.9%,也遠勝得分 24.1% 的 Claude Sonnet 4.5。模型在 Seal 0 和 Frames 的表現也很亮眼,這兩項測試衡量資訊蒐集、規劃,以及使用工具時維持一致性的能力。這些結果符合模型的設計目標。交錯式思考讓模型能暫停、推理、呼叫工具,再更新計畫。支援連續呼叫 200 至 300 次,有助於模型在多個步驟中維持狀態;大型上下文視窗則能將工作內容保留在記憶體中。

程式設計與軟體工程

SWE Bench Verified 評估模型閱讀程式碼儲存庫中的問題、提出修補程式並通過測試的能力。K2 Thinking 使用工具時得分 71.3%,對開放權重系統而言表現出色。在 LiveCodeBench v6 上得分 83.1%,在 SWE Multilingual 上則得分 61.1%。社群展示顯示,模型能根據單一提示建立可運作的專案,包括遊戲和完整網頁應用程式,之後還能透過反覆呼叫工具逐步修正。長上下文有助於瀏覽程式碼,而 INT4 推論則能在長時間開發過程中降低延遲。

廣告

價格、使用方式與授權

K2 Thinking 採用經修改的 MIT 授權條款發布,允許商業使用,超大型部署須以簡單方式標示出處。使用者可在 Kimi.com 透過聊天介面使用模型,也可透過 Kimi Open Platform API 存取。若要自行託管,團隊可從 Hugging Face 等公共模型平台取得權重,網址為 huggingface.co/moonshotai/Kimi-K2-Thinking;平台文件則可見於 platform.moonshot.ai。

其定價旨在低於封閉式替代方案。Moonshot 列出的價格約為每百萬 token 0.15 美元(快取命中)、0.60 美元(快取未命中),以及 2.50 美元(輸出)。相比之下,GPT 5 的價格約為每百萬輸入 token 1.25 美元、每百萬輸出 token 10 美元。K2 Thinking 原生支援 INT4,可降低執行成本;混合專家架構則確保每次只運行部分網路。在 Kimi.com 上,標準聊天模式使用受限的工具組,提供較輕量的體驗,因此在 Agent 模式完成推出前,網站上的結果可能與代理程式基準測試不同。

廣告

這對 AI 競賽的意義

開放模型正逐步拉近與最佳封閉系統的差距。K2 Thinking 在基準測試中勝出,顯示開放研究如今已能在高階推理、程式設計和代理程式任務上與之競爭。這使專有模型供應商面臨壓力,必須在可靠性、安全工具、企業支援和整合產品上做出區隔,而不能只靠亮眼的基準分數。對企業而言,開放權重有助於掌控資料、合規和部署規模;對開發者來說,則提供了試驗進階代理程式行為的途徑,不必為每個 token 支付高額費用。

中國 AI 影響力日益擴大

中國的實驗室發展加速,在 AI 討論中的能見度也愈來愈高。DeepSeek、Qwen、MiniMax 和 Kimi 等名字接連受到關注,模型發布也相當頻繁。MiniMax 先前推出的模型為開放基準測試建立了步調,也拉低了成本基準。如今 K2 Thinking 則進一步推進長程推理與代理程式工具。分析人士指出,中國團隊正縮短回饋週期、借助測試時擴展,並將發布速度轉化為優勢,即使部分任務仍由最強的封閉系統領先。競爭焦點也正從聊天轉向代理式智慧,讓系統能規劃、使用工具並完成複雜目標。K2 Thinking 正是瞄準這項轉變。

廣告

能力與實際案例

Moonshot 的展示和使用者測試凸顯了模型處理長時間任務的能力。在一段操作示範中,系統解答博士程度的數學問題,過程包括閱讀論文、擷取公式、執行 Python 程式碼,並在二十多個推理與工具操作步驟中驗證結果,最後才提出解答。另一段示範中,模型反覆搜尋,找出演員 Jimmy Gary Jr. 並確認他演出過的特定電影角色;這項任務需要仔細查核多個網頁來源。在程式設計測試中,測試者表示 K2 Thinking 能一次生成可運作的《太空侵略者》風格遊戲,再透過反覆呼叫工具逐步改進。另有展示顯示,模型可以規劃完整網站、建立前端元件,甚至仿製桌面風格介面來處理檔案和選單。

開發者的實測觀察

開發者論壇上的獨立測試者表示,模型在速度和控制性之間取得平衡。一位資深使用者以一般消費者可取得的硬體執行模型,指出即使面對長串工具操作和大型提示,模型的表現依然穩定。這位評測者補充,原生 INT4 執行方式提升了速度,同時維持穩定的品質。

在我的測試中,它能連續呼叫工具最多 300 次而不失去連貫性,比先前的模型進步很多。

同一位測試者也提到,模型的 256k 上下文視窗足以處理大型程式專案,在多語言程式設計方面表現出色,前端任務也有實用的效能提升。高階桌上型電腦的回報吞吐量依設定而異,每秒可生成數十至數百個 token,讓代理程式循環對開發工作而言足夠即時。

專家觀點

追蹤開放模型和代理系統的 AI 研究者 Nathan Lambert 認為,K2 Thinking 是開放權重模型在高階效能上邁向轉捩點的標誌。他也指出,中國實驗室推出新模型的速度相當快。

這次發布被視為開放模型在效能上最接近封閉模型前沿水準的一次。

Lambert 也指出,開放模型陣營推出新系統和迭代版本的速度較快,儘管封閉模型在某些領域仍居領先。

開放模型發布速度更快。中國實驗室推出模型的速度遠快於西方實驗室。

K2 Thinking 仍有待證明之處

在基準測試領先,不代表模型在所有生產環境中都更勝一籌。有些使用者回報,模型在極長上下文中的資訊回想能力偶爾會下降,這是大型上下文系統常見的挑戰。各項基準測試允許使用的工具預算和思考 token 上限也不盡相同,因此比較結果可能取決於各團隊採用的測試時擴展程度。在單次工作階段中呼叫數百次工具,也會帶來託管上的挑戰,因為服務供應商必須處理更多狀態、更多網路呼叫和更大型的紀錄。

企業將關注不同版本間的穩定性、固定設定下結果的可重現性,以及能融入既有工作流程的安全工具。推理軌跡輸出是有助益的一步,因為團隊可以檢視中間步驟,但營運人員也必須決定要記錄多少思考內容,以及何時遮蔽敏感資訊。最後,模型的開放設計有利於社群快速迭代,這是一項優勢,但也意味著會出現許多在速度、記憶體使用量和品質上各有取捨的衍生版本。初步成果令人看好,持續在不同語言、領域和硬體上測試,才能讓開發者了解 K2 Thinking 最擅長的領域。

重點摘要

  • Moonshot AI 以經修改的 MIT 授權條款發布開放權重模型 Kimi K2 Thinking,允許商業使用。
  • 模型採用混合專家架構,總參數量達一兆,每個 token 約啟用 320 億個參數。
  • 透過量化感知訓練實現的原生 INT4 推論,可在維持品質的同時降低成本與延遲。
  • K2 Thinking 在啟用工具時的 Humanity’s Last Exam 得分為 44.9%,BrowseComp 得分為 60.2%,在這項代理程式測試中超越 GPT 5。
  • 程式設計測試成績包括 SWE Bench Verified 的 71.3% 和 LiveCodeBench v6 的 83.1%。
  • 系統支援 256k 上下文視窗,並可連續呼叫工具 200 至 300 次。
  • 每百萬 token 的價格約為快取命中 0.15 美元、快取未命中 0.60 美元、輸出 2.50 美元,遠低於 GPT 5 的費率。
  • 使用者可在 Kimi.com、透過 Kimi Open Platform API,以及 Hugging Face 等公共模型平台存取模型。
  • 中國的 Kimi、DeepSeek、Qwen 和 MiniMax 等開放模型,正以快速發布和更高的基準測試分數推進競爭。
  • 仍須關注長上下文可靠性、支援長時間工具循環的託管能力,以及生產環境限制下的實際表現。
分享本文

您可能也喜歡