據報 Kimi K4 目標參數量達 5.4 兆,預計 2027 年推出

閱讀時間 6 分鐘
Kimi K4 Reportedly Targets 5.4 Trillion Parameters and a 2027 Launch

Moonshot 下一款旗艦模型規模可能接近倍增

據報 Moonshot AI 為 Kimi K4 設定的目標參數量為 5.4 兆,預計於 2027 年第二或第三季推出。這款模型的規模幾乎是 Kimi K3 和 K3.1 Pro 的兩倍;據報兩者的參數量均為 2.8 兆。

目錄
  1. Moonshot 下一款旗艦模型規模可能接近倍增
  2. 5.4 兆參數代表什麼
  3. 據報的產品時程如何安排
  4. K3.5 為何讓訓練資料成為焦點
  5. 目前運算資源足夠,模型擴大後壓力將增
  6. Moonshot 如何提高硬體效益
  7. K3 Flash 將著眼於速度與成本
  8. 國際比較目前的情況
  9. 重點整理

據報的時程顯示,K4 推出前會先發布規模較小的升級版 Kimi K3.5,時間可能落在 2027 年農曆新年前後。速度更快的產品 Kimi K3 Flash 預計於 2026 年底前推出,取代 Kimi K2.8。

Moonshot 尚未公布 K4 的官方參數量或推出日期。5.4 兆這個數字,以及 2027 年 4 月至 9 月的推出時程,均來自對其開發計畫的報導。較早的估計則認為 K4 的參數量介於 5 兆至 6 兆。

因此,這項發展的核心,是據報 Moonshot 計畫擴大模型規模,並拓展可提供的產品種類。據稱 Moonshot 也正投入模型壓縮、自我蒸餾及後訓練等技術,目的是提升模型在現有運算資源下的能力。

對使用者而言,這些並行推進的工作各有不同意義。規模更大的旗艦模型或許能處理更繁複的工作,較輕量的模型則可能讓日常需求獲得更快速、便宜的回應。據報的產品時程提出了規模與推出時間的目標,但未確定未來價格、實測效能及使用方式。

5.4 兆參數代表什麼

參數是模型在訓練期間學習的數值設定,有助於決定模型如何辨識模式並產生回答。參數較多的模型有更大的學習容量,但實用性也取決於訓練資料、設計及後續調校方式。

據報 K4 的參數量為 5.4 兆,較 K3 據報的 2.8 兆增加 2.6 兆。以這些數字計算,增幅約為 93%,K4 的規模約是 K3 的 1.93 倍。

廣告

K3.5 的規模增幅則小得多。據報其參數量為 3 兆,較 K3 高出約 7%。這種差異顯示兩種不同的開發方向:先透過 K3.5 改良現有世代,再以 K4 大幅擴增規模。

據報 K4 的 5.4 兆目標落在先前估計的 5 兆至 6 兆範圍內。一則報導指出,這個範圍出自野村證券。新數字與先前估計一致,讓據報的計畫有了更明確的目標,但仍有待 Moonshot 證實。

據報的產品時程如何安排

Moonshot 據報的時程從 2026 年 7 月推出 K3,一路延伸至預計於 2027 年問世的 K4。期間推出的產品將兼顧旗艦模型的能力,以及市場對輕量產品的需求。

  • 2026 年 1 月 10 日:據報創辦人楊植麟在公開演講中談及 K4 計畫。
  • 2026 年 7 月 17 日:據報 Kimi K3 正式推出,參數量為 2.8 兆,並具備 100 萬 token 的上下文視窗。
  • 2026 年 7 月下旬:據報 K4 訓練準備工作啟動,同時著手取得更多運算資源。
  • 2026 年底前:Kimi K3 Flash 預計接替 Kimi K2.8。
  • 2027 年初:預計推出 Kimi K3.5,時間可能落在農曆新年前後,參數量為 3 兆。
  • 2027 年第二或第三季:據報目標推出參數量達 5.4 兆的 Kimi K4。

K4 據報的推出時程涵蓋 2027 年 4 月至 9 月。K3.5 擬於農曆新年前後推出的說法同樣只是估計,因此兩款旗艦模型推出間隔多久仍不確定。

K3.5 為何讓訓練資料成為焦點

據報 Kimi K3.5 計畫使用 10 兆個 token 進行後訓練。Token 是模型處理的資訊單位,通常是單字或單字的一部分。Token 數量衡量的是處理資訊的總量,而非不同文件或事實的數量。

後訓練是在模型完成主要初始訓練後進行,可協助模型遵循指示、改善回答,並更可靠地處理特定任務。範例、回饋及反覆練習都能發揮作用。

據報規模達 10 兆個 token 的計畫,代表 K3.5 的重點不只在參數量小幅增加。Moonshot 似乎也打算大幅投入改善模型行為,同時僅小幅擴大其基礎規模。

廣告

相關報導未說明這些 token 的組成,包括有多少資料是新蒐集的、由模型生成,或是重複使用。這項資訊很重要,因為訓練範例的品質與多樣性會影響模型從中學到什麼。

目前運算資源足夠,模型擴大後壓力將增

據報 Moonshot 目前的運算能力足以支應現行開發計畫。同一批報導也指出,進一步擴充仍面臨限制,特別是取得高效能硬體及大量高品質資料的能力。

這兩種情況可以同時存在。公司可能有足夠設備完成已在進行的工作,但要開發規模更大的後繼模型,仍需要更多晶片、電力及配套基礎設施。

據報 K4 的準備工作於 2026 年 7 月下旬啟動,距 K3 據報推出不到兩週。據稱 Moonshot 也在尋求取得更多採用 Blackwell 架構的輝達圖形處理器。這些晶片的設計用途是執行 AI 訓練與運作所需的大量運算。

據報 K3 推出後,面向使用者提供服務的運算需求也開始吃緊。據稱 Moonshot 於 7 月 19 日因運算能力不足,暫停新的消費者訂閱。為客戶運行模型,以及訓練後繼模型,都需要大量資源。

報導引述美國企業研究所研究員 Ryan Fedasiuk 估計,支援 K3 服務所需的晶片及相關能源基礎設施,投資金額將達數十億美元。這項估計關注的是大規模營運所需資源;Moonshot 計畫推出更大型模型時,成本仍是持續面臨的考量。

Moonshot 如何提高硬體效益

據報 Moonshot 的技術重點包括模型壓縮、自我蒸餾及後訓練。這些方法都能在增加模型規模這項成本更高的工作之外,提升模型能力或效率。

模型壓縮旨在降低模型所需資源,同時盡可能保留實用效能。依採用的方法不同,壓縮可減少記憶體需求、加快回應速度,或降低部署成本。

自我蒸餾是將模型自身的輸出或學得的行為,作為進一步訓練的教材。簡單來說,模型可以產生範例,協助改良自身的另一個版本。慎選並檢查這些資料很重要,因為生成的回答可能包含錯誤。

廣告

後訓練則著重於模型如何運用自身能力。對使用者而言,改進可能表現為更能遵循指示,或更可靠地完成任務。Moonshot 看重這些方法,是因為它們有望提升實際效能,不必每次改善都仰賴購買規模大得多的運算系統。

據報 Moonshot 著重這些方法,也有助於理解 K3.5 與 K4 為何各有不同用途。前者著重在相近的參數規模下改良模型;後者則以大幅提升容量為目標。

K3 Flash 將著眼於速度與成本

據報 Kimi K3 Flash 預計於 2026 年底前推出,接替 Kimi K2.8。這款產品將擴充 Moonshot 的輕量模型系列,同時較大型的旗艦模型仍在開發中。

輕量模型適合用於反覆處理日常工作,例如回覆例行需求或處理大量簡短任務。在這些情境中,等待時間及每次請求的成本,可能和處理難題的效能同樣重要。

相關報導指出,DeepSeek 的 Flash 系列可能構成競爭,包括 V4.1 Flash,以及預計推出的 V4.2 或 V5.0 Flash。這項競爭比較仍屬未來情況:據報的產品時程尚未公布 K3 Flash 的參數量、價格或實測效能。

據報 Moonshot 也已於 2026 年 8 月 31 日停止 Kimi K2.5 和 moonshot-v1 API 服務,並引導開發者改用 K3。API 是軟體用來向模型傳送請求的介面。因此,產品更動不只影響選用聊天機器人的使用者,也影響維護依賴特定模型之應用程式的開發者。

國際比較目前的情況

據報 K4 的規模正與 Mythos 和 Fable 相提並論,據稱這兩款模型的參數量均超過 5 兆。若 K4 的參數量達 5.4 兆,將進入這兩款模型所屬的相近規模區間。

要比較實際能力,還需要更多資訊:模型在相同任務上的表現、回應速度、運行成本,以及完成工作的可靠程度。模型架構也很重要,包括每次回應會動用多少模型資源。

報導指出,Moonshot 的開發時程大致落後國際領先計畫一年,並將差距歸因於先進運算資源受限,以及高品質訓練資料累積不足。這項評估僅為概略說法,未提供共同基準或明確的參考產品推出日期。

廣告

K3 據報具備 100 萬 token 的上下文視窗,也是比較時值得參考的一項能力。上下文視窗是模型在一次互動中能納入考量的資料量,包括指示和文件。這項能力與參數量不同,對處理大型檔案的人尤其重要。

Moonshot 接下來具體的里程碑,將是預計推出 K3 Flash,接著於 2027 年初推出 K3.5,再於同年稍晚推出 K4。官方規格、使用條款及可供比較的效能結果,將提供使用者和開發者評估各款產品所需的資訊。

重點整理

  • 據報 Kimi K4 目標參數量達 5.4 兆,預計於 2027 年 4 月至 9 月間推出。
  • 這比 K3 和 K3.1 Pro 據報的 2.8 兆參數大約高出 93%。
  • 據報 K3.5 計畫於 2027 年初推出,參數量為 3 兆,並使用 10 兆個 token 進行後訓練。
  • K3 Flash 預計於 2026 年底前推出,接替 K2.8。
  • 據報 Moonshot 目前的運算能力足以支應開發工作,但進一步擴充受硬體及資料需求限制。
  • Moonshot 尚未公布 K4 的官方參數量或推出日期。
分享本文

您可能也喜歡