美團推出 LongCat Flash Chat:5600 億參數的專家混合模型

閱讀時間 7 分鐘
美團推出 LongCat Flash Chat:5600 億參數的專家混合模型

為何此時推出這款模型

中國即時服務巨頭 美團加入開源大型語言模型浪潮,推出結合超大參數規模與效率優先設計的系統 LongCat Flash Chat。模型於 2025 年 9 月上旬公布,並上架 GitHub 與 Hugging Face,隨附技術報告,定位為與當前頂尖系統並駕齊驅。美團表示,根據公司基準測試,LongCat Flash Chat 的表現可媲美 DeepSeek V3.1、阿里雲 Qwen3 系列與 Moonshot AI 的 Kimi K2,與 Anthropic 的 Claude Sonnet 及 Google 的 Gemini 2.5 Flash 相比也具競爭力。模型採用允許廣泛使用與修改的授權,顯示美團有意圍繞其 AI 技術堆疊,打造活躍的開發者生態系。

目錄
  1. 為何此時推出這款模型
  2. 美團推出了什麼
  3. LongCat 架構解析
  4. 淺談專家混合模型
  5. 速度與成本說法
  6. 訓練方法與穩定性
  7. 與競爭對手相比如何
  8. 代理任務在實務上的意義
  9. 策略、收購與中國開源浪潮
  10. 授權、部署與安全
  11. 投資人反應與市場訊號
  12. 重點整理

LongCat Flash Chat 的定位是快速、可投入正式環境使用的基礎模型,而非著重推理的系統。這反映出明確的取捨:較不強調緩慢而複雜的邏輯推演,更著重回應迅速的代理行為、工具使用與指令遵循。此次發布承接美團 2023 年以 2.81 億美元收購 AI 新創公司 Light Year,也符合其涵蓋內部工作流程 AI、終端使用者產品 AI 功能,以及核心模型打造的內部策略。

美團推出了什麼

美團文件將 LongCat Flash Chat 描述為一款專家混合模型,總參數量達5600 億。每個 token 實際啟用的參數僅占一部分,通常介於186 億至 313 億,平均約 270 億。選擇性啟用是模型速度與成本特性的關鍵。模型支援最長 128k tokens 的上下文視窗,因此能處理長篇對話、文件或多步驟任務,不必頻繁重新開始。

美團稱這是一款非思考型基礎模型。《財新國際》報導指出,模型不具備進階推理能力,但在多種指令與代理任務上仍有亮眼表現。程式碼儲存庫列出模型在通用基準測試、指令遵循、數學、程式設計、工具使用及安全評估上的競爭力分數。開發者可在 Hugging Face 的此頁面取得模型權重與文件,並在官方網站 longcat.ai瀏覽產品資訊。程式碼與權重採用 MIT 授權條款釋出。

廣告

LongCat 架構解析

專家混合模型會將大型網路拆分成許多稱為專家的專用元件。路由器會判斷每個 token 應交由哪些專家處理。每個 token 只啟用少數專家,模型因此能保有龐大的總容量,同時控制每個步驟的運算量。這種做法已成為擴大模型規模、又不讓推論成本暴增的常見方式。

淺談專家混合模型

可以把這套系統想成一支大型團隊,每則訊息只會召集少數專家。路由器會依據內容挑選專家,避免不必要的運算。美團的設計另有幾項變化。報告介紹了零運算專家,這些專家充當佔位元件;當路由器需要平衡負載,或降低簡單 token 的運算量時,就可以選用它們。此外,系統幕後還有一個 PID 控制器,會調整專家的偏置,以維持平均啟用參數量穩定。PID 代表比例、積分、微分,是一種常見控制方法,可讓系統逐步接近目標水準而不致震盪。

為了提升吞吐量,LongCat Flash Chat 採用捷徑連接式 MoE架構,增加通訊與運算的重疊。在多 GPU 環境中,通訊時間可能成為效能瓶頸。捷徑連接可建立更快速的路徑,讓網路部分元件在資料於裝置間傳輸時加快處理。技術說明指出,在 H800 級硬體上,單一使用者的推論速度可超過每秒 100 個 token。

速度與成本說法

開源社群整理與中國媒體報導稱,美團透過高度平行化架構,約 30 天完成訓練;模型在 H800 加速器上的生成速度可達每秒 100 個 token。美團表示,在特定條件下,每百萬個 token 的輸出成本約為5 元人民幣。實際成本會因硬體、批次大小及部署框架而異,但其主打訴求十分明確:美團將 LongCat Flash Chat 定位為兼具速度與競爭力品質,且每次請求所需運算資源較少的模型。

訓練方法與穩定性

儲存庫列出多項穩定性輔助方法:透過超參數遷移,將不同規模模型的良好設定沿用下去;採用模型成長初始化,讓較大型版本從較小型版本起步;以及運用搭配 z loss 的路由器梯度平衡方法,維持 MoE 路由器的穩定。團隊強調採用確定性計算,以確保執行結果可重現。在資料方面,美團介紹了兩階段預訓練融合策略與多代理合成框架,用來生成複雜任務軌跡,培養代理行為。整體而言,這套訓練流程著重可靠性與代理效能,而非深入的多步驟推理。

廣告

與競爭對手相比如何

美團的基準測試顯示,LongCat Flash Chat 可與中國領先的通用模型並駕齊驅。比較對象包括 DeepSeek V3.1、阿里雲 Qwen3 系列與 Moonshot AI 的 Kimi K2。報告也指出,模型相較於 Claude Sonnet、Gemini 2.5 Flash 等知名美國模型表現出色。部分報導甚至提到,模型在特定非思考型任務上也與 GPT 4.1 相比。確切排名取決於基準測試組合與提示設定。廠商自行測試可作為參考,第三方評估則有助於呈現更完整的面貌。

「非思考型」是重要的定位限定。著重推理的系統力求跨多個步驟規劃與反思,通常生成速度較慢、運算成本也較高。LongCat Flash Chat 則專注於快速遵循指令、使用工具及協調代理。對於重視回應時間、吞吐量與成本可預測性,而非複雜草稿推理的應用情境,這種做法更為合適。

廣告

代理任務在實務上的意義

代理任務涉及能呼叫工具、擷取資訊、遵循工作流程,並判斷何時需要更多輸入的模型。系統可能會瀏覽文件、查詢內部資料庫、呼叫付款 API,或草擬客戶訊息。LongCat Flash Chat 針對這類工作進行調校,目標是迅速做出決定、處理長篇上下文,並維持低延遲,讓實際應用中的互動更為即時。

美團已在旗下業務中試驗代理技術。公司曾展示用於 AI 輔助程式設計的 NoCode、支援商業決策的 Kangaroo Advisor,以及管理飯店營運的 美團既白。快速的代理引擎可協助處理商家上架、客戶支援案件分流、庫存查核、路線規劃支援及行銷文案生成等工作。在電子商務與在地服務領域,許多任務更需要穩定速度、工具連接能力與長上下文保留,而非緩慢的逐步推理。

策略、收購與中國開源浪潮

美團於 2023 年以 2.81 億美元收購 Light Year,正式加大投入核心模型。公司領導人曾將策略描述為三個層次:將 AI 用於內部工作、導入消費者產品,以及打造基礎模型。LongCat Flash Chat 是基礎模型層面的首個公開成果,也呼應中國科技公司更廣泛的趨勢。阿里巴巴、與 DeepSeek 有關的研究團隊及 Moonshot AI 等公司陸續開源,透過快速迭代與社群測試,逐步縮小與西方同業的差距。

開源授權在此格外重要。美團以 MIT 授權條款公開權重與程式碼,讓新創公司、研究團隊及企業團隊能在限制較少的情況下進行實驗、調整與部署。這有助於擴大回饋來源與應用範圍,也讓美團得以在外界建立技術實力的公信力,不再只以外送服務聞名。多個消息來源指出,美團將其 AI 方針形容為積極進取,並試圖透過速度與開放性爭取開發者青睞。

廣告

授權、部署與安全

LongCat Flash Chat 採用 MIT 授權條款釋出,這是一種允許廣泛商業使用的寬鬆授權。儲存庫提供 vLLM 與 SGLang 的部署指南。這些框架廣泛用於高吞吐量推論,具備連續批次處理與分頁注意力等功能,可降低服務成本。只啟用部分專家的模型,也很適合搭配能減少 GPU 閒置時間的環境。

與所有大型語言模型一樣,LongCat Flash Chat 也有其限制。文件提醒開發者,應在自身使用情境中評估安全性、公平性與法律遵循情況。處理個人資料、財務或健康資訊的領域尤其需要留意。美團資料包含安全評估與紅隊測試,也提醒使用者在敏感情境中應用模型時遵守法律與產業規範。

投資人反應與市場訊號

發布後的財經報導指出,儘管美團加入推出具競爭力模型的中國企業行列,其股價仍走低。TipRanks 引述《南華早報》的基準測試,並指出更廣泛的政策背景:中國加大對科技產業的扶持,同時面臨貿易摩擦。市場反應往往落後於產品的實際發展。對投資人而言,關鍵在於模型能否帶動採用、降低美團內部營運成本,以及外部開發者是否會選用它來打造實際產品。

更大的訊號是,許多原本不在 AI 核心圈內的企業,如今也開始發布模型,並在代理應用情境的速度、成本與能力方面挑戰既有業者。這股趨勢可能改變企業對 AI 技術堆疊來源的看法,也會進一步促使模型開發商證明其在務實、對延遲敏感的任務中能創造價值,而不只是追求基準測試排行榜上的名次。

重點整理

  • 美團於 2025 年 9 月上旬在 GitHub 與 Hugging Face 推出開源專家混合模型 LongCat Flash Chat,總參數量達 5600 億。
  • 模型每個 token 啟用 186 億至 313 億個參數,平均約 270 億,在保有龐大總容量的同時降低運算成本。
  • 技術報告中的基準測試宣稱,模型表現可媲美 DeepSeek V3.1、阿里雲 Qwen3、Moonshot AI 的 Kimi K2,與 Claude Sonnet 及 Gemini 2.5 Flash 相比也具競爭力。
  • 美團將系統定位為非思考型基礎模型,著重速度、指令遵循、工具使用與代理工作流程,而非深度推理。
  • 工程設計包括零運算專家、用於調整專家偏置的 PID 控制器、捷徑連接式 MoE 架構,以及 128k token 上下文視窗。
  • 技術說明指出,模型在 H800 硬體上的速度超過每秒 100 個 token;在特定條件下,每百萬個 token 的輸出成本約為 5 元人民幣。
  • 程式碼與權重採 MIT 授權條款釋出,並提供 vLLM 與 SGLang 部署指南。
  • 此次發布承接美團 2023 年收購 Light Year,也支援其涵蓋工作工具、產品與核心模型的三層 AI 策略。
  • TipRanks 報導指出,消息公布後美團股價下跌,顯示投資人情緒可能取決於實際採用情況與成本節省成效。
  • 此次發布加入中國開源模型浪潮,這些模型正縮小與西方同業的差距,並聚焦快速代理應用情境。
分享本文

您可能也喜歡