字節跳動推出 Seed-OSS-36B:挑戰全球科技巨頭的開源 AI 模型

閱讀時間 6 分鐘
字節跳動推出 Seed-OSS-36B:挑戰全球科技巨頭的開源 AI 模型

字節跳動大膽出招:推出 Seed-OSS-36B,挑戰全球 AI 領導者

字節跳動是 TikTok 與抖音背後的中國科技巨擘,如今在人工智慧(AI)領域大步躍進,推出全新的開源大型語言模型(LLM)Seed-OSS-36B。此舉讓字節跳動成為 DeepSeek、阿里雲、Google 與 OpenAI 等業界既有廠商的強勁競爭者。Seed-OSS-36B 的發布不僅是技術里程碑,也是快速演變的全球 AI 版圖中的一項策略布局;在這個領域,開源模型正日益左右創新與普及的未來。

目錄
  1. 字節跳動大膽出招:推出 Seed-OSS-36B,挑戰全球 AI 領導者
  2. Seed-OSS-36B 是什麼?為何重要?
  3. Seed-OSS-36B 的主要特色
  4. Seed-OSS-36B 與阿里巴巴、DeepSeek、Google 和 OpenAI 相比如何?
  5. 底層技術創新
  6. 為何長上下文處理是重大突破?
  7. 開源策略:為何免費提供強大的 AI 模型?
  8. 產業影響:競爭對手如何因應?
  9. 專家與社群的反應
  10. 技術深入解析:架構與訓練
  11. 更廣泛的影響:這對 AI 的未來代表什麼?
  12. 總結

Seed-OSS-36B 是什麼?為何重要?

Seed-OSS-36B 是由字節跳動 Seed 團隊開發的大型語言模型系列,該團隊致力於推進 AI 基礎模型的發展。這款模型擁有 360 億個參數,也就是協助 AI 學習並生成類似人類文字的內部變數。部分競爭模型的參數量更大,但 Seed-OSS-36B 以效率、進階推理能力,以及最引人注目的前所未有長上下文處理能力脫穎而出。

許多專有模型會限制使用權限並收取使用費用;Seed-OSS-36B 則採用寬鬆的 Apache-2.0 授權。這代表全球開發者與企業都能免費使用、修改及進一步開發此模型,包括商業用途。這種做法讓更多人能使用尖端 AI,降低創新的門檻,對規模較小的組織與研究團隊尤其有利。

Seed-OSS-36B 的主要特色

  • 512K Token 上下文視窗:Seed-OSS-36B 單次工作階段最多可處理 512,000 個 token,相當於約 1,600 頁文字。這是許多領先開源模型上下文長度的四倍,讓 AI 能一次處理大量文件、完整程式碼庫或多年紀錄。
  • 思考預算:開發者可以控制模型在回覆前進行多少「推理」。簡單問題可設定較小的預算以快速作答;複雜任務則可提高預算,進行更深入且準確的推理。
  • 代理式智慧:此模型擅長需要使用工具、多步驟推理與問題解決的任務,適用於研究、程式設計、法律分析等領域。
  • 部署彈性:字節跳動提供量化版本(體積更小、速度更快的模型)、部署指令碼,並支援常見 AI 框架,方便使用者進行實驗與部署。
  • 開源承諾:此模型已上架全球最大的開源 AI 平台 Hugging Face,促進全球協作與透明度。

廣告

Seed-OSS-36B 與阿里巴巴、DeepSeek、Google 和 OpenAI 相比如何?

字節跳動推出 Seed-OSS-36B,旨在直接與阿里雲、DeepSeek、Google 和 OpenAI 的模型競爭。儘管模型規模相對精簡,Seed-OSS-36B 在多項重要基準測試中,仍達到或超越規模相近的模型:

  • 知識與推理:Seed-OSS-36B 在 MMLU-Pro 基準測試中獲得 65.1 分,勝過阿里巴巴的 Qwen2.5-32B-Base(58.5 分),並在 TriviaQA 與 BBH 推理測試中取得高分。
  • 數學與程式設計:此模型在 GSM8K(數學)獲得 90.8 分、MATH 獲得 81.7 分、HumanEval(程式設計)獲得 76.8 分,以及 MBPP 獲得 80.6 分,展現出在技術領域的強大能力。
  • 指令遵循:經指令微調的版本 Seed-OSS-36B-Instruct 在 AIME24 數學競賽中獲得 91.7 分,僅次於 OpenAI 的 OSS-20B。

考量到 Seed-OSS-36B 的訓練資料僅有 12 兆個 token,少於許多競爭對手,這些成果尤其亮眼,也凸顯字節跳動訓練方法與模型架構的效率。

底層技術創新

Seed-OSS-36B 採用密集型模型架構,包含 64 層、RoPE 位置編碼、GQA 注意力機制、RMSNorm 正規化,以及 SwiGLU 啟動函數。其詞彙表大小為 155,000,並支援原生長上下文處理,無須依賴訓練後的權宜調整或插值技術。這套技術基礎讓模型即使參數較少、訓練資料較少,仍能維持高效能。

廣告

為何長上下文處理是重大突破?

Seed-OSS-36B 的突出特色之一,是能在單次工作階段原生處理最多 512K 個 token。作為對照,DeepSeek V3.1 等多數主流開源模型最多可處理 128K 個 token。擴大的上下文視窗帶來新的可能性:

  • 法律與法遵:律師事務所可上傳完整案件卷宗進行分析,不必拆分成較小片段。
  • 醫療照護:研究人員可一次處理多年病歷,取得更全面的見解。
  • 軟體開發:開發者可分析或重構完整程式碼庫,而不只限於單一檔案。
  • 研究與學術:學者可檢視篇幅冗長的報告或資料集,同時保留完整脈絡。

這項能力不只是技術上的新奇之處,更從根本上改變 AI 解決現實世界大型問題的方式。

開源策略:為何免費提供強大的 AI 模型?

字節跳動決定將 Seed-OSS-36B 開源,既是技術策略,也是商業策略。OpenAI、Google 等西方企業通常會收取 API 使用費,或限制商業用途;字節跳動採用的 Apache-2.0 授權則允許任何人自由使用模型。這種做法有幾項優勢:

  • 促進創新:讓更多人能使用先進 AI,可鼓勵全球開發者與研究人員社群打造新的應用、工具與服務。
  • 推動採用:開源模型更容易整合到產品與平台中,擴大字節跳動在 AI 生態系中的影響力。
  • 取得競爭優勢:隨著更多企業採用 Seed-OSS-36B,字節跳動能蒐集回饋、改良模型,並有機會將成功的創新整合到自家產品中。
  • 擾動市場:此舉給仰賴封閉、付費模型的競爭對手帶來壓力,可能推動業界規範轉向更開放、更重視協作的方向。

業界專家指出,開源 AI 模型正協助中國快速縮小與美國之間的效能差距。根據 Coolest Gadgets 的報導,使用開源 AI 工具的企業,往往比使用專有模型的企業獲得更高的投資報酬,原因在於成本較低、彈性更大。

廣告

產業影響:競爭對手如何因應?

Seed-OSS-36B 的發布已在科技業掀起波瀾。消息公布後,阿里巴巴股價走低,反映投資人對 AI 領域競爭加劇的憂慮。另一家中國 AI 大廠 DeepSeek 則透過升級旗艦模型 V3 回應,強調更快的處理速度,以及針對中國製晶片進行最佳化;在美國持續管制先進半導體出口之際,這是關鍵的一步。

中國 AI 產業快速成長,阿里巴巴、百度、騰訊與華為等企業都競相開發更強大、更有效率的模型。開源策略是這波發展的核心,因為它能促進更廣泛的採用與社群共同改良。根據 Stocktwits,AI 技術進展帶動中國科技股上漲,但全球經濟因素與監管挑戰也限制了漲幅。

專家與社群的反應

產業分析師與 AI 實務工作者肯定 Seed-OSS-36B 的效率與效能。一篇 LinkedIn 分析將此模型形容為「改變遊戲規則」,並指出其長上下文處理能力、開放授權與可調整的思考預算,可能重塑企業部署 AI 的方式。Reddit 等平台上的社群討論也呼應這些看法,早期使用者提到模型用途廣泛,且提供適合研究的選項。

更長的上下文、開源授權與思考預算,讓企業擁有更多掌控力與彈性。字節跳動免費提供了強大的工具,接下來就由企業、研究人員與開發者決定如何運用。

這段 LinkedIn 分析師的引言反映了業界更廣泛的看法:Seed-OSS-36B 不只是又一款模型,更是推動 AI 開發與應用方式轉變的催化劑。

廣告

技術深入解析:架構與訓練

Seed-OSS-36B 採用密集型 Transformer 架構,包含 64 層,隱藏層大小為 5,120。模型使用 RoPE(旋轉位置嵌入)進行位置編碼、GQA(分組查詢注意力)實現高效率注意力機制、RMSNorm 進行正規化,並以 SwiGLU 作為啟動函數。模型的詞彙表包含 155,000 個 token,可支援多種語言與任務。

此模型的一項創新是「思考預算」機制。使用者可設定 token 上限(以 512 為倍數),控制模型進行推理的程度。如此一來,使用者能在速度與深度之間取得平衡,讓模型適用於各種情境,從快速回覆客服問題到深入財務分析皆可勝任。

字節跳動提供兩種基礎版本:一種以合成指令資料訓練,效能較強;另一種則未使用這類資料,更適合純粹的研究用途。這種彈性可滿足應用研究與學術研究社群的不同需求。

更廣泛的影響:這對 AI 的未來代表什麼?

Seed-OSS-36B 的推出,顯示 AI 產業出現幾項重要趨勢:

  • 效率勝過規模:模型即使參數較少,仍展現出強勁效能,顯示更聰明的訓練方式與架構,足以比肩甚至超越單純擴大規模的做法。
  • 開源浪潮持續擴大:越來越多企業採取開源策略,創新步伐因此加快,AI 帶來的效益也能更廣泛地分享。
  • 全球競爭升溫:在開源模型推動下,中國 AI 快速進展,正縮小與美國科技巨頭的差距,並重塑競爭版圖。
  • 開拓新應用:長上下文處理與彈性的推理預算,讓 AI 能處理以往難以解決的問題,從法律分析到科學研究皆然。

對開發者、研究人員與企業而言,Seed-OSS-36B 提供強大且易於使用的工具,可用來打造新一代 AI 應用。對整體產業來說,這代表發展方向正轉向更開放、更有效率,也更重視協作。

總結

  • 字節跳動推出擁有 360 億個參數的開源 AI 模型 Seed-OSS-36B,挑戰阿里巴巴、DeepSeek、Google 與 OpenAI 等全球領導廠商。
  • 此模型具備 512K token 上下文視窗、可調整的思考預算,並在知識、推理、數學與程式設計基準測試中表現出色。
  • Seed-OSS-36B 採用 Apache-2.0 授權,全球使用者可免費將其用於商業與研究用途。
  • 其效率與技術創新展現出,更聰明的設計足以比肩甚至超越規模更大、資源需求更高的模型。
  • 此模型的發布加速 AI 開源發展,促進全球協作,並降低開發先進 AI 的門檻。
  • 業界專家認為 Seed-OSS-36B 可能改變遊戲規則,帶來新的應用,也加大封閉原始碼服務商面臨的競爭壓力。
分享本文

您可能也喜歡