前沿 AI 效能登上消費級硬體
阿里巴巴 Qwen AI 開發團隊推出新系列大型語言模型，從根本上挑戰了尖端人工智慧必須仰賴雲端規模基礎設施或專有 API 的既有看法。數日前發表的 Qwen3.5 中型模型系列推出四款新模型，主打能在本機硬體上高效運作，並宣稱效能可媲美西方領先產品。
四款模型中有三款採用寬鬆的 Apache 2.0 授權，企業與獨立開發者可免費下載、修改並用於商業部署。這三款開源模型包括 Qwen3.5-35B-A3B、Qwen3.5-122B-A10B 和 Qwen3.5-27B，目前均已在 Hugging Face 和 ModelScope 開放下載。第四款 Qwen3.5-Flash 則仍為專有模型，只能透過阿里雲 Model Studio API 使用，不過價格大幅低於多數西方競品。
阿里巴巴最引人注目的說法，聚焦於效能基準測試。該公司表示，旗艦模型 Qwen3.5-35B-A3B 在涵蓋知識檢索與視覺推理的第三方評測中，表現勝過 OpenAI 的 GPT-5-mini 和 Anthropic 的 Claude Sonnet 4.5。Claude Sonnet 4.5 僅在五個月前推出；在模型開發週期通常以季甚至年計的產業中，競爭差距如此迅速縮小，格外值得注意。
架構創新讓本機部署成為可能
Qwen3.5 有別於前代之處，在於結合 Gated Delta Networks 與稀疏混合專家系統（Mixture-of-Experts）的混合架構。對非技術背景的讀者來說，這代表 AI 模型處理資訊的方式出現根本轉變。傳統稠密模型每次回應都會啟用所有參數，耗用大量運算資源；相較之下，MoE 架構就像諮詢專家，會將每個問題交由模型中最相關的部分處理。
技術規格顯示，這種設計提升了效率。Qwen3.5-35B-A3B 雖有 350 億個總參數，但處理任何一個 token 時只會啟用 30 億個。其架構採用 256 個專家模組，其中 8 個路由專家與 1 個共用專家負責處理問題的特定面向。這種選擇性啟用大幅降低推論延遲，同時維持輸出品質；阿里巴巴表示，即使透過量化將權重壓縮至 4 位元，模型的準確度也幾乎不受影響。
這種能耐受量化的特性，對部署彈性帶來革命性影響。多數 AI 模型在壓縮以供本機運作時，效能會顯著下降。Qwen3.5 經過設計，即使壓縮仍能維持穩定，因此旗艦模型可在僅配備 32GB VRAM 的消費級 GPU 上處理超過 100 萬 token 的上下文。雖然這仍需要高階消費級硬體，但相較於競品要達到相近效能通常所需的伺服器叢集，門檻已低得多。
檢視基準測試：效能宣稱接受獨立檢驗
阿里巴巴提出的基準測試結果，只呈現了部分情況。該公司贊助的評測顯示，Qwen3.5-35B-A3B 在 MMMLU（多語言知識）和 MMMU-Pro（視覺推理）等指標上領先 GPT-5-mini 與 Claude Sonnet 4.5；但獨立測試呈現出更細緻的競爭態勢。
近期一項獨立的 SWE-rebench 測試以 GitHub 上真實的拉取請求錯誤修正來評估模型，而非採用合成基準測試。結果顯示，Claude Sonnet 4.5 的通過率最高，達 55.1%。Anthropic 的模型還成功解決了其他受測模型都無法處理的多個複雜案例，包括 python-trio、cubed-dev 和 canopen 儲存庫中的問題。在這項真實世界的程式設計測試中，Sonnet 4.5 保持明顯領先。
另一項由獨立機構進行的 APEX 基準測試，涵蓋 70 項涉及真實程式碼庫與實際問題的任務，進一步揭示 Qwen3.5 效能表現的複雜面貌。27B 稠密模型適合部署在單張 GPU 上，表現尚可，ELO 分數為 1384，勝過 DeepSeek V3.2；但較大型型號在複雜的多檔案協作任務上，效能則出現令人憂心的下滑。35B MoE 型號僅啟用 3B 參數，在代理型工作負載上的 ELO 分數降至 1256，多步驟推理表現反而不如較小的 27B 型號。最明顯的是，龐大的 Qwen3.5-397B 在最高難度任務中表現大幅下滑：在困難任務上的 ELO 分數約為 1550，但當任務要求跨多個檔案、進行長鏈推理時，分數便降至 1194。
當它需要跨多個檔案、分多個步驟協調工作時，就會搞不清楚自己在做什麼。
這項獨立分析由一名自費研究者發布，測試運算成本已超過 3,000 美元。結果顯示，Qwen3.5 雖擅長處理範圍明確的任務，但在複雜、耗時較長的代理型工作上可能力有未逮；這類工作正是 Claude Sonnet 4.5 特別擅長的領域。
思考模式與工具整合
所有 Qwen3.5 模型都內建預設啟用的「思考模式」，代表 AI 互動方式轉向以推理為先。產生最終輸出前，模型會先建立內部推理鏈，並以特定標籤標示，明確逐步處理複雜邏輯，而非直接給出結論。這種做法呼應了思維鏈方法；該方法已提升其他前沿模型的準確度。
此系列也著重代理型能力，內建工具呼叫支援，讓模型能與外部系統互動、搜尋網路及執行程式碼。Qwen3.5-Flash API 對這些功能採用細項計價：網路搜尋每 1,000 次呼叫收費 10 美元，程式碼解譯器目前限時免費。這種定價讓 Flash 成為全球最實惠的託管式大型語言模型選項之一；每百萬個輸入 token 收費 0.10 美元，輸出 token 則為 0.40 美元。
相較之下，Claude Sonnet 4.5 每百萬個輸入 token 收費 3 美元，輸出 token 收費 15 美元；GPT-5.2 則分別為 1.75 美元和 14 美元。即使是主打本機部署的替代方案，例如 Z.ai 的 GLM-5，每百萬個 token 也要 1 美元和 3.20 美元。價格相差 30 至 100 倍，可能促使重視成本的企業廣泛採用，願意以些微效能差異換取大幅節省預算。
對企業資料主權的影響
除了原始效能指標，Qwen3.5 的推出也對企業部署 AI 具有策略意義。能在完全私有的基礎設施上執行具前沿能力的模型，有助於因應企業對資料主權與第三方 API 風險日益加深的疑慮。金融、醫療和政府承包等受監管產業的組織，愈來愈常面臨合規要求，禁止將敏感資料傳送至外部雲端 AI 服務。
Qwen3.5 能在由企業自行掌控的硬體上支援百萬 token 的上下文視窗，讓企業無須將專有資訊暴露給外部 API，就能處理龐大的文件資料庫、長達數小時的影片內容，以及大量機構資料集。這項架構轉變使先進 AI 能力不再受制於巨額資本支出，可能讓過去只有資金雄厚的科技公司才能使用的工具普及開來。
開源授權也讓企業能針對特定領域應用進行客製化與微調。專有模型只提供黑箱 API 存取，Qwen3.5 的開放權重則讓組織能依照專業詞彙、內部知識庫和特殊工作流程需求調整模型。對於使用專門術語或有法規文件要求的產業而言，這種彈性特別有價值。
中國 AI 生態系帶來的更廣泛挑戰
Qwen3.5 推出之際，中國 AI 實驗室正密集發布開源模型，合力挑戰西方的科技主導地位。Z.ai 的 GLM-4.5 系列採用類似的 Apache 2.0 授權，效能相近，並具備自動產生 PowerPoint 簡報等專門功能。Moonshot 的 Kimi K2 和 DeepSeek 推出的多款開源模型，也共同形成一個能取代美國封閉系統的可行選項生態系。
這股趨勢正對西方 AI 業者造成壓力。Meta 的 Llama 4 系列問世後受到批評，部分 AI 研究人員質疑其基準測試取巧，且在真實世界的效能不穩定。現代大型語言模型時代的先驅 OpenAI，已將原定於 7 月推出的開源前沿模型延後至未定日期，讓中國替代方案有機會先在開發者間建立影響力。
競爭不只關乎技術規格，也涉及資料治理問題。採用中國開發模型的西方企業，必須審慎處理內容限制與資料主權考量，尤其是使用雲端 API 而非本機部署時。然而，Qwen3.5 主要型號採用開源形式，企業可在與外部網路隔離的環境中部署，降低許多相關疑慮。
市場定位與未來發展
阿里巴巴的發布策略著重於讓不同等級的硬體都能使用。Qwen3.5-27B 主打高效率部署，支援超過 80 萬 token 的上下文；122B-A10B 型號若要發揮最高效能，則需要配備 80GB VRAM 的伺服器級 GPU。這種分級策略讓組織能依據現有基礎設施選擇模型，不必一律仰賴雲端。
阿里巴巴也將基礎模型與指令微調版本一併開源，以滿足研究社群對微調和架構研究的需求。這種透明度有別於部分西方競爭者採取的封閉開發方式，也可能透過共同改良加速創新。
Hugging Face 上的初期社群回饋顯示，開發者特別看好這些模型的代理型能力與量化穩定性。有開發者表示，模型已成功部署在過去被認為不足以支援前沿模型效能的消費級硬體上，印證了阿里巴巴對效率的宣稱；但獨立基準測試也顯示，面對複雜程式設計任務仍須審慎看待。
重點整理
- 阿里巴巴推出 Qwen3.5 中型系列，共四款模型，其中三款採 Apache 2.0 開源授權，可用於商業用途
- 旗艦型號 Qwen3.5-35B-A3B 採用混合專家架構，每個 token 僅啟用 350 億個參數中的 30 億個
- 獨立基準測試結果不一：模型在知識與推理測試中表現突出，但處理複雜多檔案程式設計任務時不如 Claude Sonnet 4.5
- 透過先進的 4 位元量化，模型可在配備 32GB VRAM 的消費級 GPU 上支援超過 100 萬 token 的上下文視窗
- Qwen3.5-Flash API 價格比西方競品低 30 至 100 倍，每百萬個輸入 token 收費 0.10 美元，Claude Sonnet 4.5 則收費 3 美元
- 系列全數預設啟用原生思考模式，在產生最終輸出前先建立內部推理鏈
- 企業可在內部部署模型，讓有本機 AI 處理需求的受監管產業完整掌握資料主權
- 此次發布加入中國開源 AI 模型浪潮，與 Z.ai 的 GLM-4.5、Moonshot 的 Kimi K2 等一同挑戰西方專有系統
