AI 使用量增加、價格上漲，開始生成回應的等待時間也變長
中國每日消耗的人工智慧 token 數量在 2026 年 6 月達到約 500 兆，幾乎是 2025 年 12 月的四倍。中國信通院（CAICT）指出，價格也隨需求同步上漲：以共同基準換算後，國內平均價格從 2025 年下半年的 6.8 元升至 2026 年的 13.46 元，漲幅約 98%。
目錄
信通院於 10 月 23 日發布的《大模型 Token 服務效能監測報告（2026）》也記錄了一項使用者可能直接感受到的變化。國內模型在 8 月生成文字的速度約為 2025 年平均值的兩倍，但產生第一個 token 所需時間反而變長。答案開始生成後，輸出速度更快；開始之前，等待時間則更久。
這些發現呈現出一個市場的多重面貌：在經歷兩年的價格競爭後逐漸回穩，使用量快速成長，服務處理資訊的能力也大幅提升。報告同時說明，選擇 AI 服務不能只看模型名稱：不同平台即使運行相同模型，表現也有明顯差異。
中國如此大規模消耗的是什麼
Token 是 AI 模型處理或生成的小型資訊單位。在文字中，它可能是一個詞、一個詞的一部分，或一個標點符號。Token 提供衡量模型處理工作量的共同方式，但 token 數量與詞數的關係會因語言和系統而異。
因此，信通院所稱的每日約 500 兆 token，描述的是模型活動量。與 2025 年 12 月相比，這一數字接近四倍，約成長 300%，也就是 2026 年 6 月的總量幾乎是先前的四倍。
如今，透過模型即服務平台銷售存取服務的業者更多了，這類平台通常簡稱 MaaS。客戶透過公有雲應用程式介面（API）傳送請求；API 是一種連線方式，讓一套軟體能要求另一套軟體執行工作。企業可藉此將 AI 納入自家產品，而不必自行運作底層模型。
監測內容
信通院人工智慧研究所與工業和資訊化部大模型和軟硬體評測重點實驗室，以及人工智慧產業聯盟共同發布這份報告。監測期間為 2026 年 1 月至 8 月。
評估項目包括請求成功率、輸出速度、開始輸出前的等待時間、穩定性、價格及上下文視窗。報告比較官方模型平台，以及提供 DeepSeek、Qwen、GLM 和 Kimi 服務的第三方業者；這四者都是開源模型系列。
信通院表示，使用者往往缺乏簡便方式評估 token 服務效能，也難以選擇服務商。這項測量針對上述實際問題，將服務的不同面向分開評估，呈現單一價格或速度數字無法揭示的差異。
主要日期如下：
- 2025 年 12 月：作為後續國內每日 token 使用量接近增加四倍的比較基準。
- 2026 年 1 月至 8 月：報告監測期間。
- 2026 年 5 月：監測納入四個開源模型系列的新版本。
- 2026 年 6 月：國內每日 token 使用量達到約 500 兆。
- 2026 年 8 月：國內平均輸出速度為每秒 78.23 個 token。
- 2026 年 10 月 23 日：報告發布。
價格在兩年降價後回升
國內模型服務在經歷兩年的價格競爭後進入 2026 年。價格從 6.8 元升至 13.46 元，代表信通院標準化價格指標增加 6.66 元，幾乎是先前平均值的兩倍。
標準化是將不同的定價方式換算為共同基準，以便比較。報告沒有說明上述人民幣價格數字所依據的計費用量，因此客戶無法直接將報告的平均值換算成特定請求的成本。
2026 年在中國以外推出的典型模型，以相同標準化指標計算，平均價格約為 117.8 元，約為國內平均價格 13.46 元的 8.8 倍。這項比較反映的是受監測的模型群組；客戶實際面對的仍是各模型和平台各自的價格。
生成開始後，答案輸出更快
國內模型 8 月平均每秒產生 78.23 個 token，高於 2025 年平均的 38.25 個，增幅約 105%，也就是輸出速度略多於翻倍。
這項指標稱為吞吐量，或每秒 token 數（TPS），用來描述服務生成答案的速度。數值越高，生成開始後，提供較長回覆所需的時間可能越短。
中國以外的典型模型 8 月平均每秒產生 112.82 個 token，約比國內數值高 44%。其輸出速度也大幅提升，從 2025 年 12 月的每秒 51.35 個 token 增至上述水準，增幅約 120%。
兩組數據的比較期間不同：國內數值是與 2025 年全年平均相比，國外數值則是與 12 月相比。兩組數據都顯示輸出速度大幅提升，而受監測的國外模型 8 月平均值仍較高。
為何首次回應等待時間更長
國內模型 8 月平均需要 1.26 秒產生第一個 token，高於 2025 年的 0.78 秒。增加 0.48 秒，增幅約 62%。
這段等待時間稱為首 token 時間（TTFT）。對使用聊天機器人的人來說，就是送出請求到看到答案開始出現之間的停頓。吞吐量衡量的是這段停頓之後的速度，因此服務可能在一項指標上改善，另一項卻變慢。
國外典型模型 8 月平均需要 2.08 秒開始回應，高於 4 月的 1.04 秒。因此，8 月國內模型平均比國外模型早 0.82 秒開始輸出，但後續輸出速度較慢。
信通院將首 token 延遲增加歸因於幾項同時發生的變化：模型規模擴大、上下文變長，以及請求量增加。較大的模型需要更多運算；較長的上下文提供更多待處理資訊；流量增加則讓服務承受更大負荷。
模型一次能處理的資訊大幅增加
在受監測的模型中，47.8% 支援 100 萬 token 的上下文視窗；95.7% 則能處理至少 20 萬個 token，較 2025 年底增加超過 76 個百分點。
上下文視窗是模型在單次請求中能處理的資訊量，可包含指令、先前對話，以及送交分析的文件。視窗越大，使用者越能一次提供更多資訊，不必將內容拆分成多個請求。
這些數字顯示，較長的上下文在受監測模型中迅速普及。近半數模型可處理 100 萬個 token，只有 4.3% 的模型低於 20 萬個。增加超過 76 個百分點，代表 2025 年底支援至少 20 萬個 token 的模型占比低於 19.7%。
對需要處理長篇文件的企業而言，容量擴大改變了單次工作可納入的內容量。這也有助於理解報告為何將容量與等待時間一併檢視：模型可能必須先處理多得多的資訊，使用者才會看到第一個回應。
同一模型在不同平台上表現不同
依服務商不同，DeepSeek、Qwen、GLM 和 Kimi 服務在吞吐量、初始回應時間及請求成功率方面都有差異。同一模型在不同平台上的輸出速度差距接近兩倍。
部分第三方服務的表現優於官方平台。信通院將差異歸因於推論加速、最佳化策略及成本控管方式不同。推論是訓練完成的模型產生答案所需的運算流程，各服務商可以用不同方式安排和最佳化這些工作。
版本更新也會造成影響。8 月時，DeepSeek-V4-Pro 的吞吐量是 DeepSeek-V3.2 的兩倍。5 月升級後，受監測模型的初始等待時間普遍先上升，接著隨服務商導入最佳化而下降；延遲逐漸回到升級前的水準附近。
因此，客戶選擇服務時有兩項相關決策：使用哪個模型，以及由哪個平台運行。報告結果顯示，服務商層級的效能是選擇時不可忽視的因素。
這些變化對客戶的意義
現在採購 AI 服務的企業，面對的是國內平均價格上漲，但輸出速度更快、上下文視窗也大幅擴大。最值得參考的比較項目取決於工作內容：互動式聊天重視快速開始回應；生成長篇答案時，持續輸出的速度則更為重要。
文件分析服務可能需要較大的上下文視窗；處理大量客戶請求的應用程式，也仰賴請求成功率和穩定效能。信通院納入上述所有指標，因為每一項都會影響使用者體驗的不同面向。
綜合來看，市場的使用量和能力持續擴大，標準化價格指標也同步上漲。相較受監測的國外模型，國內服務仍有明顯價格優勢，且 8 月平均開始回應的速度較快；國外模型則在輸出開始後生成 token 的速度較快。兩組模型的首 token 等待時間都增加，顯示模型規模擴大、使用量增加所帶來的壓力。
重點整理
- 2026 年 6 月，中國每日消耗約 500 兆個 AI token，接近 2025 年 12 月水準的四倍。
- 國內標準化價格上漲約 98%，從 6.8 元升至 13.46 元。
- 國內模型 8 月平均輸出速度為每秒 78.23 個 token，超過 2025 年平均值的兩倍。
- 國內模型產生第一個 token 的等待時間，從 0.78 秒增至 1.26 秒。
- 受監測模型中，95.7% 支援至少 20 萬個 token 的上下文視窗。
- 同一模型在不同平台上的輸出速度差距接近兩倍，部分第三方服務商的表現優於官方服務。
