中國類比 AI 晶片重大突破,有望提升 1,000 倍速度並大幅降低耗能

閱讀時間 7 分鐘
中國類比 AI 晶片重大突破,有望提升 1,000 倍速度並大幅降低耗能

運算架構的重大轉變

中國研究人員推出一款革命性的類比運算晶片,僅需傳統數位處理器一小部分的能源,就能處理人工智慧工作負載,為開發更永續的 AI 硬體邁出重要一步。本週刊登於《Nature Communications》的研究中,北京大學科學家展示,這款電阻式隨機存取記憶體晶片能以規模相當於 Netflix 和 Yahoo 所用資料集的數據訓練推薦系統,速度比先進數位處理器快 12 倍,耗能則僅為其二百分之一。

目錄
  1. 運算架構的重大轉變
  2. 突破精度瓶頸
  3. 從數學理論走向實際應用
  4. 全球半導體產業背景
  5. 技術限制與未來發展
  6. 重點整理

這項突破驗證了先前的理論主張,也讓這項技術從簡單的數學基準測試邁向實際應用。第一作者孫忠形容,這項成果讓類比運算的界線又向前推進一步,並指出新晶片在處理複雜任務的同時,也保有類比運算與生俱來的速度和能源優勢。此時全球資料中心正因 AI 訓練帶動的用電需求暴增而苦苦應對,部分設施的耗電量甚至相當於小型城市,這項發展可謂正逢其時。

這項研究延續團隊 10 月首次公布的成果,當時研究人員宣布,他們已解決專家所稱困擾類比運算長達百年的精度問題。研究人員當時表示,這款晶片的處理速度有望比 Nvidia H100 圖形處理器等頂級數位運算單元快 1,000 倍,能源效率則可提高 100 倍。最新發表的研究證實了實際應用中的效能提升,雖然幅度較最初的理論預測溫和,但也展示了晶片在個人化推薦和影像處理上的能力。

傳統電腦以二進位數字,也就是 0 和 1,處理資訊;類比系統則操作電流等連續的物理訊號。數位運算就像傳統電燈開關,只有開和關兩種狀態;類比運算則更像調光開關,可在連續範圍內調整數值。這項根本差異讓類比晶片能透過物理特性而非二進位碼進行計算,避開傳統處理器受限於記憶體與運算單元間高耗能資料傳輸的問題。

人工智慧產業正面臨能源危機,讓這項發展格外重要。訓練單一大型語言模型就可能耗費數百萬瓦時電力,全球資料中心的用電量甚至超過部分已開發國家。隨著半導體元件製造逐漸逼近原子尺度,傳統數位處理器面臨根本性的物理極限;若要持續進步,改良架構將比提升製程愈來愈重要。

廣告

然而,類比系統過去一直難以克服精度問題。數位電腦透過逐步執行演算法達到精確結果,類比裝置卻容易受到訊號干擾和雜訊影響,因此不適用於現代複雜應用。儘管類比技術源遠流長,包括以互相咬合的齒輪預測天體位置、已有 2,000 年歷史的希臘安提基特拉機械,這項限制仍讓類比技術數十年來淪為歷史軼聞。

突破精度瓶頸

北京大學團隊以創新的雙電路架構克服這項限制,結合類比運算的速度與數位系統的精確度。他們的晶片採用電阻式隨機存取記憶體單元,透過調整電極間的電阻來儲存資料。研究人員將這些單元配置為兩個不同電路,建立一套先快速產生近似解,再透過反覆運算加以修正的系統,精度可媲美 32 位元浮點數位運算。

精度長期以來一直是類比運算的核心瓶頸。如何在類比運算中兼顧高精度與可擴展性,進而運用其固有優勢處理現代運算任務,是困擾全球科學界長達百年的難題。

在北京大學擔任助理教授的孫忠表示,這種方法讓傳統類比運算的精度提高了五個數量級,約為 10 萬倍。第一個電路產生的結果誤差率約為 1%,但經第二個電路修正三次後,誤差便降至與標準數位處理器相當。團隊以求解 16×16 實數矩陣的反矩陣問題展示這項能力,精度達 24 位元定點數。

這項創新的核心技術電阻式隨機存取記憶體,與傳統以電晶體為基礎的運算方式大不相同。RRAM 單元的運作方式如同憶阻器,這種電子元件會藉由改變內部電阻,記住先前流經的電流量。這項特性讓晶片能在同一處實體位置同時儲存和處理資訊,消除記憶體與處理器之間的分隔,不必像傳統電腦一樣耗費能源,透過匯流排來回搬移資料。

矩陣運算是現代人工智慧、機器學習和無線通訊的數學基礎。訓練神經網路或處理 6G 訊號時,電腦必須求解由大量數字組成的方程式。數位處理器會依序處理這些任務,把運算拆解成一長串二進位操作;類比晶片則能平行處理矩陣,直接在記憶體陣列中運算,不必將訊號轉換成二進位碼。

廣告

解決精度問題的歷史意義不容低估。類比運算早於數位技術出現,早期例子包括 1936 年的蘇聯水力積分器,利用流體在管道中流動來求解數學方程式。儘管曾有這些創新,雜訊和可擴展性問題仍使類比系統隨著數位技術成熟而遭淘汰。新晶片運用現代電阻式記憶體技術重現這些概念,可能讓數十年前被放棄的架構重新受到重視。

從數學理論走向實際應用

最初公布的消息聚焦於理論能力,最新發表的研究則證實晶片在貼近業界需求的實際 AI 工作負載上表現出色。晶片成功處理了個人化推薦系統,所用資料集的規模與 Netflix 和 Yahoo 使用的相當,展現超越簡單數學基準測試的能力。在影像壓縮測試中,系統重建的影像品質幾乎與全精度數位運算相同,儲存需求則減半。

這些應用代表目前正使全球資料中心資源吃緊的大量資料工作負載。推薦演算法支援串流服務、社群媒體平台和電子商務網站,處理數十億次使用者互動,產生個人化建議。從影音串流到醫學影像,影像壓縮無所不在;在不犧牲品質的情況下縮小檔案,可節省頻寬和儲存成本。晶片只耗用極少能源就能處理這些任務,顯示它有潛力改變相關服務的運作方式。

這讓類比運算的界線又向前推進一步。

除了消費應用,晶片也展現無線通訊測試能力,能在大規模多輸入多輸出系統中偵測訊號。這項技術對未來 6G 網路至關重要,因為基地台必須即時處理大量天線陣列。晶片在這些通訊任務上的效能與數位處理器相當,耗能卻約少 100 倍,顯示它適用於電力受限、電池續航力或散熱能力制約傳統硬體的環境。

未來的 6G 無線網路必須讓基地台同時管理數百個天線元件,並即時處理大量訊號資料,維持與行動裝置的連線。這些系統的運算需求超出現有數位訊號處理器的能力,尤其是偏遠基地台的延遲限制和電力預算。這款類比晶片能以極低耗能偵測無線通訊訊號,效能又與數位處理器相當,因此特別適合電信應用。

廣告

考量到現代 AI 基礎設施的規模,節能效益尤其顯著。訓練大型語言模型需要數千張高階顯示卡連續運算數週,耗費數百萬瓦時電力。在維持或提升運算速度的同時,將耗能降低兩個數量級,有望大幅減少營運成本和環境衝擊,回應外界對人工智慧發展碳足跡日益升高的疑慮。

全球半導體產業背景

這項突破出現在全球科技格局的關鍵時刻:出口限制使中國難以取得先進 Nvidia GPU 和其他高效能數位處理器。這款晶片無法立即取代通用型顯示卡,但可針對 AI 訓練和推論工作負載中的特定運算任務,提供專用替代方案。產業分析人士認為,這項技術可為構成神經網路運算核心的矩陣計算提供節能選項,進而改變 AI 硬體的發展。

這款晶片與用於訓練 ChatGPT 等大型語言模型的 Nvidia H100 顯示卡相比,更凸顯其潛在影響。理論預測顯示,在特定矩陣運算上,其吞吐量可達這些數位處理器的 1,000 倍,能源效率則提升 100 倍。即使以經驗證的實際結果來看,速度快 12 倍、能源效率高 200 倍,也已大幅超越目前主導全球資料中心的技術。

研究採用商業晶圓代工廠的製程能力,理論上無須特殊材料或革命性的新型製造設施,就能擴大生產。這種務實作法有別於只能在純淨環境中運作、無法投入實際應用的實驗室成果。晶片以標準半導體製造技術生產,顯示若市場需求出現,便可利用現有供應鏈擴產,而不必投入數十億美元建置基礎設施。

廣告

倫敦國王學院研究人員詹姆斯・米倫說明矩陣計算對 AI 訓練的重要性。他指出,數位電腦是能計算任何事物的通用機器,但不代表能有效率或快速地計算所有事物。針對特定任務設計的類比電腦,能在這些特定應用中達到驚人的速度與效率,有望降低 AI 使用日益普及所帶來的龐大能源需求。

技術限制與未來發展

儘管基準測試結果令人印象深刻,研究人員也坦言仍有明顯限制。孫忠提醒,實際應用的效益可能低於理論上限。這款晶片只專精於矩陣運算,因此只能加速 AI 訓練中涉及這類特定數學運算的部分。若矩陣計算占某項工作負載的大宗,速度提升就會十分顯著;但對需要多種運算的一般計算任務而言,效益仍有限。

這表示未來可能採用混合式架構,而非以純類比系統取代數位處理器。未來的圖形處理器可能會加入類比電路,處理 AI 訓練演算法的特定部分,尤其是二階最佳化方法和線性代數運算,同時保留數位核心處理通用運算。這類整合距離商用產品問世仍有數年之遙,但這項研究為相關發展奠定基礎。

邊緣運算是另一個很有潛力的應用領域。自動駕駛車、工業機器人和擴增實境頭戴裝置需要強大的運算能力,卻受電池與散熱條件嚴格限制。目前的解決方案仰賴將資料傳送至雲端伺服器處理,因此會產生延遲,也必須仰賴網路連線。能在本機執行複雜 AI 推論、又沒有數位處理器耗能問題的類比晶片,可望讓這些裝置更自主運作,並大幅延長電池續航力。

可擴展性也是一項挑戰。數位處理器可將任意大型的問題拆分成小區塊,依序處理;類比系統則必須使用實體尺寸更大的電路,才能求解更大的矩陣。若要打造能處理現代大型語言模型所需百萬×百萬變數問題的晶片,仍須大幅提升工程技術。不過,在電力消耗限制最為關鍵的邊緣運算應用中,即使是規模較小的類比晶片,也可能讓複雜 AI 直接在裝置上運作,不必依賴雲端連線。

廣告

研究團隊表示,下一步目標是打造尺寸更大、完全集成的晶片,以更快速度處理更複雜的問題。若這些努力成功,將有助加速 6G 通訊發展、提升 AI 模型訓練效率,並降低資料中心對環境的影響。目前資料中心消耗全球發電量的比例持續攀升。隨著數位運算逐漸逼近記憶體與運算單元分離所造成的物理極限,類比方案提供了一條延續效能提升、又不必按比例增加耗電量的路徑。

廣告

重點整理

  • 北京大學研究人員研發出一款採用電阻式隨機存取記憶體的類比 AI 晶片,在實際推薦和影像處理任務中,速度達先進數位處理器的 12 倍,能源效率則高出 200 倍。
  • 這款裝置解決了妨礙類比運算達到數位精度、長達百年的問題,透過雙電路架構修正近似運算,達到與 32 位元浮點系統相當的誤差率。
  • 有別於使用二進位 0 和 1 的數位處理器,這款晶片操作連續電訊號,直接在記憶體中進行矩陣計算,消除傳統運算中耗費大部分能源的資料傳輸瓶頸。
  • 這項技術採用商用半導體製程製造,顯示具備量產潛力,但目前的實作版本只能處理比訓練最大型 AI 模型所需規模更小的矩陣。
  • 應用包括個人化推薦系統、影像壓縮、6G 無線訊號處理,以及結合類比效率與數位彈性的混合式運算架構。
  • 這項突破正值中國面臨進口先進 Nvidia GPU 限制之際,為特定 AI 工作負載提供國產替代方案,也有望降低全球資料中心的能源消耗。
分享本文

您可能也喜歡