據悉，IBM公司最新推出了一款名為“NorthPole（https://research.ibm.com/blog/northpole-ibm-ai-chip）”的類腦芯片，其運行由人工智能驅動的圖像識別算法的速度是同類商業芯片的22倍，能效是同類芯片的25倍。根據IBM的一項研究顯示，新型硅芯片的應用可能包括自動駕駛汽車和機器人。

以大腦為靈感的計算機硬件旨在模仿人腦以異常節能的方式快速執行計算的非凡能力。這些機器通常用于實現神經網絡，類似地模仿大腦的學習和操作方式。

“NorthPole merges the boundaries between brain-inspired computing and silicon-optimized computing, between compute and memory, between hardware and software.”

—DHARMENDRA MODHA, IBM

受大腦啟發的電子學經常采用的一種策略是復制生物神經元計算和存儲數據的方式。將處理器和內存結合起來，可以大大減少計算機在這些組件之間穿梭數據所損失的能量和時間。

該研究的主要作者、IBM大腦啟發計算的首席科學家Dharmendra Modha說：“大腦比現代計算機節能得多，部分原因是它在每個神經元中都存儲了帶有計算功能的內存。”

Modha說：“NorthPole融合了大腦啟發計算和硅優化計算、計算和內存、硬件和軟件之間的界限。”

新芯片針對2位、4位和8位低精度操作進行了優化。研究人員表示，這足以在許多神經網絡上實現最先進的精度，同時省去訓練所需的數值。該研究原型在25至425兆赫的頻率范圍內工作，每個核心每個周期可以以8位精度執行2048次操作，以2位精度執行8192次操作。

NorthPole是在過去八年中開發的，它建立在IBM最后一款類腦芯片TrueNorth的基礎上。TrueNorth于2014年首次亮相，其功率效率比當時的傳統微處理器低四個數量級。

Modha說：“NorthPole的主要目標是大幅降低TrueNorth的潛在資本成本。”

科學家們用兩個人工智能系統測試了NorthPole —— ResNet 50圖像分類網絡和Yolo-v4物體檢測網絡。與使用類似12納米節點制造的英偉達V100 GPU相比，NorthPole每瓦的能效是后者的25倍，速度是后者的22倍，同時面積只占五分之一。

“Given that analog systems are yet to reach technological maturity, this work presents a near-term option for AI to be deployed close to where it is needed.”

—VWANI ROYCHOWDHURY, UCLA

NorthPole的表現也優于市場上所有其他芯片，即使是使用更先進節點制造的芯片。例如，與使用4nm節點實現的英偉達H100 GPU相比，NorthPole的能效高出五倍。事實證明，NorthPole的速度大約是TrueNorth的4000倍。

加州大學洛杉磯分校的計算和人工智能科學家Vwani Roychowdhury沒有參與這項研究，他說：“這篇論文代表了一場工程之旅。”

新芯片的速度和效率來自于它所有的內存都在芯片上。這意味著每個核心都可以同樣輕松地訪問芯片上的存儲器。

此外，Modha說，從設備外部看，NorthPole是一個有源存儲芯片。這有助于將NorthPole集成到系統中。

Modha說，NorthPole的潛在應用可能包括圖像和視頻分析、語音識別，以及被稱為變壓器的神經網絡，這些網絡是為聊天機器人（如ChatGPT）提供動力的大型語言模型（LLM）的基礎。IBM表示，這些人工智能任務可能會用于自動駕駛汽車、機器人、數字助理和衛星觀測等領域。

一些應用程序要求神經網絡太大，無法安裝在單個NorthPole芯片上。Modha說，在這種情況下，這些網絡可以分解成更小的部分，可以分布在多個NorthPole芯片上。

IBM指出，NorthPole的效率顯示出它不需要龐大的液體冷卻系統來運行——風扇和散熱器就足夠了。這意味著它可以部署在更小的空間。

科學家們注意到，IBM用12納米的節點工藝制造了NorthPole。目前CPU的技術水平是3納米，IBM已經花了數年時間研究2納米節點。該公司表示，這表明，這種類腦策略可能很容易取得進一步的成果。

NorthPole的架構類型通常被稱為內存計算，可以是數字的，也可以是模擬的。在諸如NorthPole之類的數字內存計算系統中，需要許多電路來運行乘法-累加（MAC）運算，這是神經網絡中最基本的計算。相比之下，內存中的模擬計算系統擁有更適合執行這些操作的組件。

內存中的模擬計算比數字計算需要更少的功率和空間。然而，這些模擬系統通常需要新的材料和制造技術，而NorthPole是使用傳統的半導體制造技術制造的。

Roychowdhury表示：“鑒于模擬系統尚未達到技術成熟度，這項工作為人工智能在需要的地方部署提供了一個近期選擇。”

審核編輯：彭菁