機器學習需求將使得RISC-V芯片無處不在。

　　RISC-V是2010年首次推出的一種免費開源計算機指令集架構，其應用正在呈爆發性增長，這大部分得益于人工智能（AI）和機器學習的需求推動。Semico調研公司表示，或多或少采用RISC-V技術的芯片數量將每年增長73.6%，到2027年，生產的人工智能芯片將多達約250億個，創造2910億美元的收入。 戴夫?迪澤爾（Dave Ditzel）說，從幾年前還被認為是一種“暴發戶”理念到今天引人矚目的增長，展現出人工智能的巨大變化。迪澤爾的Esperanto 技術公司制造的首款高性能RISC-V AI處理器要與人工智能推薦系統中強大的圖形處理器（GPU）一爭高下。迪澤爾表示，在機器學習和人工智能的早期狂熱階段，人們認為通用計算機處理器架構（x86和Arm）永遠追不上圖形處理器和許多特定用途的加速器架構。

　　“我們想要證明，這些人都錯了。”他說，“RISC-V似乎是一種理想的基礎，解決人們想要人工智能去做的多種計算問題。” 隨著該公司的首款硅片（一種1092內核人工智能處理器）送達早期合作伙伴手中，以及公司與英特爾達成重大開發協議，他也許很快就能證明自己是對的。 迪澤爾的整個職業生涯都在致力于闡明RISC-V的理論。RISC表示的是“精簡指令集計算機”，根據這種理念，我們可以減少處理器執行的核心指令集，制造出尺寸小、功耗低，但性能好的處理器。1980年，IEEE會士大衛?帕特森（David Patterson）在一篇開創性的論文中創造了這個詞，迪澤爾是他的學生，也是這篇論文的共同作者。在共同創辦全美達公司之前，迪澤爾在貝爾實驗室和太陽微系統公司研究RISC處理器。全美達公司將x86指令代碼轉換為RISC架構，制造出一款低功耗處理器，旨在與英特爾展開競爭。

　　創辦Esperanto公司后，迪澤爾發現，RISC-V是一種只需較低功耗就可加速人工智能的方法。從基本層上來看，指令集架構越復雜，意味著需要硅片上有更多的晶體管來組成處理器，每個晶體管在關閉時都會有一點漏電流，在切換狀態時也消耗電能。他說：“這就是RISC-V的誘人之處，它的指令集很簡單。”

　　RISC-V內核的指令集只有47條指令。x86指令的實際數量難以計算，可能將近1000個。盡管Arm的指令集很小，但仍然比RISC-V的指令集大很多。迪澤爾說，簡單地使用精簡指令集并不能夠使計算能力達到Esperanto公司的目標。“大多數RISC-V內核并沒有那么小或那么節能。因此，對于我們來說，問題并不只是采用RISC-V內核并將1000個內核堆在一塊芯片上。我們必須徹底重新設計CPU，使其適應這些非常嚴苛的約束條件。” 迪澤爾和他的同事開始研究時，RISC-V指令集缺少有效進行機器學習計算（如矩陣乘法）所需的“向量”指令。于是Esperanto公司的工程師提出了自己的解決方法。

　　正如ET-Minion處理器內核架構體現的那樣，其包含了處理8位整數向量以及32位和16位浮點向量的指令部件。 由此產生的片上系統ET-SoC-1由1088個ET-Minion內核和4個ET-Maxion內核組成，ET-Maxion可幫助管理Minion的工作。該芯片240億個晶體管所占面積為570平方毫米，約為熱門人工智能加速器英偉達A100的2/3，但這兩種芯片的基本原理是截然不同的。 ET-SoC-1的設計目的是在功率受限的數據中心加速人工智能，在這些數據中心，核心主板已安裝在服務器外部設備的互聯總線（PCIe）插槽上。這意味著，主板只有120瓦可用功率，但它必須至少進行100萬億次運算/每秒才有意義。Esperanto在這種功率條件下可實現超過800萬億次運算。

　　在2021年12月的RISC-V峰會上，Esperanto公司的首席架構師賈耶什?艾耶（Jayesh Iyer）告訴技術專家，大多數人工智能加速器都是基于單個芯片制造的，單個芯片占用了主板的大部分功率預算。“Esperanto公司的方法是使用多個低功耗芯片，仍然滿足功率預算。”他說。 執行推薦系統基準測試程序神經網絡時，每個芯片的功耗為20瓦，不到A100功耗的1/10，而且其主板上有6個芯片。這種功率和性能的組合是通過降低芯片的工作電壓而不犧牲性能來實現的。（通常，工作電壓越高意味著芯片的時鐘運行越快，可完成更多的計算。）ET-SoC-1制造工藝的標稱電壓為0.75伏，單個芯片將遠遠超過主板的功率預算。但是，如果將電壓下降到約0.4伏，就可以在120瓦的主板上運行6個芯片，與高電壓的單個芯片相比，推薦系統的性能提升了4倍。在這種電壓下，每個ET-Minion內核僅消耗約10毫瓦。

　　“低壓運行是Esperanto公司的ET-Minion（內核）設計的關鍵區別。”艾耶說。它為架構和電路的決策提供了依據，他說。例如，RISC-V整數指令的內核流水線由每個時鐘周期數量最少的邏輯門組成，可在低電壓條件下實現更高的時鐘頻率。在內核執行長張量計算時，該流水線會關閉以節約能量。

　　近期開發的其他人工智能處理器也開始結合RISC-V和其自身定制的機器學習加速。例如，Ceremorphic最近公開了其分層學習處理器，該處理器使用了RISC-V和Arm內核及其定制的機器學習和浮點運算單元。英特爾即將推出的Mobileye EyeQ Ultra的芯片將采用12個RISC-V內核和神經網絡加速器，為4級自動駕駛提供智能支持。 對于嵌入式人工智能處理器公司耐能來說，采用RISC-V既是一項商業舉措，也是一項技術舉措。該公司一直在銷售使用Arm CPU內核及其定制加速器基礎架構的芯片和知識產權。不過2021年11月，耐能發布了首款基于RISC-V技術的KL530芯片，旨在采用名為視覺互感（Vision Transformer）的新型神經網絡來支持自動駕駛。

　　耐能的首席執行官劉峻誠表示，RISC-V架構讓神經網絡模型的預處理變得更簡單，運行效率更高。不過，他說：“鑒于去年英偉達可能收購Arm，這也有望降低商業決策可能對自身造成影響的風險。”雖然英偉達的收購于今年2月終止，但這可能會把耐能先前的CPU內核架構的供應商推到競爭者手中。 未來的RISC-V處理器將能夠使用達成社區共識的開源指令集來處理與機器學習有關的操作。2021年12月，管理和編纂內核指令集架構和新擴展的國際機構RISC-V International批準了一個僅包含100條向量指令的指令集。 該管理機構的首席技術官馬克?希梅爾斯坦（Mark Himelstein）說，即使有了向量擴展，RISC-V社區的優先任務仍然是促進機器學習。大多數RISC-V機器學習擴展的開發都發生在該組織的圖形特別興趣組，該組已與機器學習組合并，“因為他們的目標是一致的。”他說。不過其他組（例如高性能和數據中心計算興趣組）也在關注機器學習的擴展。希梅爾斯坦的工作就是確保將這些努力盡可能集中到一處。

　　?Semico的首席分析師里奇?瓦夫日尼亞克（Rich Wawrzyniak）說，盡管RISC-V取得了成功，但是在新增了大量人工智能功能的許多市場中，Arm仍然是主導者，這可能還會持續5年，在CPU內核設計的總收益中，RISC-V可能占15%左右。“不是50%，也不是5%。RISC-V出現的時間不長，這樣的增長速度已經相當快了。”

　　作者：Samuel K. Moore

　　審核編輯：黃飛