|底層智能駕駛芯片成為國內競爭焦點

汽車智能化的趨勢日益明顯，底層智能駕駛芯片成為國內公司競爭的焦點。成立于2022年1月的奕行智能定位于汽車AI計算芯片公司，其核心團隊擁有多年的車載芯片和AI行業(yè)經驗，現(xiàn)已經完成了累計數億元的融資。目前其產品主要聚焦于智能汽車的AI場景。今年奕行智能計劃推出兩款基于AI計算架構的端側算力產品，明年將計劃推出更大規(guī)模的大算力芯片產品。

劉琿指出，智能汽車對應的AI應用場景非常豐富，而智能駕駛又是車上AI應用場景中對模型泛化和通用性要求最高。在智駕領域里能夠把通用做好的產品除英偉達以外并不多，因此圍繞通用性這個需求特點智駕芯片的市場機遇還是比較大的。智駕場景從當前輔助駕駛階段，到正在落地的開放道路的部分自動駕駛，再到更遠未來全局智能交通系統(tǒng)驅動的高階無人駕駛。在一次次重構中，不僅革新人們的出行方式，更是在推動底層的軟硬件迭代和重構。

比如在智駕領域的算法從過去基于CNN算法的多個不同任務的感知的網絡向以Transformer為基礎框架的BEV大模型演進。在特斯拉證明BEV的可行并成功量產后，BEV技術正被各大車廠作為今明兩年重大落地的新一代算法模型。然而BEV作為新一代自動駕駛感知算法，在傳統(tǒng)AI加速芯片部署上會存在一定難度。“Transformer的算法特點讓過去圍繞CNN模型定制的AI芯片很難高效部署”，Transformer模型對訪存要求相對傳統(tǒng)CNN算法會高出很多，同時Transformer內的非線性層有非常高的精度要求，相應需要更多的浮點計算資源。其次Attention模塊是一個matmul-softmax-matmul的結構，在序列長度比較大時，Reduce維度的計算對Vector（向量）計算資源要求非常多。此外BEV模型里Grid Sample算法里還有一些類似聚合、分散的特殊算子。所有這些計算需求在傳統(tǒng)的AI芯片在硬件上難以滿足，使得對于BEV這種復雜的大模型部署難以高性價比的方式量產落地。

劉琿還提到另一個挑戰(zhàn)，作為一個端側設備，車載芯片的成本和功耗都是有約束的，怎么在算力紅線下，提高NPU的硬件效率和可編程性顯得尤為重要。從提高效率層面需要NPU硬件與編譯器協(xié)同設計，通過更好的優(yōu)化和部署計算任務來更高效地填滿硬件，從而提升硬件的利用率，同時還要考慮如何更加方便快捷調用每一單位的算力。因此這就需要提升NPU的可編程性，包括從硬件體系架構上打造充分可編程的硬件和軟件上構造抽象層次更高的編程界面。

從高緯度來看，自動駕駛應用場景不斷演進，對AI計算架構的需求也在不斷演進。早期ADAS的應用場景簡單，算法模型較單一，所以與算法綁定高度定制的AI核被市場接受，能夠快速解決應用場景有與無的問題；第二個階段（也就是現(xiàn)階段）是NOA應用啟動時代，模型種類及數量的增多，加之泛化要求變高，使得通用型較強的GPGPU在率先布局NOA應用的高端車上成為主要的解決方案。但隨著時間推移，NOA應用普及及車廠對降本增效的訴求愈發(fā)強烈，因此，第三階段在滿足第二階段和成本效益的情況下，能夠兼顧通用性和能效的GP-DSA架構將會成為產業(yè)主流。劉琿認為，“從中長期來看，一個在領域內通用性更強，又能比GPGPU效率更高、能進化的DSA的AI計算架構會越來越有希望。”

從全球視野來看，目前有很多大廠已經開始布局定制開發(fā)自己的AI計算架構與硬件內核。值得關注的是幾家頭部大廠如Google、Meta、Tesla以及頭部的獨角獸公司如Tenstorrent等都不約而同的采用RISC-V指令集來構建整個AI計算體系。與這些公司類似，奕行智能在國內率先把RISC-V用在百Tops以上的大算力AI并行計算領域，通過在內核上構建強大的指令和數據并行，使奕行智能的整個計算架構的性能達到行業(yè)領先的水平。劉琿表示，使用RISC-V并非要替代作為自動駕駛芯片主處理器的ARM內核，而是結合RISC-V的架構開放性和可擴展性將其用在AI計算領域，通過結合RISC-V通用性與DSA核架構的效率，使其能在兩者上有較好的兼顧。同時結合微架構上的創(chuàng)新，使得整個內核能在相比GPU更小的算力能獲得數倍于GPU的智駕網絡推理性能。

（圖片來源知乎）

在大模型芯片部署中，編譯器是AI模型能夠以最高性能和最低功耗高效運行的關鍵，AI領域應用的大量出現(xiàn)也促進著領域編譯的發(fā)展。“解決Memory Bound需要硬件微架構與軟件編譯器聯(lián)合優(yōu)化。“像許多其他的科技指標一樣，AI芯片的計算性能也有理論上的極限，從Roofline Model可以看出平均帶寬需求和峰值計算能力像天花板一樣是整個系統(tǒng)計算的能力上限，以計算強度上限Imax為界，劃分出AI芯片的兩個瓶頸區(qū)域，即圖中橘色的內存受限區(qū)（Memory Bound）和圖中藍色的計算受限區(qū)（Compute Bound）。劉琿提到要想讓增加的算力真正能提高系統(tǒng)性能必須讓算法所處的區(qū)域落在計算受限區(qū)域，這需要通過軟硬協(xié)同設計的方式來達成，這就像暢通的交通除了需要基于交通流量合理設計的硬件基礎設施，也需要有基于硬件基礎設施合理設計的交通調度系統(tǒng)。

最后，劉琿也提到GPU架構把大的計算任務切分給多個小核并且軟件基于Kernel執(zhí)行數據來回在DDR與片內交互，這樣導致的問題是更多的數據交互的開銷和功耗。奕行智能的AI芯片與之不同的是針對智駕模型的微架構設計優(yōu)化以更少的數據交互開銷來完成計算任務并使大部分的計算駐留片上完成，從而獲得更加好的PPA。

“大模型”時代的到來，讓AI產業(yè)與包括汽車在內的傳統(tǒng)行業(yè)或新興產業(yè)產生了更多交集，AI進一步的發(fā)展和成熟更是為自動駕駛技術帶來了巨大的推動力。未來奕行將持續(xù)在AI計算架構這塊領域上進行更多的創(chuàng)新與探索，幫助更多合作伙伴解決當前自動駕駛在AI模型的推理性能、能效、模型泛化的支持、AI編程的易用性、硬件操作的自由度以及成本上等多個維度的核心痛點，加快AI技術在自動駕駛領域的落地應用與創(chuàng)新發(fā)展。

編輯：黃飛