電子發燒友網報道（文/周凱揚）邊緣計算從始至終都是一個讓業界苦思冥想的問題，與云端計算這種集中式結構不同，邊緣計算的分布式結構杜絕了“齊心辦大事”的可能性。而且并非將體積依然不可小視的計算服務器部署在邊緣端，就能解決邊緣計算的一切要求，尤其是在邊緣AI需求持續高漲的當下。

根據IDC的統計，到了2025年全球互聯設備將達到416億臺，與此同時邊緣傳感器收集的數據將達到79.4ZB。在這么龐大的量下，邊緣AI提出的要求卻是高性能、低功耗，挑戰確實不亞于手機SoC的開發了。即便如此，雨后春筍一般冒頭的AI芯片公司還是在挑戰“卷”的限度。

軟件定義的邊緣AI加速器

平時留意RISC-V動向的小伙伴們應該有所耳聞，3月中旬IP廠商Alphawave花了2億美元收購SiFive旗下OpenFive。然而同樣在3月，在收購之前，專注于高速連接SoC IP的OpenFive宣布了與AI初創公司EdgeCortix的合作，共同打造下一代的邊緣AI加速器。

在軟件定義的AI加速中，靈活度最高的還得屬通用CPU，但一談到能耗，就有些相形見絀了，與較為專一的GPU相比，從性能和能效上都有一定差距。然而GPU雖說能效高于GPU，但放在邊緣端動輒幾百瓦的功耗又太夸張了，因此特定領域的AI加速器雖然犧牲了一定的靈活性，但做到了最高的能效比，也因此被邊緣AI所看重。

在這一理念下，EdgeCortix推出了動態神經加速器（DNA），一個運行時可重構的特定領域加速器設計，用于低功耗的實時AI推理應用，既可以部署在FPGA上，也可以部署在自研設計的ASIC芯片上。

SAKURA，正是基于該設計打造的一款高能效的邊緣AI協處理器。與部分AI芯片不一樣，SAKURA并沒有選擇5nm之類的先進工藝，而是選擇了12nm的成熟工藝。在800MHz的頻率下，SAKURA可以達到40TOPS的算力，在多芯片組合下更是可以達到200TOPS，搭載該芯片的PCIe板卡典型功耗只有10W到15W。

SAKURA與AGX Xavier的面積對比 / EdgeCortix

只談性能不談規模是毫無意義的，AI芯片廠商最喜歡拿來對比還是英偉達的各大GPU，這不，EdgeCortix也選擇了同用臺積電12nm工藝的英偉達AGX XavierGPU來進行對比，可以看出AGX Xavier的面積近乎是SAKURA的四倍，在算力上依然比后者低上25%，兩者能耗相差不大，但PPA上明顯是SAKURA更勝一籌。

不過這也不是實際場景的比較，我們還是拿深度學習模型的測試結果來看，由于軟件定義的特性，無論是在單芯多核和多芯的擴展下，SAKURA的異構計算單元都可以得到有效的利用。EdgeCortix給出了在YOLOv3這一實時物體檢測算法中的比較，在同規模的數據下SAKURA的推理耗時最高可以做到AGX Xavier的16分之一。

這倒不是說SAKURA就一定是邊緣AI的最優解，在給出的諸多對比中，大部分是BatchSize只有1下的測試結果，這是因為SAKURA對低BatchSize和INT8做過優化。更何況SAKURA對標的還是英偉達AGX Xavier、AGX Orin和高通CloudAI 100這一檔的邊緣AI芯片。

模擬與AI

不久前，筆者曾介紹了AI初創公司Aspinity的AML100邊緣AI芯片，主打處理傳感器輸出的模擬數據，來實現降低功耗的作用。近日，Aspinity透露了更多這款芯片的細節，并更新了一些數據。傳統的數據AlwaysOn方案無論是在智能手機、智能手表還是智能家居產品中都已經普及，而且主打的就是低功耗，甚至低至數十uW。那么這種模擬AI芯片的優勢又在哪呢？

傳統的超低功耗芯片在提及功耗時，其實還是自身的功耗乃至待機時的功耗，而從傳感器和ADC再到芯片的功耗，以及整個系統的功耗還是沒那么容易忽略的。比如傳統的AlwaysOn數字處理器架構系統在檢測語音事件時，總功耗大概在3700uW左右，數字處理器的功耗還是占大頭。

AML100芯片和評估板 / Aspinity

而在AML100組成的AlwaysOn系統中，傳感器的功耗不變，而AML100可以做到40uW以下的功耗，這時由于AML100從模擬端接手了預處理和機器學習的任務，ADC和數字處理器端的功耗無限約接近0uW，因此總功耗要小于140uW，將整個系統的功耗降低了95%以上。

AML100終究還是一個用于事件喚醒的邊緣AI芯片，面向破窗安全監測、語音喚醒之類的AlwaysOn應用，那么針對通用的邊緣AI應用，它能否派上用場呢？

其實作用也是有的，AML100的定位本質上就是一個模擬層面上的預處理，可以有效減小數據集的大小，這樣交給MCU或云端的數據會減少至多百倍，對于大部分邊緣應用來說，處理數據的減少也近似等效于延長電池壽命了。