電子發燒友網報道（文/周凱揚）作為用戶，我們已經見證了人工智能從產品向功能的演化，而這股趨勢正在蔓延至邊緣端。然而邊緣端由于功耗、算力要求嚴格，部分現有的方案效果不佳，邊緣AI常常被冠以“偽需求”的污名，但對于無論是AI芯片廠商、IP供應商還是軟件方案商，都在竭力證明自己的潛力。

換著法子追求低功耗

在不少人看來，AI芯片分為云端和邊緣端，云端AI芯片面向服務器和HPC，自然要求做到高性能，但與此同時功耗自然不低，且往往將推理和訓練分隔開。而邊緣芯片的要求則恰恰與其相反，追求的首先就是低功耗。

旭日3/ 地平線

在當前的趨勢下，由于邊緣端設備涉及的范圍太大，小到一個智能水表，大到自動駕駛汽車，所以對在對于算力和功耗的要求上各有不同，所以即便同屬邊緣AI芯片，也不好直接對比。比如有的是獨立的AI芯片，有的是起到輔助作用的協處理器。以地平線的旭日3系列就是針對智能前視和邊緣計算市場的邊緣AI芯片，其中X3M可以提供5TOPS的AI等效算力，X3E可以提供3TOPS的AI等效算力，在臺積電16nm的制程和地平線的芯片設計下，該系列的功耗已經做到2.5W。但即便是這樣的低功耗，也不能說覆蓋所有的邊緣AI場景。

AML100 / Aspinity

今年年初，AI初創公司Aspinity發布了AML100 AnalogML芯片，一個主打模擬機器學習的低功耗邊緣AI芯片，最高支持4個模擬傳感器。該芯片面向那些需要實時喚醒的邊緣AI應用，比如智能家居中的安全監控、可穿戴設備上的智能語音控制、以及預防性和預測性維修中的異常檢測等。這些應用都有著一個共通的特質，那就是離不開傳感器。傳統的實時喚醒結構將傳感器的模擬信號傳遞給ADC，轉換成數字信號后再發往數字處理器，如今這類方案已經可以實現極低的功耗。

傳統架構與AML100架構的對比 / Aspinity

但在Aspinity看來，這種結構需要模擬和數字系統均保持實時在線，ADC對傳感器輸出的數據“來者不拒”，因此數字處理器承擔了對所有數字信號的處理工作，如此一來功耗基本都在3000-5000μA的水平。而AML100的可配置模擬核心支持直接對模擬數據進行特定的信號處理，比如頻譜分析、神經網絡特征提取等，最終輸出真正有用的傳感器數據，最后再傳給數字處理器。如此一來數字處理器不需要時刻處于喚醒狀態，只需要在檢測到必要數據時喚醒即可，而AML100組成的模擬系統功耗可以做到100μA以下。據Aspinity的說法，AML100可見電池壽命延長20倍。

模型帶來的困擾

光靠AI芯片自然是不足以支撐起整個邊緣AI的發展，大家也都知道模型是AI中不可或缺的一環。然而邊緣側的定義已經注定了跑不起那些大規模的AI模型，所以只能跑那些規模較小，并隨算力擴展的機器學習模型，比如TinyML等，所以邊緣端的軟件棧同樣挑戰不小。此外，為不同的硬件調整AI模型也是邊緣端部署AI的一大痛點。如此一來，雖然不少邊緣AI芯片已經做到了足夠的優異的性能，在軟件生態尚未成熟之下，應用場景依然少之又少。因此，邊緣AI的優化往往以縮小開銷優化模型為主，使其適應邊緣端這一應用場景，在低功耗也能實現絕對的優勢。

最近又一家美國AI初創公司浮出水面，并獲得了來自高通創投和FoothillVenture等公司的1000萬美元種子輪融資。其初創團隊包括深鑒科技（被賽靈思收購）聯合創始人兼Deep Compression技術開發者韓松、前FacebookAI的技術主管Di Wu等。從幾位創始人的履歷來看，都在AI和深度學習上有著豐富的經驗，而且都是清華電子工程出身的，考慮到FoothillVenture也就是改名前的清源創投，倒是不稀奇了。

OmniML的創始人 / OmniML

團隊上就不過多展開講了，畢竟陣容再豪華的初創公司也得拿實力說話，OmniML的王牌又是什么呢？單看幾位創始人過去的成果，確實很擅長減少模型的壓縮優化，尤其是他們也活躍于TinyML的開發社區。在OmniML官網的描述中指出，OmniML提供的軟件方案可優化AI/ML模型，將它們輕易部署在邊緣設備中，又不會損失性能和精度，與此同時，OmniML提供一種硬件感知的神經架構搜索，只需訓練模型一次，就可以部署在任何硬件中，無論是GPU、AI芯片還是低功耗的MCU，即便是老的硬件設備也能在OmniML的助力下獲得強大的AI/ML能力。

根據高通的說法，OmniML的神經架構搜索并不是單純的壓縮模型來做到優化，而是從一開始就創建一個高效的新模型，對于邊緣硬件的客戶來說，不僅可以降低時間和資金成本，還能有效提升精度。OmniML聲稱他們這種神經架構搜索已經用于亞馬遜的AutoML和Meta的PyTorch深度學習框架中。

考慮到開發團隊有著深厚的機器視覺背景，OmniML也首先面向自動駕駛和智能攝像頭，他們展示了6車載攝像頭傳感器融合的3D檢測方案、以及基于CortexM7 MCU的人體檢測和人臉/口罩檢測。

邊緣AI的需求不算小眾

在呈現的無盡潛力面前，邊緣AI還是常常被人“邊緣化”，但如果我們直接看應用市場的話，就會發現邊緣AI的需求巨大。無論是TWS耳機的主動降噪，服務機器人的語音識別還是汽車的自動駕駛，邊緣AI的發展必將為這些場景帶來更大的功耗優勢，節省成本的同時加快落地速度。