GreenWaves Technologies 和 Imagimob 討論了在邊緣為 AI 開發應用程序的挑戰以及用例將如何演變。

EE Times Europe 采訪了兩家參展商 GreenWaves Technologies 和 Imagimob 的高管，以深入了解在邊緣開發 AI 應用程序的挑戰以及用例將如何演變。

機器學習并不新鮮；十多年來，許多ML模型已經在高端服務器和云服務提供商上可用。然而，對超低功耗、資源受限的微控制器進行推理僅在過去四年才開始獲得發展勢頭。2019 年，tinyML 基金會成為希望探索在低功耗 MCU 上運行 ML 算法（通常消耗毫瓦級能量）的公司的焦點。隨著超低功耗 MCU 的面世，它們開啟了始終在線運行的潛力，特別是對于電池供電的用例。

定義“邊緣”

對某些人來說，“邊緣”代表可靠的網絡連接和線路電源的地方；其他人認為它是一個偏遠的地方，連接有限或不可靠，電池供電是常態。從環境資源中收集能量越來越成為邊緣節點物聯網設備的一個特點。

“邊緣有很多定義，”超低功耗處理器的無晶圓廠開發商 GreenWaves Technologies（法國格勒諾布爾）營銷副總裁 Martin Croome 說。“對于移動網絡運營商來說，邊緣可能是他們的基站，在生產線上它可能是機器人，而對我們來說它可能是耳塞。定義邊緣的重要因素之一是功率：是瓦、毫瓦還是微瓦？邊緣的第二個維度是成本，其中邊緣設備受到成本限制，要么是因為它是一件本身成本不高的小東西，要么是市場緊張。tinyML 設備成本低、功耗低。”

邊緣人工智能開發挑戰

市場對 tinyML 和在邊緣創建機器學習應用程序的興趣幫助建立了多家 ML 開發平臺公司。這些軟件包涵蓋整個 AI 工作流程，從數據收集到數據分析、模型選擇和部署，是探索邊緣 AI 的嵌入式開發人員的熱門選擇。

Imagimob（瑞典斯德哥爾摩）于 2019 年推出了 Imagimob AI 平臺。在開發人員面臨的所有 ML 挑戰中，合適的訓練數據的可用性至關重要。但這不僅僅是擁有正確的數據，Imagimob 的首席執行官兼創始人安德斯·哈德布林 (Anders Hardebring) 說。“借助我們的 AutoML 功能，你可以使用智能算法找到正確的模型架構，但這里重要的是對數據有很好的理解。理解數據是關鍵。如果不了解數據并且正在使用 AutoML，那么就無法真正了解正在發生的事情。”

GreenWaves的Croome證實，一攬子方法對那些剛起步的人有幫助，但也強調了了解正在使用的數據的重要性。“如果你正在做的事情適合其中一個包，那么也許你可以走很長一段路，而不必讓自己暴露對特定模型的更深入理解。我會爭辯說，[如果你]使用一個不了解你將要做的統計數據的包，對它的數學理解，那么我認為你可能會犯一些錯誤。”

學習什么是可能的

雖然已經存在許多用于對象檢測的訓練數據集，例如動物、水果或蔬菜，但對于許多用例，你需要從頭開始。Imagimob 的首席技術官兼聯合創始人 Alexander Samuelsson 指出了數據挑戰：“假設你需要為安全用例檢測槍聲。首先，你需要從不同的環境中獲得質量好的槍聲，然后你想要將這些聲音與不同的背景噪音疊加在一起，讓模型開始理解這種聲音的邊界。”

更大的模型和加速器

當被問及人工智能在邊緣的當前局限性時，Samuelsson回答說：“市場仍然是新的，人們正在試驗并試圖了解可以做什么。到目前為止，我們不得不幫助用戶解釋一下這項技術可以做什么，不可以做什么。

“例如，幾年前，一個慣性測量單元，因為它是一個低帶寬傳感器，是一個很好的起點。現在這些平臺，尤其是帶有加速器的平臺，變得越來越強大，所以可以做更高級的事情。”

雖然許多 tinyML 簡單的神經網絡模型可以在低功耗微控制器上運行，但毫無疑問，添加加速器會打開可能的用例并使用更大的模型。每個處理器創新周期都在不斷降低功耗，進一步擴大人工智能在邊緣的作用。

GreenWaves 的第二代處理器 GAP9 具有超低功耗規格，并集成了 DSP 和神經網絡加速器。Croome 解釋了添加 DSP 的原因：“在很多情況下，在將數據輸入神經網絡之前，需要對 [數據] 進行大量預處理。任何時間序列往往都需要更多的前期工作，比如編解碼器之類與人工智能無關但無論如何都需要的東西。”

Croome 承認用例的內存和處理注意事項，包括升級到功能更強大的 MCU 的潛在需求。“然后你可能會遇到成本或功率問題，”他說。“一般來說，固定的硬件會更有效率。存在靈活性與成本權衡。比如人聲檢測，放在麥克風里面就很明顯了。可能會占據很大一部分麥克風市場。你可以專門為此構建網絡并設計麥克風內部的控制器。然而，對于其他情況，它可能根本沒有意義，因為你想升級它、改變它或變得更靈活。”

推進邊緣 AI 所必需的下一個創新

超低功耗微控制器、AI/ML 開發平臺和神經網絡加速器取得的進步有助于擴展基于邊緣的 tinyML 應用程序的復雜性。但下一步是什么？需要哪些硬件創新來延續邊緣人工智能的發展步伐？

Imagimob 的 Hardebring 說：“我們認為技術已經在這里了，但我們認為市場需要接受更多教育。歸根結底，我認為技術在這里，芯片在這里，軟件在這里，但市場需要理解這一點。市場需要了解他們可以在邊緣做什么以及這樣做的優勢。”

Imagimob 的 Samuelsson 說，供應商在這里發揮了作用。“我認為，為了真正幫助我們的客戶投入生產，我們所有的公司，包括硬件和軟件，都需要非常、非常緊密地合作。”

邊緣人工智能成為常態

GreenWaves 的 Croome 強調了邊緣 AI 引人注目的用例日益多樣化。“在使用神經網絡進行電池管理方面有很多工作，這些神經網絡本質上是在了解電池、基于電池使用時間的電池壽命以及許多其他參數，”他指出。“這是另一種統計模型。”

邊緣人工智能將如何發展？“神經網絡將無處不在，”Croome 說。“他們將成為編程的一部分，一旦他們無處不在，他們就會變得越來越微不足道，因為這只是一件很正常的事情。”

電子行業無疑是創新的溫床。在短短四年內，我們見證了微控制器功能的進步，使邊緣 AI 成為可能。產品經理和開發人員已準備好將邊緣 AI 納入他們的下一個設計中，并在此過程中將這些技術確立為未來的規范。

審核編輯 ：李倩