（文章來源：EEWORLD）

如果你把人工智能和物聯(lián)網(wǎng)相結(jié)合，你會得到什么?AIoT是一個簡單的答案，但你也得到了一個巨大的微控制器的應(yīng)用新領(lǐng)域，這得益于神經(jīng)網(wǎng)絡(luò)技術(shù)的進步，意味著機器學(xué)習(xí)不再局限于超級計算機的世界。如今，智能手機應(yīng)用程序處理器可以執(zhí)行圖像處理、推薦引擎和其他復(fù)雜功能的人工智能推理。

我們將這種能力應(yīng)用到不起眼的微控制器中是一個巨大的機會。想象一下，我們可以使用人工智能過濾對話中的背景噪音的助聽器，也會有識別用戶面部并切換到其個性化設(shè)置的智能家電，這些以AI驅(qū)動的傳感器節(jié)點可以用最小的電池運行數(shù)年。這也在端點處理數(shù)據(jù)提供了不可忽視的延遲、安全和隱私優(yōu)勢。

然而，利用微控制器設(shè)備實現(xiàn)有意義的機器學(xué)習(xí)并非易事。例如，人工智能計算的一個關(guān)鍵標準——內(nèi)存，它經(jīng)常受到嚴重限制。但數(shù)據(jù)科學(xué)正在迅速發(fā)展，以縮小模型的尺寸，設(shè)備和IP供應(yīng)商正通過開發(fā)工具和整合為現(xiàn)代機器學(xué)習(xí)需求量身定制的功能來應(yīng)對。

作為該行業(yè)快速增長的一個標志，TinyML峰會正變得越來越強大。據(jù)組織者說，去年舉辦的首屆峰會有11家贊助公司，而今年的活動有27家，而且門票銷售時間也早得多。他們的全球設(shè)計師月度聚會的會員人數(shù)大幅增加。一批企業(yè)正在利用TinyML相關(guān)的技術(shù)與產(chǎn)品，探索如何在這些無處不在的小型設(shè)備上，更好的搭載機器學(xué)習(xí)，以便提高設(shè)備的分析能力和運行效率。

TinyML是不同技術(shù)領(lǐng)域和推動因素的交集，它位于物聯(lián)網(wǎng)設(shè)備、機器學(xué)習(xí)和邊緣計算之間的結(jié)合部，并因為多種驅(qū)動力的綜合作用，進展很快。

在TinyML 2020峰會上，英偉達、ARM、高通、谷歌、微軟、三星等公司紛紛展示了微型機器學(xué)習(xí)的最新成果。這是TinyML峰會的第二屆，這次他們得出了一些重要的結(jié)論：對于很多應(yīng)用場景，TinyML技術(shù)和硬件已經(jīng)進化到實用性較強的階段；無論是算法、網(wǎng)絡(luò)，還是低于100KB的ML模型，都取得了重大突破；視覺和音頻領(lǐng)域的低功耗需求快速增長。

何為TinyML？分布最廣的物聯(lián)網(wǎng)設(shè)備往往體積很小、電量有限。它們被作為終端硬件，通過嵌入式傳感器采集各種數(shù)據(jù)；計算能力有限，對功耗極為敏感。這類設(shè)備也能實現(xiàn)機器學(xué)習(xí)嗎？一個趨勢是，人工智能AI正在加快速度從“云端”走向“邊緣”，進入到越來越小的物聯(lián)網(wǎng)設(shè)備中。

在終端和邊緣側(cè)的微處理器上，實現(xiàn)的機器學(xué)習(xí)過程，被稱為微型機器學(xué)習(xí)，即TinyML。更準確的說，TinyML是指工程師們在mW功率范圍以下的設(shè)備上，實現(xiàn)機器學(xué)習(xí)的方法、工具和技術(shù)。

TinyML委員會聯(lián)合主席、高通的Evgeni Gousev在展會上表示：“我們看到了一個新世界，TinyML技術(shù)帶來了數(shù)以萬億計的智能設(shè)備，它們可以感知、分析和自主行動，為所有人創(chuàng)造一個更健康、更可持續(xù)的環(huán)境。” Gousev將這種增長歸因于更節(jié)能的硬件和算法的發(fā)展，以及更成熟的軟件工具的結(jié)合。他指出，企業(yè)和VC的投資正在增加，初創(chuàng)企業(yè)和并購活動也在增加。

如今，TinyML委員會相信這項技術(shù)已經(jīng)得到驗證，在微控制器中使用機器學(xué)習(xí)的初始產(chǎn)品將在2-3年內(nèi)上市。“殺手級應(yīng)用”預(yù)計將在3-5年內(nèi)問世。

去年春天，當(dāng)Google首次演示了用于微控制器的TensorFlow框架版本時，技術(shù)驗證的一個重要象征。微控制器的TensorFlow Lite被設(shè)計為在只有千字節(jié)內(nèi)存設(shè)備上運行(核心運行時在Arm Cortex M3上只有16 KB，并且有足夠的操作員運行語音關(guān)鍵字檢測模型，總共需要22 KB)。它只支持推理(不支持訓(xùn)練)。

大型微控制器制造商當(dāng)然正饒有興趣地關(guān)注著TinyML社區(qū)的發(fā)展。隨著研究使得神經(jīng)網(wǎng)絡(luò)模型越來越小，它們的機會也越來越大。大多數(shù)都支持機器學(xué)習(xí)應(yīng)用程序。例如，意法半導(dǎo)體有一個STM32Cube擴展包。是一個人工智能，使映射和運行神經(jīng)網(wǎng)絡(luò)在其STM32系列的Arm Cortex-M為基礎(chǔ)的微控制器。

瑞薩有自己的e-AI開發(fā)環(huán)境，允許在微控制器上實現(xiàn)AI推理。它有效地將模型轉(zhuǎn)換為一種在e2 studio中可用的形式，并與C/ c++項目兼容。e2 studio ISDE專為Synergy平臺而設(shè)計，并提供相關(guān)工具以用于軟件設(shè)計流程的三個階段：準備階段、構(gòu)建階段和調(diào)試階段。

對于準備階段，e2 studio配備用于硬件選項（包括MCU引腳分配）和軟件選項（如RTOS線程分配）的圖形配置器。內(nèi)置錯誤檢查功能可確保做出有效選擇，并在出現(xiàn)任何沖突或違規(guī)時通知用戶。e2 studio還提供設(shè)計用于簡化構(gòu)建階段的功能，如自動代碼生成、內(nèi)置代碼模板和自動代碼構(gòu)造。借助關(guān)鍵字彩色編碼、跳轉(zhuǎn)聲明、變量自動完成和上下文感知手冊，開發(fā)人員可以節(jié)省大量時間和投入。

對于調(diào)試階段，e2 studio提供多種方法來深入顯示代碼執(zhí)行情況。調(diào)試工具支持動態(tài)跟蹤線程執(zhí)行時間和中斷服務(wù)例程，并支持對整體系統(tǒng)行為進行可視化。全面調(diào)試和分析功能將簡化實時系統(tǒng)事件的故障診斷流程。NXP表示，有客戶使用其低端Kinetis和LPC MCU進行機器學(xué)習(xí)應(yīng)用。NXP盡管目前主要是圍繞其更大的應(yīng)用處理器和交叉處理器(在應(yīng)用處理器和微控制器之間)。但他們正在硬件和軟件解決方案上實現(xiàn)人工智能化。
（責(zé)任編輯：fqj）