TinyML是世界上最新的深度學習和人工智能技術。它增強了微控制器中運行機器學習模型的能力。

微控制器是我們幾乎每天使用的許多設備的大腦，從電視遙控器到電梯再到智能音箱，它們無處不在。它連接了多個傳感器、執行器（如開關和電機）。同時它擁有計算能力，可以執行嵌入式代碼，從傳感器中獲取數據并控制執行器。

TinyML的興起標志著終端用戶享受人工智能方式的重大轉變。來自硬件和軟件行業的供應商正在合作將人工智能模型引入微控制器。

在電子設備中運行復雜的深度學習模型的能力開辟了許多途徑。TinyML不需要邊緣、云或互聯網連接。它在同一個微控制器上進行本地運行，可以進行傳感器和執行器的邏輯管理。

TinyML的演變

為了看到TinyML的力量，我們需要了解AI在云端和邊緣的演變。

第一階段-云計算中的人工智能

在人工智能早期，機器學習模型是在云中訓練和托管的。運行人工智能所需的巨大計算能力使云計算成為理想。開發人員和數據科學家利用高端CPU和GPU來訓練模型，然后利用它們進行推理。每一個使用人工智能的應用都與云通信，最終與微控制器通信來管理傳感器和執行器。

第二階段-邊緣AI

雖然云仍然是人工智能的主要發源地，但它卻同時引入了延遲。想象一下，每次與智能揚聲器通話時，都需要云處理。往返通信中的延誤扼殺了體驗。其他場景，如工業自動化、智能醫療、聯網車輛等，都要求人工智能模型在本地運行。

邊緣計算是云和本地物聯網設備之間的管道，成為本地托管人工智能模型的理想選擇。在邊緣運行的人工智能不會受到延遲的影響。

但鑒于邊緣資源有限，訓練和再訓練模式仍然需要云。經過訓練的模型可以托管在邊緣進行推理（即使用機器學習模型的過程），但不能用于訓練。因此，在云中訓練模型并將其部署到邊緣變得很常見。這種方法提供了最好的兩個世界-一個強大的用于訓練的計算環境（云）和一個用于推理的低延遲托管環境（邊緣端）。

第三階段-微控制器中的人工智能

雖然在邊緣運行AI對于許多用例來說是一個完美的解決方案，但是在某些情況下部署邊緣計算層是不實際的。例如，將智能音箱和遙控器等消費類設備連接到一個邊緣上就太過分了。它增加了設備的總擁有成本和供應商的支持成本。但這些消費設備實實在在是人工智能發展的溫床。

在工業場景中，預測性維護正成為設備的重要組成部分。昂貴的機器和設備需要嵌入機器學習模型來實時檢測異常情況，以提供預測性維護。通過主動檢測故障，客戶可以節省數百萬美元的維護成本。

將人工智能直接嵌入微控制器成為消費者和工業物聯網場景的關鍵。這種方法不依賴于外部應用程序、邊緣計算層或云。人工智能模型運行的同時，將嵌入式代碼導入微控制器。它成為整體邏輯的一個組成部分，提供無與倫比的速度。

傳統上，機器學習模型總是部署在資源豐富的環境中。由于TinyML模型可以嵌入到微控制器中，所以它們不是資源密集型的。這種方法是將人工智能注入到物聯網設備的最有效和最具成本效益的方法。

TinyML的生態系統

雖然TinyML還處于初級階段，但它的生態系統正在形成。芯片和物聯網套件制造商，如Adafruit、聯發科、Arduino和ST都在其設備中支持TinyML。微軟的Azure Sphere認證的安全微控制器，也可以運行TinyML模型。Tensor Flow Lite是流行的開源深度學習框架的延伸，可以移植到支持的設備上。另一個開源機器學習編譯器Apache TVM也可以用來將模型轉換成TinyML。

新興的AutoML和TinyML平臺，如Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo正在構建工具和開發環境，以簡化微控制器的訓練和優化模型過程。

TinyML使人工智能無處不在，并為消費者所接受。它將為我們每天使用的數以百萬計的設備帶來人工智能元素。
責任編輯人：CC