人工智能（Artificial Intelligence，AI）是一門讓機器進行感知、理解、推理和學習的技術，核心的實現方式是機器學習或深度學習，即利用大量數據訓練模型，使其對圖像、語音、文字、傳感器信號等輸入數據做出準確的判斷和預測。AI的推理可以在云端服務器、邊緣節點或終端設備上完成，不同的部署部位決定了系統的時延、隱私性、帶寬、功耗等關鍵特性。

1.什么是AIoT

AIoT（Artificial Intelligence of Things）是AI與物聯網（IoT）的結合，通過將AI技術應用于IoT設備和系統，AIoT實現了更智能、更高效的自動化解決方案。AIoT中主要的AI技術包括端側AI與邊緣AI。

端側AI直接在設備內部進行AI計算，例如手機、攝像頭、手表等。這種方法能夠讓設備自主完成數據處理，不必依賴云端或邊緣節點進行數據分析和反饋。端側AI在數據源處直接處理數據，能夠顯著降低延遲，具有快速響應能力，這對于實時性要求較高的應用領域，如智能家居、智能健康、智慧城市等，具有重大意義。

邊緣AI則是將模型推理放在靠近數據源的網絡邊緣節點上進行，如邊緣服務器、智能路由器、工業計算機等，這些節點擁有比單個設備更強的算力。邊緣設備通常采用MPU或專用AI加速硬件，能夠處理更復雜的任務，如深度學習模型的訓練和推理。通過在邊緣進行數據處理，邊緣AI能夠有效降低中心服務器的負擔，并減少從設備到云端的數據傳輸量，這對于處理大量數據流的應用至關重要。

2.TinyML：驅動AIoT發展的核心力量

Tiny Machine Learning，即TinyML，是將機器學習（Machine Learning，ML）或深度學習（Deep Learning，DL）模型壓縮后，能夠部署在MCU/MPU中完成推理的技術。TinyML模型體積極小，量級通常在KB到MB之間；功耗低，通常為毫瓦（mW）量級甚至更低；實時性強，推理時延大概在毫秒（ms）級別。不依賴網絡連接，數據在本地設備中完成感知、推理和決策。

TinyML的以上特性解決了傳統云端AI的實時性差、功耗大、網絡依賴等痛點，將AI模型搬進每一臺微型終端中，驅動AIoT的發展。

3.MCU/MPU：

驅動AIoT運行的核心硬件

在AIoT中，MCU和MPU具有不同的應用場景和功能，這源于MCU和MPU在設計和資源配置上的差異。

MCU在AIoT中主要應用場景為端側AI。由于端側AI在源頭轉換數據，因此可以將延遲降到最低，優化對時間敏感應用的處理，同時減少了數據傳輸與網絡運營成本，提高能源與成本效率。端側AI減弱了網絡依賴性，因此最大程度減少了數據和流動相關的安全隱患，將設備上數據處理與硬件信任根緊密耦合，提高了數據隱私性和安全性。

MPU因其強大計算能力、支持多任務處理能力、實時數據處理和分析能力，在端側AI和邊緣AI中均有應用。邊緣AI的處理對象統一于實時信號。普遍認可邊緣AI的三類處理對象包括圖像數據、聲音數據和實時信號數據，在圖像處理、音頻分析、工業自動化等領域有著廣泛應用。

4.瑞薩電子助力AIoT設計

瑞薩電子為AI/ML開發人員提供了一個綜合解決方案堆棧。豐富的產品系列涵蓋IoT的方方面面，包括感知、連接、計算和執行功能。此外，特別開發的軟件、工具、解決方案以及合作伙伴生態系統，為您的AIoT設計提供加速助力。

MCU：

RA8P1系列MCU搭載高性能ArmCortex-M85，支持Helium矢量擴展，集成了Ethos-U55 NPU，單芯片可實現0.25TOPS的AI算力和超過7300CoreMarks的CPU性能。

RA8P1 - 1GHz Arm Cortex-M85 and Ethos-U55 NPU Based AI Microcontroller | Renesas

https://www.renesas.com/en/products/ra8p1?queryID=fe74bb5e81f8206cab25772dc6991d33

MPU：

RZ/V系列MPU內置瑞薩電子獨家AI加速器“DRP（Dynamically Reconfigurable Processor)-AI” ，兼具高AI推理性能和低功耗特性，具有從0.5到 80TOPS的廣泛擴展性，為各種AI應用提供高附加值。

RZ/V Embedded AI MPUs | Renesas

https://www.renesas.com/en/products/microcontrollers-microprocessors/rz-mpus/rzv-embedded-ai-mpus?queryID=63e387e407c81a3bad0eb6912187c7d7

AI/ML軟件：

1Reality AI tools

Reality AI tools可以幫助用戶基于高級信號處理生成和構建TinyML/Edge AI模型。用戶可以自動探索傳感器數據并生成優化模型。

Reality AI tools全面兼容瑞薩MCU/MPU平臺，自動生成高效且小巧的機器學習模型，并利用云計算為嵌入式傳感器開發代碼，廣泛應用于新能源、家電和工業物聯網領域。

Reality AI Tools | Renesas

https://www.renesas.com/en/software-tool/reality-ai-tools?queryID=458325da3e744dded8b0ef38ed73fe82

圖1.Reality AI工作流程

2RUHMI

瑞薩電子RUHMI（Robust Unified Heterogenous Model Integration）框架是一款集成了嵌入式人工智能編譯器和e2studio的人工智能工具，全面支持RA8P1系列MCU，充分適配Ethos U55，提供圖形化界面和命令行接口，可在幾分鐘內生成高度優化的模型，并在瑞薩電子嵌入式處理器上高效運行。

RUHMI Framework | Renesas

https://www.renesas.com/en/software-tool/ruhmi-framework?queryID=e27b42a4accd8b7bd18276ecb8838516

圖2.RUHMI工作流程

3e-AI

e-AI全面支持瑞薩MCU/MPU平臺，能夠將 PyTorch、Keras、TensorFlow的已訓練模型，或TensorFlow Lite的8位量化模型，轉換后輕松導入到e2studio（Renesas的集成開發環境）中，適用于能夠在終端設備上運行相對小規模的AI應用。

e-AI Solution | Renesas

https://www.renesas.com/en/key-technologies/artificial-intelligence/e-ai?queryID=271da70f00e035e0c36fa579e201ef36

圖3.e-AI工作流程

e-AI Translator將Pytorch與TensorFlow等開源機器學習/深度學習框架中已訓練好的AI網絡轉換為MCU/MPU開發環境可使用的格式；e-AI Checker 基于e-AI Translator的輸出結果，并參考所選MCU/MP的信息，計算ROM/RAM的占用大小以及推理執行的處理時間。

4DRP-AI Translator

DRP?AI Translator是一款能夠從已訓練的AI模型（ONNX格式）生成可在Renesas RZ/V系列MPU上運行的目標代碼的工具，通過對已訓練的AI模型的計算圖結構進行優化，并采用FP16和int8量化，能夠最大限度降低內存訪問次數，實現高效、快速的AI推理處理。用戶也可以根據實際工程需求添加前處理或后處理，例如歸一化、尺寸調整等，這些前后處理工作也由DRP以高速方式完成。

AI Tool：DRP-AI Translator | Renesas

https://www.renesas.com/en/key-technologies/artificial-intelligence/ai-tool-drp-ai-translator?queryID=13ef7a96004c7a5bc54c1659288f1260

圖4.DRP-AI Translator工作流程

只需在Linux PC上指定ONNX文件并運行DRP?AI Translator，即可輕松生成可直接在評估板上實現的目標代碼。

5DRP-AI TVM

Apache TVM是Apache軟件基金會（ASF）旗下的開源項目，致力于建設一個由機器學習、編譯器與系統架構領域的專家和從業者組成的多元化社區。TVM是一個可訪問、可擴展及自動化的開源框架，為任意硬件平臺優化當前和新興的機器學習模型。

DRP?AI?TVM通過將DRP?AI Translator嵌入 Apache?TVM開源深度學習編譯器框架，實現了從已訓練的AI模型生成面向Renesas RZ/V系列MPU的運行時可執行文件的功能。

當模型層能夠被DRP?AI Translator成功轉換時，這些層將在DRP?AI硬件加速器上執行；對于未能轉換的層，系統會自動將其調度至CPU處理，因而能夠兼容并支持更豐富的模型結構。

AI Tool: DRP-AI TVM | Renesas

https://www.renesas.com/en/key-technologies/artificial-intelligence/ai-tool-drp-ai-tvm?queryID=cc0df44f133b095434271a20dcfc9d77

圖5.DRP-AI TVM工作流程

5.總結

AIoT將AI推理搬到物聯網終端或邊緣節點，實現低時延、低功耗和高隱私的智能化應用。TinyML通過模型壓縮，使AI模型在資源受限的MCU上本地運行；而MPU搭配專用加速器（如DRP?AI）則提供更強算力，支持邊緣AI的復雜任務。瑞薩電子提供從MCU/MPU到完整的開發工具鏈（Reality AI、RUHMI、e?AI、DRP?AI Translator/TVM），幫助用戶快速完成AIoT方案的感知、模型生成、編譯和部署。簡言之，AIoT+TinyML+瑞薩全棧生態，實現了端側和邊緣智能的高效落地。