本期我們分享主題是如何將 AI 模型部署到嵌入式系統中，下一期將介紹如何在 RT-Thread 操作系統上運行 Mnist Demo（手寫數字識別）。

嵌入式關聯 AI

AI落地一直是一個很紅火的前景和朝陽行業。我的好奇心也比較旺盛，所以關于任何嵌入式和 AI 相關的都是想嘗一嘗。本系列文章將帶你一步一步把 AI 模型部署在嵌入式平臺，移植到 RT-Thread 操作系統上，實現你從菜鳥到起飛的第一步甚至第 n 步！

開發環境：

后續開發過程將基于 STM32H743ZI-Nucleo 開發板，并且使用 STM32CubeMX.AI 工具。它可以基于訓練好的 AI Model （僅限 Keras/TF-Lite），自動生成嵌入式項目工程（包括但是不局限于 MDK、STM32CubeIDE 等）。該工具易于上手，適合嵌入式 AI 入門開發。

STM32CubeMX 是 ST 公司推出的一種自動創建單片機工程及初始化代碼的工具，適用于旗下所有 STM32 系列產品，現在其 AI 組件可以提供 AI 模型到嵌入式 C 代碼的轉換功能。

1. 準備工作

1.1 安裝開發環境

我是用的操作系統是 Ubuntu 18.04。本次實驗要用到如下開發工具，軟件的安裝過程很簡單，網上都有很成熟的教程，在此不再贅述。該篇教程同樣適用于 Windows 環境，實驗步驟完全相同。

STM32CubeMx

STM32CubeIDE

STM32CubeProgrammer

STM32CubeProgrammer 在 ubuntu 環境下使用可能會出現如下錯誤：

安裝好之后，在終端執行安裝包路徑下的bin文件夾下的執行文件，會報錯誤：找不到或無法加載主類 “com.st.app.Main”，這時候只要將 Ubuntu 默認的 Open-JDK 換成 Oracle JDK 就好了，下面是切換成 Oracle JDK 成功的截圖：

1# Oracle 官網中下載 JavaSE JDK 壓縮包

2$ sudo tar zxvf jdk-8u172-linux-x64.tar.gz -C /usr/lib/jvm

3# 將下載的JDK注冊到系統中

4$ sudo update-alternatives --install /usr/bin/java java /usr/lib/jvm/jdk1.8.0_172/bin/java 300

5# 切換JDK

6$ sudo update-alternatives --config java

7# 查看JDK 版本

8$ java -version

1.2 在 PC 端搭建極簡神經網絡

首先將如下開源倉庫克隆到本地：

Github： https://github.com/Lebhoryi/Edge_AI/tree/master/Project1

在本次實驗中我選擇了最簡單的一個線性回歸（ Linear Regression） Tensor Flow2 Demo 作為示例，模型相關源文件說明如下：

tf2_linear_regression.ipynb 內含三種不同方式搭建網絡結構

tf2_線性回歸_擴展.ipynb 內含不同方式訓練模型

其中，在模型搭建的時候，重新溫習了一下，有三種方式（各個方式的優缺點已經放在參考文章當中，感興趣的同學自行查閱）：

Sequence

函數式 API

子類

后面將 AI 模型導入到 CubeMx 的過程中，如果使用后兩種方式生成的網絡模型，將會遇到如下報錯：

1INVALID MODEL： Couldn‘t load Keras model /home/lebhoryi/RT-Thread/Edge_AI/Project1/keras_model.h5，

2error： Unknown layer： Functional

暫時的解決方式是采用Sequence 方式搭建神經網絡，訓練好的 AI Model 會被保存為 Keras 格式，后綴為 .h5，例如 keras_model.h5。示例模型我已經保存好了，大家可以直接下載該模型進行實驗，下載地址如下：https://github.com/Lebhoryi/Edge_AI/tree/master/Project1/model本次示例所訓練的神經網絡模型結構如下：

2. 使用 CubeMX AI 生成工程

在 CubeMX 中選擇 STM32H743ZI Nucleo 開發板，這里其實不限制開發板型號，常見的

2.1 打開 CubeMX

2.2 安裝 CUBE-AI 軟件包

打開菜單欄中的 Help，選擇 Embedded Software Packages Manager，然后在 STMicroelectronics 一欄中選擇 X-CUBE-AI 插件的最新版本，安裝好之后點擊右下角的 Close。

在工程中導入 X-CUBE-AI 插件：

會出現如下界面：

接下來選擇用于通信的串口，這里選擇串口 3，因為該串口被用于 STlink 的虛擬串口。

2.3 導入 AI 模型到工程中

將 AI 模型燒錄到開發板前，需要先分析 Model，檢查其是否可以被正常轉換為嵌入式工程，本次實驗使用的模型比較簡單，分析起來也也比較快，結果如下所示：

接下來我們要在開發板上驗證轉換后的嵌入式工程，在這個過程中 CubeMX AI 工具會根據你導入的 AI 模型，自動生成嵌入式工程，并且將編譯后的可執行文件燒錄到開發板中，并通過 STlink 的虛擬串口驗證運行的結果。我的系統是 Ubuntu，不支持 MDK，所以在這里選擇自動生成 STM32CubeIDE 工程。

驗證成功界面如下所示：

2.4 生成項目工程

上一步我們只是進行了項目結果的驗證，但是并沒有生成項目源代碼，接下來我們將生成項目工程，如下圖所示：

生成后的 Project 文件夾樹如下所示：

1（base） #（ 07/03/20@10:51上午 ）（ lebhoryi@RT-AI ）：~/RT-Thread/Edge_AI@master???

2 tree -L 2 。/Project1

3./Project1

4├── DNN # CubeMX 生成工程路徑

5│ ├── DNN.ioc # CubeMX 類型文件

6│ ├── Drivers

7│ ├── Inc

8│ ├── Middlewares

9│ ├── network_generate_report.txt

10│ ├── Src

11│ ├── Startup

12│ ├── STM32CubeIDE

13│ ├── STM32H743ZITX_FLASH.ld

14│ └── STM32H743ZITX_RAM.ld

15├── image # 相關圖片保存文件夾

16│ ├── mymodel1.png # model

17│ └── STM32H743.jpg # H743

18├── model # model 保存路徑

19│ └── keras_model.h5

20├── Readme.md

21├── tf2_linear_regression.ipynb

22└── tf2_線性回歸_擴展.ipynb

至此，神功練成了一大半，剩下的就是代碼調試的工作了。

3. 代碼調試

關于 STM32CubeIDE 的初步認識：基礎說明與開發流程：https://blog.csdn.net/Naisu_kun/article/details/95935283

3.1 導入工程

選擇 File 選項 --》 import：

選擇先前導出工程的路徑：

導入成功的界面如下所示：

接下來就可以使用 STM32Cube IDE 來調試生成的工程了。

3.2 生成 bin 文件

在編譯的過程中還會自動生成相應的 bin 文件，后續可以通過 stm32cubeProgramer 工具將 bin 文件燒錄到開發板中。

3.3 燒錄 .bin 文件

打開STM32CubeProgramming，點擊右上角connect，然后選擇Open file，選擇要打開的.bin 文件。

燒錄成功的界面：

3.4 Other

在 ubuntu 系統中我們可以使用串口工具cutecom 來查看最終程序的運行結果，程序運行結果如下：

在使用 cutecom 連接串口前，記得斷開 STM32Programer 和開發板的連接，否則會出現串口打開錯誤的情況。

? ? ? ?責任編輯:pj