為了比競(jìng)爭(zhēng)對(duì)手更好地為目標(biāo)客戶服務(wù)，當(dāng)今的嵌入式設(shè)計(jì)團(tuán)隊(duì)正在研究機(jī)器學(xué)習(xí) （ML） 和深度學(xué)習(xí) （DL） 等新技術(shù)。ML 和 DL 使這些設(shè)計(jì)人員能夠以有限的資源更快地開發(fā)和部署復(fù)雜的機(jī)器和設(shè)備。借助這些技術(shù)，設(shè)計(jì)團(tuán)隊(duì)可以使用數(shù)據(jù)驅(qū)動(dòng)的方法構(gòu)建一個(gè)或多個(gè)系統(tǒng)的復(fù)雜模型。

ML 和 DL 算法不是使用基于物理的模型來(lái)描述系統(tǒng)的行為，而是從數(shù)據(jù)中推斷出系統(tǒng)的模型。當(dāng)要處理的數(shù)據(jù)量相對(duì)較小且問題的復(fù)雜性較低時(shí)，傳統(tǒng)的 ML 算法很有用。

但是對(duì)于更多數(shù)據(jù)的更大問題，比如自動(dòng)駕駛汽車呢？這一挑戰(zhàn)需要深度學(xué)習(xí)技術(shù)。這種新興技術(shù)將推動(dòng)我們進(jìn)入控制設(shè)計(jì)和工業(yè)物聯(lián)網(wǎng) （IIoT） 應(yīng)用的下一個(gè)時(shí)代。

機(jī)器學(xué)習(xí)在工業(yè)資產(chǎn)中的當(dāng)前應(yīng)用

首先，考慮機(jī)器學(xué)習(xí)技術(shù)在工業(yè)資產(chǎn)狀態(tài)監(jiān)測(cè)中的應(yīng)用。ML 幫助將基于條件的監(jiān)控應(yīng)用程序從反應(yīng)性和預(yù)防性維護(hù)時(shí)代轉(zhuǎn)變?yōu)轭A(yù)測(cè)性維護(hù)時(shí)代。這些技術(shù)被用于檢測(cè)異常行為、診斷問題，并在一定程度上預(yù)測(cè)電機(jī)、泵和渦輪機(jī)等工業(yè)資產(chǎn)的剩余使用壽命。

基于 ML 開發(fā)和部署模型的工作流程如圖 1 所示。

圖 1.使用機(jī)器學(xué)習(xí)的分析工作流程

了解如何使用此工作流程來(lái)監(jiān)控電機(jī)的運(yùn)行狀況。數(shù)據(jù)是從多種類型的傳感器收集的，例如加速度計(jì)、熱電偶和連接到電機(jī)的電流傳感器。特征工程步驟通常由兩部分組成：特征提取和特征縮減（圖 2）。

圖 2.特征工程

特征提取用于從原始數(shù)據(jù)（或波形）中獲取有用信息，以了解資產(chǎn)的健康狀況。例如，來(lái)自電機(jī)的電流信號(hào)的頻譜中嵌入了可用于檢測(cè)故障的信息，如圖 3 所示。頻譜中不同頻帶的平均幅度可以用作從當(dāng)前信號(hào)。從多個(gè)傳感器中提取的特征可能包含冗余信息。

圖 3.從電機(jī)電流信號(hào)中提取特征

可以使用諸如主成分分析 （PCA） 之類的特征減少方法來(lái)減少最終用于構(gòu)建模型的特征數(shù)量。減少特征的數(shù)量會(huì)降低要使用的 ML 模型的復(fù)雜性。減少的特征集表示為一個(gè)向量（或數(shù)組），并輸入到模型創(chuàng)建步驟中使用的 ML 算法中。

機(jī)器學(xué)習(xí)的類型

模型創(chuàng)建和驗(yàn)證是一個(gè)迭代過(guò)程，您可以通過(guò)該過(guò)程嘗試多種 ML 算法并選擇最適合您的應(yīng)用程序的算法。無(wú)監(jiān)督 ML 算法，例如高斯混合模型 （GMM），可用于對(duì)電機(jī)的正常行為進(jìn)行建模，并檢測(cè)電機(jī)何時(shí)開始偏離其基線。無(wú)監(jiān)督方法有利于發(fā)現(xiàn)數(shù)據(jù)中的隱藏模式，而無(wú)需標(biāo)記數(shù)據(jù)。

雖然無(wú)監(jiān)督技術(shù)可用于檢測(cè)電機(jī)異常，但需要有監(jiān)督算法來(lái)檢測(cè)異常原因。在監(jiān)督方法中，算法以輸入數(shù)據(jù)對(duì)和所需輸出的形式呈現(xiàn)。該數(shù)據(jù)稱為標(biāo)記數(shù)據(jù)。該算法學(xué)習(xí)將輸入映射到輸出的函數(shù)。用于訓(xùn)練 ML 算法的數(shù)據(jù)包括在正常和故障條件下提取的特征。使用表示電機(jī)狀態(tài)的標(biāo)簽清楚地識(shí)別這些特征。支持向量機(jī) （SVM）、邏輯回歸和人工神經(jīng)網(wǎng)絡(luò)是常用的監(jiān)督機(jī)器學(xué)習(xí)算法。

傳統(tǒng)機(jī)器學(xué)習(xí)技術(shù)的一個(gè)挑戰(zhàn)是特征提取過(guò)程。這是一個(gè)需要領(lǐng)域?qū)＜抑R(shí)的脆弱過(guò)程，通常是 ML 工作流程中的失敗點(diǎn)。

向深度學(xué)習(xí)工作流程邁進(jìn)

DL 算法最近受到歡迎，因?yàn)樗鼈兿藢?duì)特征工程步驟的需求。從傳感器獲取的數(shù)據(jù)（原始測(cè)量）可以直接輸入到 DL 算法中，如圖 4 所示。

圖 4.深度學(xué)習(xí)工作流程

深度學(xué)習(xí)算法基于人工神經(jīng)網(wǎng)絡(luò)。人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的靈感來(lái)自于生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和功能方面。這些算法以分層組織的一組互連的計(jì)算節(jié)點(diǎn)（人工神經(jīng)元）的形式構(gòu)成。第一層被稱為輸入層，它與輸入信號(hào)或數(shù)據(jù)接口。最后一層是輸出層，這一層的神經(jīng)元輸出最終的預(yù)測(cè)或決策。

在輸入層和輸出層之間，有一個(gè)或多個(gè)隱藏層（圖 5）。一層的輸出通過(guò)加權(quán)連接連接到下一層的節(jié)點(diǎn)。網(wǎng)絡(luò)通過(guò)修改這些權(quán)重來(lái)學(xué)習(xí)輸入和輸出之間的映射。通過(guò)使用多個(gè)隱藏層，DL 算法可以學(xué)習(xí)需要從輸入數(shù)據(jù)中提取的特征，而無(wú)需將特征顯式輸入到學(xué)習(xí)算法中。這被稱為“特征學(xué)習(xí)”。

圖 5.前饋人工神經(jīng)網(wǎng)絡(luò)

使用深度學(xué)習(xí)技術(shù)進(jìn)行設(shè)計(jì)

深度學(xué)習(xí)最近在 IIoT 應(yīng)用中取得成功，主要是因?yàn)榧夹g(shù)組件時(shí)代的到來(lái)，例如硬件計(jì)算能力的增強(qiáng)、標(biāo)記訓(xùn)練數(shù)據(jù)的大型存儲(chǔ)庫(kù)、學(xué)習(xí)算法和網(wǎng)絡(luò)初始化的突破，以及開源軟件框架的可用性。

以下是使用深度學(xué)習(xí)技術(shù)設(shè)計(jì)系統(tǒng)的一些主要考慮因素。

拓?fù)?/p>

DL 是一個(gè)不斷發(fā)展的領(lǐng)域，目前正在使用許多網(wǎng)絡(luò)拓?fù)洹Ｆ渲幸恍╋@示出控制和監(jiān)控 IIoT 應(yīng)用前景的網(wǎng)絡(luò)是：

深度神經(jīng)網(wǎng)絡(luò) （DNN）是具有許多隱藏層（因此很深）的完全連接的人工神經(jīng)網(wǎng)絡(luò)。這些網(wǎng)絡(luò)是出色的函數(shù)逼近器，例如，可用于電力電子控制應(yīng)用。

您嘗試控制的系統(tǒng)的仿真模型可用于使用深度網(wǎng)絡(luò)構(gòu)建控制器，以及生成訓(xùn)練數(shù)據(jù)。有了這個(gè)，您可以探索使用傳統(tǒng)方法通常難以控制的狀態(tài)（邊界/拐角條件）。

卷積神經(jīng)網(wǎng)絡(luò) （CNN）旨在利用輸入信號(hào)的二維結(jié)構(gòu)，例如輸入圖像或語(yǔ)音信號(hào)。卷積網(wǎng)絡(luò)由一個(gè)或多個(gè)卷積層（過(guò)濾層）組成，然后是一個(gè)全連接的多層神經(jīng)網(wǎng)絡(luò)。

這些網(wǎng)絡(luò)在成像缺陷檢測(cè)和物體識(shí)別等問題上取得了成功。它們還用于高級(jí)駕駛輔助系統(tǒng) （ADAS） 中的場(chǎng)景理解。

循環(huán)神經(jīng)網(wǎng)絡(luò) （RNN）基于利用順序（或歷史）信息進(jìn)行預(yù)測(cè)的算法。這些網(wǎng)絡(luò)非常適合時(shí)間序列分析。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)假設(shè)所有輸入（和輸出）在時(shí)間或到達(dá)順序上相互獨(dú)立。RNN 記錄狀態(tài)信息，其中存儲(chǔ)有關(guān)過(guò)去的信息，并使用到目前為止計(jì)算的信息進(jìn)行下一次預(yù)測(cè)。

在 IIoT 應(yīng)用中，RNN 有利于學(xué)習(xí)歷史行為并使用它來(lái)預(yù)測(cè)未來(lái)的事件，例如資產(chǎn)的剩余使用壽命 （RUL）。長(zhǎng)短期記憶 （LSTM） 網(wǎng)絡(luò)非常適合這類應(yīng)用。

深度強(qiáng)化學(xué)習(xí) （DRL）有利于設(shè)計(jì)在復(fù)雜動(dòng)態(tài)環(huán)境中運(yùn)行的自適應(yīng)控制系統(tǒng)。

考慮控制部署在倉(cāng)庫(kù)操作中的機(jī)器人，其中機(jī)器人必須動(dòng)態(tài)適應(yīng)新任務(wù)。基于強(qiáng)化學(xué)習(xí)的控制器通過(guò)執(zhí)行使他們更接近目標(biāo)的動(dòng)作而獲得的獎(jiǎng)勵(lì)來(lái)學(xué)習(xí)任務(wù)。例如，控制器從攝像頭接收顯示機(jī)器人手臂當(dāng)前位置的圖像，并使用圖像中的信息來(lái)學(xué)習(xí)如何將手臂移近目標(biāo)。可以使用機(jī)器人模擬器或通過(guò)觀察實(shí)際機(jī)器人的動(dòng)作來(lái)訓(xùn)練基于 DL 的控制器。

訓(xùn)練

DNN 需要大量訓(xùn)練數(shù)據(jù)，最好包括來(lái)自網(wǎng)絡(luò)需要學(xué)習(xí)的所有不同狀態(tài)或條件的數(shù)據(jù)。對(duì)于大多數(shù)應(yīng)用程序，可用數(shù)據(jù)主要來(lái)自系統(tǒng)的正常工作狀態(tài)，以及來(lái)自其他狀態(tài)的少量數(shù)據(jù)采樣。

數(shù)據(jù)增強(qiáng)是一種用于改善數(shù)據(jù)不平衡的技術(shù)，您可以從現(xiàn)有的小樣本集開始，并通過(guò)轉(zhuǎn)換數(shù)據(jù)來(lái)創(chuàng)建額外的合成版本。您還可以使用系統(tǒng)的模擬模型來(lái)創(chuàng)建訓(xùn)練數(shù)據(jù)。

另一個(gè)挑戰(zhàn)是難以收集訓(xùn)練這些網(wǎng)絡(luò)所需的大量數(shù)據(jù)。遷移學(xué)習(xí)是您可以用來(lái)緩解此問題的一種方法。使用遷移學(xué)習(xí)，您可以從預(yù)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)開始（大多數(shù) DL 軟件框架提供完全訓(xùn)練的模型，您可以下載）并使用應(yīng)用程序中的數(shù)據(jù)對(duì)其進(jìn)行微調(diào)。

硬件

訓(xùn)練深度網(wǎng)絡(luò)具有巨大的處理要求。GPU 已成為訓(xùn)練深度網(wǎng)絡(luò)的主要選擇。由于高計(jì)算性能、大內(nèi)存、高內(nèi)存帶寬和編程工具的選擇，GPU 很有吸引力，幾乎是訓(xùn)練的必需品。

此外，FPGA 是部署經(jīng)過(guò)訓(xùn)練的網(wǎng)絡(luò)的良好目標(biāo)。FPGA 提供更低的延遲、更好的電源效率和確定性，特別是用于將這些網(wǎng)絡(luò)部署在嵌入式設(shè)備上，用于在 I/O 的緊密循環(huán)中運(yùn)行的控制系統(tǒng)。

軟件

深度學(xué)習(xí)迅速采用和成功的一個(gè)原因是成熟軟件框架的可用性。一些常見的有 TensorFlow、Caffe、Keras 和計(jì)算網(wǎng)絡(luò)工具包 （CNTK）。這些框架支持不同的操作系統(tǒng)，如 Windows 和 Linux，以及 Python 和 C++ 等語(yǔ)言。這些框架中的大多數(shù)都具有實(shí)現(xiàn)最新 DL 網(wǎng)絡(luò)的支持或示例。它們還支持在 GPU 上學(xué)習(xí)。

深度學(xué)習(xí)：工業(yè)物聯(lián)網(wǎng)控制設(shè)計(jì)的新方向

DL 是人工智能中一個(gè)令人興奮的新方向，也是解決工業(yè)控制設(shè)計(jì)應(yīng)用中下一代問題的有前途的技術(shù)。

開始使用 DL 的一種快速方法是下載前面提到的一個(gè)開源框架并試驗(yàn)教程示例。從一個(gè)與您的應(yīng)用程序類似的示例開始，并使用遷移學(xué)習(xí)快速開始操作。

審核編輯：郭婷