智能邊緣設備的大量涌現已從根本上改變了人與機器間的交互。智能設備可豐富用戶體驗，自動化日常工作，增強流程和工作流程，提高企業生產力，促進商業生產力和業務增長，并提高人類社會的整體幸福感。促成這些變化的一項基本技術是邊緣機器學習（ML）。通過將推理工作負載置于邊緣，可針對處理和電源資源有限的環境簡化并優化機器學習實現。邊緣機器學習使智能更貼近終端設備，從而實現更快速更可靠的決策制定，同時維護數據安全與隱私。

ABI Research預測，2021年至2026年，具有邊緣機器學習功能的設備出貨量將以24.5%的平均復合增長率（CAGR）增長。開發人員深知該市場潛力，都希望能夠利用該技術，但在開發模型和產品時卻面臨著各種挑戰。值得慶幸的是，他們可以從不同邊緣機器學習解決方案提供商那里選擇適合自己的組件。

本白皮書概述了開發人員在為其邊緣機器學習項目選擇最佳處理解決方案時需要考慮的關鍵因素，即定制的處理性能、更高的能源效率、易于使用的開發環境、增強安全和廣泛的生態系統。關注這五個因素將有助于開發人員進行邊緣機器學習設計、開發和部署，并使其能夠抓住邊緣機器學習市場的增長機會。

邊緣機器學習和智能邊緣的興起

基于云的人工智能（AI）的普及已經徹底改變了許多企業的決策制定過程。通過利用物聯網（IoT）的進步，企業實現了資產、工具和設備與云端數據采集平臺互連。利用這些平臺，企業可收集實時數據進行分析，以更好地了解其運營，同時發現實現進一步優化、安全和自動化的機會。因此，基于云的人工智能已成為實現工作流程自動化和提高運營效率的關鍵工具。

多年來，互聯設備的使用呈爆炸式增長，全球物聯網連接總量從2014年的10億增長至2021年的86億，達到35.4%。

圖表1 ：全球物聯網連接以及數據和分析服務收入：2014至2021

邊緣互聯時代使人們對從這些設備提取數據并實時理解這些數據產生了強烈需求。企業開始采用基于云的人工智能服務和物聯網管理平臺，如實時數據流、采集和存儲、基于人工智能的數據分析以及描述性和預測性維護。

一般而言，人工智能主要有兩種類型，即基于規則的人工智能和基于機器學習的人工智能。

基于規則的人工智能模型為自動化決策制定系統，基于人類專家知識構建而成。雖然這些人工智能系統可提供確定性輸出，但它們受限于人類知識水平。隨著企業開始采集更多數據，它們希望能夠了解所收集數據的含義，確定其環境并得出見解。然而，基于規則的人工智能模型并不是交付數據驅動型見解的理想選擇。

另一方面，基于機器學習的人工智能模型可實現這一功能。機器學習模型可基于其分析的數據得出見解。同時，此類模型還可以在數據分析過程中自動學習并提高自己的準確性。近幾年，一種基于深度神經網絡（DNN）的機器學習技術越來越受歡迎，即深度學習（DL）。深度學習模型的目標是通過特征工程對大量數據進行多層處理，以識別其模式，優化決策制定并獲得更準確的預測。

在機器學習開發的早期階段，機器學習開發人員將所有模型（包括訓練和推理工作負載）托管在云中，以便利用云計算的可擴展性、靈活性和成本效益。當時的機器學習模型規模龐大，不適合部署在邊緣設備上。盡管基于云的人工智能可提供數據驅動型見解，但該技術也面臨幾個根本的局限性 ：

連接

云人工智能需要持續的連接。云連接的丟失成為基于云的人工智能的單一故障點。企業需要在電信基礎設施方面投入更多資源，以保持邊緣設備的云連接。

用戶體驗

云端處理需要一系列操作，首先將數據發送到云，對數據進行修剪和處理，然后生成響應。這一系列操作會引起延遲，因為完成整個流程需要時間，從而導致糟糕的用戶體驗。

數據安全和隱私

基于云的人工智能要求在云中發送和處理所有數據。因此，基于云的人工智能成為許多用戶的關鍵和敏感信息存儲庫，從而成為黑客的攻擊目標。此外，與單個邊緣設備攻擊相比，惡意分子只要投入足夠的時間和精力，就可以訪問并操控云中的更多數據。

在了解基于云的人工智能面臨的挑戰后，機器學習開發人員社區開始采用新方法。他們通過智能邊緣讓智能更貼近終端設備。

智能邊緣可將數據處理和機器學習推理工作負載轉移到整套傳感器和邊緣設備中。利用設備端推理功能，設備可以收集實時數據點，處理數據，并生成數據驅動型輸出，同時盡可能減少延遲。其目標是利用關鍵任務數據進行實時預測，包括機器視覺、語音識別、生物識別和異常檢測。

此外，在邊緣對原始數據進行預處理意味著設備無需依賴持續的云連接。如今，以移動為中心的設備（如自動移動機器人、無人機、機器人出租車和自動消費車）具備設備端機器學習功能，且無需以太網連接或無處不在的無線連接。此外，由于邊緣設備可處理原始數據，這些潛在的隱私關鍵型敏感數據不會再被發送到云端。這樣一來，企業就可以將網絡安全風險降至最低，并遵守消費者數據隱私要求。

盡管機器學習具有一定優勢，但智能邊緣的機器學習仍取決于設備和用例。為提供更全面的無縫用戶體驗，邊緣設備需要具備環境感知功能。環境感知邊緣設備允許同一環境下的設備進行通信和交互，并根據這些交互做出決策和預測。通過在這些設備中使用復雜的機器學習模型，未來的用例（如本地環境個性化、熄燈工廠以及遠程患者診斷和護理）將開始逐一實現。

盡管如此，在環境感知邊緣成為主流之前，行業仍需克服幾大障礙。

環境感知邊緣設備需要設備間無縫通信網絡和實時信息交換。

這些設備需要運行高級模型，即多模態學習模型。這些模型通常需要密集型計算能力，以處理和協調來自多個傳感器的輸入，包括圖像、音頻、溫度、壓力和振動數據。

許多開發人員尚未在其產品中實現邊緣機器學習。

因此，業界迫切需要穩定且易于使用的工具，以幫助機器學習開發人員更加熟悉環境感知邊緣，并推動創建高度創新型開發人員社區。盡管邊緣機器學習行業距離環境感知邊緣仍有很長的一段路要走，但隨著邊緣機器學習的快速普及，實現環境感知邊緣將指日可待。

邊緣機器學習成功的關鍵因素

邊緣機器學習時代已真正到來。ABI Research預測，2021年至2026年，具有邊緣機器學習功能的設備出貨量將以24.5%的CAGR增長。越來越多的技術供應商和公司開始投入大量資源來開發邊緣機器學習解決方案和用例。與具有標準化服務器和處理器的云環境不同，邊緣機器學習是一個多樣化市場，涵蓋了廣泛的垂直領域、設備外形、處理能力和用例。

圖表2表明，消費電子設備（智能手機、游戲機、可穿戴設備和智能家居設備）是最大的邊緣機器學習市場，占整個市場份額的85%。然而，雖然消費電子應用仍對邊緣機器學習的開發和創新具有高度影響，但越來越多的供應商開始尋求該垂直領域之外的發展機會。越來越多的供應商開始針對汽車、農業、健康保健、工業和制造業、零售、機器人、智能樓宇、智慧城市、交通、物流和公用事業等特定垂直領域提供相應解決方案。從2022年起，這些垂直領域對邊緣機器學習的需求預計將呈指數級增長。

通過具體了解幾個主要垂直領域，我們發現邊緣機器學習的重要性十分明顯 ：

汽車

汽車應用一直都是邊緣機器學習開發的主要驅動因素。技術供應商競相推出針對高級駕駛輔助（ADAS）和自動駕駛的硬件、軟件和服務。關鍵用例包括自適應巡航控制、同步定位與建圖（SLAM）、駕駛員監測、橫向和縱向輔助、夜視、個性化原始設備制造商（OEM）嵌入式信息娛樂系統以及無人出租車。

雖然目前市面上的大部分車輛都處于ADAS L0和L1水平，但預計汽車市場將經歷快速變化。目前奧迪、福特、通用和特斯拉等新車普遍采用L2自動駕駛技術。開發人員正在努力實現L3和L4，早期的L5車輛將在2025年測試和發布。ABI Research預測，2021年至2026年，具有邊緣機器學習功能的汽車出貨量將增加4.5倍。

商用

邊緣機器學習普及的最明顯跡象就是邊緣機器學習設備在商業領域的涌現。ABI Research預測，未來五年，零售、智能樓宇以及交通物流領域的邊緣機器學習設備出貨量將分別增長2倍、4倍和1.7倍。

零售商開始逐漸部署面向智能付款臺、庫存監控和倉庫執行的自動解決方案。如今，商業樓宇配備了各種樓宇自動化系統，這些系統利用智能傳感器和攝像頭進行占位檢測、溫度調節以及確保安全。交通物流公司開始在重型機械和基礎設施中部署智能傳感系統。例如 ：卡車和鐵路運輸服務提供商可執行設備管理和預測性維護，而倉儲服務提供商則可以在其存儲設施中實施簡單的貨盤計數和環境控制。

健康保健

與其他垂直行業相比，健康保健機構在采用人工智能方面的進展比較緩慢。進展緩慢的主要原因包括嚴格的法規、屬于風險規避領域，以及優先確保高準確性和高精度的要求。因此，在可預測的未來，健康保健并不是邊緣機器學習市場的重要組成部分。

盡管如此，由于其基數較低，具有邊緣機器學習能力的健康保健設備出貨量預計在未來五年將實現6倍增長。COVID-19疫情進一步表明，健康保健是最迫切需要采用邊緣機器學習解決方案的領域之一。隨著智能醫院的出現，具有邊緣機器學習能力的醫療設備可以安全可靠地實現一些關鍵工作負載，包括患者監護和篩查、臨床診斷、個性化治療、用藥處方、遠程醫療等。醫院現在可以通過智能設備的操作洞察力來增強醫務人員的知識，從而有效地管理其資源、人員和能力。

工業

農業、石油和天然氣以及制造業的工業企業都使用邊緣機器學習來實現整體效率的提升、缺陷檢查、預測性維護、工作場所安全管理和自動物料處理。近期的工廠資產數字化也側重于流程自動化、遠程工廠車間操作以及靈活的基礎設施維護和升級。自動移動機器人和叉車中也部署了基于機器學習的機器視覺，以實現定位和導航、物品分揀、分類和分割。

鑒于這些數據對生產和工作流程的敏感性和關鍵性，工業和制造業公司對公布的數據非常謹慎。因此促進了他們在工作場所廣泛采用邊緣機器學習設備和服務器。由于起始基數小，具有邊緣機器學習能力的工業設備出貨量預計在未來五年將實現20倍增長。

公共基礎設施

公共基礎設施是指部署在智慧城市中的邊緣機器學習設備。數十年來，城市一直面臨著擁堵、污染和安全等挑戰。因此，許多城市都在積極探索邊緣機器學習能力。例如 ：智能交通管理、自動駕駛車輛、行人流量監測和管理、物理和周邊安全以及預防性威脅檢測等應用都部署了具有深度學習模型的智能攝像頭，以實現決策制定的自動化和增強。

與此同時，智能傳感器已被嵌入各種公共資產和基礎設施中，以收集信息，并提供公共場所的洞見，從而創建可持續的彈性城市。因此，預計2021年至2026年的出貨量將翻倍。

為有效地應對上述邊緣設備和用例的多樣性，機器學習開發人員需要擁有數據操作、機器學習工程、嵌入式系統設計以及邊緣機器學習硬件和軟件方面的大量專業知識。然而，并非所有開發人員都具備成功實施邊緣機器學習項目所需的知識。同時，邊緣機器學習應用必須得到最優機器學習硬件的支持，以實現成本、性能和能效之間的適當平衡。最后，如果沒有來自邊緣機器學習處理器供應商的重要貢獻，邊緣機器學習的市場滲透將是有限的。

芯片供應商應組合必要的工具，以幫助整個開發人員生態系統克服這些限制，特別是針對機器學習開發人 員。近年來邊緣機器學習處理器供應商針對推動邊緣機器普及的五個關鍵因素推出了一些創新解決方案： 處理性能、能效、開發環境、增強安全以及供應商生態系統。

閱讀完整研究報告

在本研究報告接下來的章節中，將詳細分析推動邊緣機器學習普及的五個關鍵因素，并對未來的前景進行展望，主要的內容包括：

定制的處理能力

更高的能源效率

易于使用的開發環境

增強安全

大型生態系統

邊緣機器學習的普及

原文標題：邊緣機器學習的大眾時代：讀懂AI，這份研究報告值得反復研讀（內附下載鏈接）

文章出處：【微信公眾號：NXP客棧】歡迎添加關注！文章轉載請注明出處。