AI 將允許開發人員實現更復雜的嵌入式系統行為，而新工具正在允許更多開發人員實現 AI。

作者：Richard Quinnell，AspenCore 全球總編輯

向某人詢問人工智能 (AI) 的應用——無論如何是技術人員——最有可能提到的兩個是亞馬遜的 Alexa 和自動駕駛汽車。巧合的是，這兩者也代表了實現人工智能的兩種最常見的方法。Alexa 以云為中心，它的幾乎所有處理都發生在遠離客廳那個圓柱體的某個地方的大型計算機集群上。另一方面，自動駕駛汽車的所有處理都在車內的大量 CPU 中完成。但是第三種方法正在興起，最近的創新提高了它的實用性。

第三種方法是在云中進行部分 AI 處理，而在使用點（即邊緣）的設備中進行另一部分處理。此細分遵循 AI 實施的兩個階段性質：學習和推理。學習階段，其中人工智能框架幫助開發神經網絡的結構和權重，需要大量的計算資源，因此發生在云中。推理階段，其中神經網絡處理輸入數據以做出決策和反應，可以用相當少的資源實現，因此可以在邊緣進行。

這種拆分方法有幾個好處。基于云的推理要求決策過程中使用的所有數據都必須通過網絡傳輸。這不僅需要大量帶寬，還會在決策和反應步驟中增加顯著的延遲。將推理引擎放置在邊緣可以減少這種延遲以及將原始數據傳輸到云的需要，從而緩解帶寬問題。而且由于邊緣設備不執行任何機器學習，它可以利用有限的資源——例如，使用微控制器而不是大型 CPU。這在使用時節省了成本和電力。

將 AI 應用程序的一部分處理放在邊緣有助于節省帶寬并減少延遲。（圖片：快速邏輯）

然而，無論使用何種方法，在應用程序中實施人工智能都需要相當多的專業知識。例如，有許多 AI 框架可供選擇，開發人員必須利用大量數據來訓練系統。推理引擎必須具有足夠的正確處理能力，以便在訓練后執行 AI 算法。訓練數據也需要經過深思熟慮，以避免訓練 AI 做出錯誤的推斷。例如，經過訓練以區分照片中的汽車和坦克的人工智能在現場失敗了，因為訓練數據集使用了在陽光直射的露天拍攝的汽車照片和在模糊和光線不足的條件下拍攝的坦克照片。推理引擎訓練基于照明差異而不是物體差異。

幸運的是，越來越多的創新工具和硬件進入市場，可以幫助開發人員應對所有這些挑戰。最近的一個例子來自 QuickLogic。該公司上個月推出了帶有 SensiML 數據分析工具包的Merced 硬件開發工具包(HDK)，供尋求將 AI 轉移到邊緣的開發人員使用。分析工具包可幫助非數據科學家或 AI 專家的開發人員自動選擇 AI 框架、訓練 AI 以及評估訓練數據。HDK 幫助開發人員提升邊緣設備的硬件設計，包括傳感器和 AI 加速 IP 集成。

最近，該公司與 SiFive 合作創建Freedom Aware SoC 模板系列，以進一步加速定制邊緣 AI 硬件設計。這些模板針對特定的邊緣 AI 應用程序領域，包括物聯網 (IoT)、始終在線的語音處理和預測性維護，提供預先測試的 IP 塊和工具，以減少開發時間和第一塊芯片的總成本。IP 塊包括 CPU 內核、傳感器接口、AI 加速器和電源管理。

隨著越來越多的此類工具可用，開發人員將越來越多地發現自己采用了一種新的嵌入式系統控制設計方法。開發人員將創建一個 AI 加速處理器，該處理器運行通過機器學習開發的推理算法，而不是傳統的處理器運行代碼來實現人為定義的算法。如果做得好，人工智能推理引擎將能夠處理過于復雜的任務，無法通過傳統的編碼方法實現經濟高效且可靠的實施。現在出現的創新工具將有助于讓 AI 新手更容易正確地做這件事。

本文是 AspenCore Media 深入研究邊緣 AI 應用的一部分，超越了吸引大量媒體的語音和視覺系統。如需進一步了解人工智能在語音和視覺之外的硬件、實現和影響，請查看特別項目中的其他文章：

人工智能會進入測試行業嗎？— 人工智能和機器學習正在逐步進入半導體測試領域，但尚未進入功能系統測試領域，至少目前還沒有。

人工智能如何改變邊緣計算的未來——雖然將人工智能與邊緣計算相結合是有意義的，但硬件和軟件組件需要解決幾個挑戰，包括功耗、處理能力、數據存儲和安全性。

硬件幫助將 AI 遷移到邊緣——將 AI 遷移到邊緣需要什么類型的處理能力？供應商提出了一系列答案。

人工智能使數據存儲更有效地進行分析——將數據轉化為智能需要分析。正如這個概念驗證演示所示，在存儲控制器中實施的 AI 可以大大加快分析速度。

連接性仍然是人工智能、機器學習工作負載主流化的核心——一場讓人工智能結果相關、可靠和隨時可用的競賽。只有那些在最好的機器/深度學習基礎設施上訓練過的人工智能模型，來自最大的數據集，才能生存下來。

審核編輯 黃昊宇