作者：Arm 架構與技術部安全設備生態系統總監 David Maidment

從今年四月德國 embedded world 展會上的主題就不難看出，邊緣人工智能 (AI) 及物聯網中關于 AI 應用程序的持續發展成為了熱議話題。

目前的互連設備總量已達到數十億，其中許多都具有先進 AI 計算的需求，這一數字預計到 2030 年將翻倍，達到 300 億[1]。與此同時，AI 推理也將呈指數級增長（該推理是指利用經訓練的模型對新的現實世界數據進行預測或決策的過程），這將導致數十億個獨立端側設備上處理的個人數據量達到前所未有的量級，而每個終端設備的數據都需要被保護。

雖然存在計算和安全性的挑戰，但整個技術行業已達成共識 —— 盡可能在邊緣（設備）或本地服務器上進行數據處理。這將為企業和用戶帶來以下優勢：

更低延遲：邊緣 AI 減少了一切都要在云端處理的需求，這對于汽車和工業物聯網等安全優先型的應用而言尤為重要，因為計算處理的延遲可能會導致潛在的毀滅性后果。

更高可靠性：邊緣 AI 消除或減少了對集中式云端往返連接的依賴。

更低成本：在保持高帶寬連接的前提下，在云端與邊緣側間來回傳輸大量數據的成本，要比直接在邊緣側處理少量數據更高。

更高隱私性：邊緣 AI 意味著個人數據可以保留在設備上，能更好地對數據訪問者進行管控。

更強安全性：邊緣 AI 代表著對云端的擴展，而在邊緣設備的整個生命周期內，必須確保遵守新出臺的網絡法規，例如 EU-CRA、NIST 和 UK-PSTI 法案。

為了滿足大規模部署 AI 的需求，邊緣計算必需不斷發展。而“邊緣計算的持續發展”促進了對硬件和軟件異構性、順暢開發和規模化安全性三方面的需求。這三方面又將為重要的計算趨勢提供支持，從而使整個技術生態系統受益，包括“與云類似”的開發方法、模塊化軟件、廣泛的協作，以及消除不必要的碎片化風險。

邊緣側的硬件和軟件異構性

邊緣 AI 的計算要求會因不同用例而異。有些應用程序經過調式以實現最低功耗，例如延長電池續航時間，而其他應用程序則需要大量的計算來支持密集型工作負載。積極采納底層硬件和軟件工作負載的異構性至關重要。Arm 架構作為全球最多樣化、普及性最高和安全性的代表，被廣泛應用于各種邊緣設備和不同用例中，可說是硬件異構性的基礎。這對開發者而言尤為重要，因為應用程序能夠訪問盡可能廣泛的硬件是他們所希望的。此外，這還能支持開發者針對特定的 AI 用例選出最佳解決方案。

擁抱這種異構性就需要模塊化軟件，以便盡可能跨不同供應商的不同硬件平臺進行無縫運行。目前面臨的挑戰在于，在很多情況下，互連設備都帶有各供應商特有的定制軟件層，而這些軟件層在長達數十年的部署過程中需要持續進行維護和更新。這種特定供應商的做法會導致高昂的管理成本，并帶來安全漏洞。通過采用模塊化軟件，供應商可以專注于差異化和增值，并通過重復使用標準軟件組件（例如主流操作系統和底層固件）來優化設備維護成本。

順暢開發

盡可能復用軟件是邊緣 AI 順暢開發的一大關鍵。無需從頭開始為單個互連設備創建新軟件，取而代之的是，在整個生態系統中復用軟件，從而加快服務的部署和擴展。這種方式是 SOAFEE 項目的一個主要目標，SOAFEE 是由 Arm 牽頭發起且由行業主導的協作項目，它涵蓋了整個汽車生態系統和價值鏈，旨在為大規模軟件復用提供基于標準的一致性框架。雖然針對的是汽車行業，但軟件定義汽車 (SDV) 本質上是面向互連的邊緣設備，通過軟件的無線更新 (OTA)，進行關鍵功能和應用程序的迭代更新。因此，SOAFEE 積累的經驗可以廣泛應用于各種互連的邊緣設備。

順暢開發的另一大關鍵是采用“與云類似”的新方法，旨在打破傳統的線性嵌入式軟件開發流程。那些流程通常是孤立的，針對特定設備，并且僅在硬件可用時方能啟動。

“與云類似”的開發方法使得軟件能夠在云端開發并集成到 CI/CD 工作流中，從而實現持續構建、測試和驗證。因此，開發者可以在硬件就緒前，提前在虛擬平臺上啟動應用程序的開發工作，并采用更靈活的方法實現部署和增強功能。由此助力開發者提高效率、簡化開發流程并縮短產品上市時間。

規模化安全性

不過，改進開發流程需要遵循公開可用的標準，采用可信且一致的安全方法來實現。Arm SystemReady、PSA Certified 和 PARSEC 是制定此類標準相關的一些重要舉措示例，共同承擔著保障生態系統合規性的責任，并為每位參與者帶來了海量機遇。不僅如此，這些標準也有助于進一步減少各互連設備上的軟件層數，并解決碎片化問題。

每個標準都具備不同的優勢。2020 年推出的 Arm SystemReady 面向基于 Arm 架構的設備，旨在實現相關操作系統（例如 Linux）的安全安裝和啟動的標準化，進而在設備部署的整個生命周期內最大限度降低軟件維護成本。Arm 參與創立的 PSA Certified 可為物聯網硬件（信任根, RoT）、SoC、系統軟件和設備提供獨立的認證評估方案，有助于讓生態系統對互連設備的安全性充滿信心。此外，它還符合新頒布的網絡安全法規要求，例如 EU-CRA 法案和 UK-PSTI 法案。這無疑為設備供應商提供了保障，助其大規模部署互連設備。最后，開源計劃 PARSEC 可為硬件抽象的安全服務（例如加密服務和安全存儲）提供標準化方法，有助于消除與保護目前正在開發和部署的大量邊緣 AI 應用程序相關的障礙，并提高軟件的復用率和可移植性。

在今年 embedded world 展會上，作為 Arm 軟件生態的專業組織，Linaro 展示了一個支持 Arm 生態系統的全新方案 ONELab，依據這些標準以更高效的方式對新發布及更新后的設備固件進行測試。隨著越來越多的合作伙伴正積極加入由 Linaro 提供支持的 ONELab 項目，更加無縫、敏捷和順暢的開發體驗將成為可能。

積極擁抱生態系統協作

邊緣計算正在加快各種技術設備的數字化轉型。這為我們帶來了難得的商業機會，并將帶領大家探索新的 AI 相關軟件功能。當然，整個行業也面臨著重重挑戰。通過促進行業間協作，不斷發展的邊緣計算正全力應對這些挑戰，致力于讓所有參與者持續實現有關順暢開發、硬件和軟件異構性以及規模化安全性的發展目標。然而，這也需要生態系統更廣泛地開展協作，進而加速擴展、支持和保護未來的數十億互連設備。最終的勝利將是生態系統的雙贏，更重要的是，使用未來 AI 服務的用戶將逐步轉移到邊緣側。