作者：Arm 物聯(lián)網(wǎng)事業(yè)部高級產(chǎn)品經(jīng)理 Dimosthenis Rossidis

在當前持續(xù)演進的物聯(lián)網(wǎng) (IoT) 環(huán)境中，軟件復雜性不斷增加，邊緣設備因而需要更勝以往的性能、能效和安全性。Arm Cortex-A 系列產(chǎn)品通過為功率有限的設備帶來先進的計算功能，進而滿足這一需求，并為多樣化的市場提供增強的人工智能 (AI) 處理能力、強大的安全性和優(yōu)化的能效。Cortex-A3xx 系列專為包括消費類電子設備和云服務等在內的各種細分市場提供超高能效解決方案和優(yōu)化的性能。更重要的是，該系列 CPU 為快速增長的高度多樣化物聯(lián)網(wǎng)市場提供了性能強勁且可擴展的解決方案，使其成為邊緣 AI 應用的理想之選。

邊緣 AI 需要更卓越的計算性能、更強大的安全性，以及更出色的軟件靈活性。隨著軟件愈發(fā)復雜化，Armv9 架構應運而生，以提供先進的機器學習 (ML) 和 AI 功能，并具備增強的安全特性。該架構現(xiàn)已在 Cortex-A3xx 的超高能效系列實現(xiàn)，為新一代邊緣 AI 應用夯實根基。

Cortex-A320：最小型的 Armv9 架構實現(xiàn)

Arm 今日發(fā)布的 Cortex-A320 是首款基于 Armv9 架構的超高能效 Cortex-A 處理器。這是一款基于 Armv9.2-A 架構的 AArch64 CPU。其微架構源自 Cortex-A520，并經(jīng)過顯著優(yōu)化，以改善面積和功耗。

Cortex-A320 的能效相較 Cortex-A520 提高了 50% 以上。這一提升是通過多次微架構的更新而實現(xiàn)，其中包括窄取和解碼數(shù)據(jù)路徑、密集存儲的 L1 緩存、縮減端口的整數(shù)寄存器文件等優(yōu)化。

得益于高能效的分支預測器和預取器，以及內存系統(tǒng)的提升等微架構上的顯著創(chuàng)新，Cortex-A320 在 SPECINT2K6 基準測試中的標量性能相比其前代產(chǎn)品 Cortex-A35 提升了 30% 以上。

更重要的是，通過集成增強的Armv9 的 Neon 和 SVE2 向量處理技術，在 INT8 通用矩陣乘法 (GEMM) 中測得 Cortex-A320 的 ML 處理能力比 Cortex-A35 高出至多 10 倍。此外，通過對 BF16 等新的數(shù)據(jù)類型、新的點積和矩陣乘法指令的支持，Cortex-A320 的 ML 性能比目前全球最受歡迎的 Armv8-A CPU Cortex-A53 高出至多六倍。

Cortex-A320 在 ML 能力的大幅提升，以及極高的面積能效比，使其在 ML 應用中成為最高能效的 Cortex-A CPU 核心。

與 Arm Cortex-M 處理器相比，Cortex-A320 的 ML 性能同樣提高了數(shù)倍。例如，在 GEMM 性能方面，Cortex-A320 相較目前性能最高的 Cortex-M CPU (Cortex-M85) 提高了八倍。這種性能提升不僅歸功于 Armv9 架構在 AI 處理上的增強，還源于 Cortex-A320 內存訪問性能的大幅提高和頻率的增加。

與此同時，得益于 Arm 的 A 處理器架構、多核執(zhí)行，以及靈活的內存管理，這使 Cotex-A320 成為 Cortex-M 系列微處理器進行性能升級的合適選項。

通過微架構優(yōu)化，實現(xiàn)更高能效

Cortex-A320 是一款單發(fā)射、32 位指令取指的有序執(zhí)行 CPU，實現(xiàn)了優(yōu)化的八級管線，且具有緊湊的轉發(fā)網(wǎng)絡，從而達到比 Cortex-A520 更高的頻點。

Cortex-A320 提供從單核到四核配置的集群內擴展。該 CPU 所采用的簡化 DynamIQ Shared Unit (DSU) DSU-120T，可支持僅使用 Cortex-A320 的集群。DSU-120T 是最小的 DSU 實現(xiàn)，能夠顯著降低復雜性、面積和功耗，進而大幅提升基于 Cortex-A 的入門系列產(chǎn)品的能效。

Cortex-A320 支持高達 64KB 的 L1 緩存和高達 512KB 的 L2 緩存，并且具有可連接到外部存儲器的 256 位 AMBA5 AXI 接口。L2 緩存和 L2 TLB 可以在 Cortex-A320 CPU 之間共享，而實現(xiàn) Neon 和 SVE2 SIMD 技術的向量處理單元既可在單核復合體中專用，也可在雙核或四核實現(xiàn)中由兩個核共享。

針對不同市場的多樣化優(yōu)勢

得益于廣泛的開源 Linux 支持、強大的安全生態(tài)系統(tǒng)，以及 Armv9 架構所取得的關鍵進展，Cortex-A320 可確保與邊緣側和基礎設施設備兼容，同時具備出色能效和可擴展性。

Neon 和 SVE2 向量處理技術更新提升了 ML 性能，除此之外，Armv9 架構還大大增強了安全性，這對于物聯(lián)網(wǎng)和嵌入式系統(tǒng)至關重要。Cortex-A320 為 Cortex-A 的超高能效系列引入了重要的安全特性，包括增強內存安全性的內存標記擴展 (MTE)，以及可減少跳轉導向編程和返回導向編程攻擊的指針驗證 (PAC) 和分支目標識別 (BTI)。

Secure EL2 是 Cortex-A320 所采用的其中一項 Armv9 關鍵特性，通過增強 TrustZone 中的軟件隔離，有助于在邊緣設備上安全執(zhí)行軟件容器。

從入門級通用 MPU、智能揚聲器、軟件定義智能攝像頭，到工廠車間內的自動駕駛車輛、自動化邊緣 AI 助手、AI 人機界面和機器人控制器，Cortex-A320 可在廣泛的應用中發(fā)揮上述優(yōu)勢。除邊緣 AI 應用外，Cortex-A320 還可惠及包括智能手表和智能可穿戴設備，以及服務器基板管理控制器 (BMC) 等基礎設施設備在內的眾多關鍵細分市場。

Cortex-A320 也非常適合于以往使用高性能 Cortex-M 的應用，如電池供電的 MCU 用例或運行實時操作系統(tǒng) (RTOS) 的應用，這些應用需要通過對稱多處理來擴展性能，而 Arm 的 A 處理器架構開箱即支持。

此外，它還可用于需要 Cortex-A 內存管理或地址轉換特性的 RTOS 應用，以增強軟件的靈活性。例如，Cortex-A320 適合于需要在 MCU 設備上下載應用的用例，由于其需要內存管理單元 (MMU) 來跨內存映射進行代碼重新定位。

與此同時，更寬的尋址空間使得 Cortex-A320 成為異構多核用例的高能效解決方案，在這些用例中，性能更高的 Cortex-A 與微控制器級核心相結合。借助 Cortex-A320，Arm 的合作伙伴能夠將小型架構兼容的核心搭配較大的 Cortex-A 處理器，從而簡化內存架構。

另一方面，由于其所具備的 A 處理器架構特性，Cortex-A320 可以提供開箱即用的 Linux 支持，并為安卓系統(tǒng)等現(xiàn)有的功能豐富的操作系統(tǒng)提供軟件可移植性。Cortex-A320 具備出色的靈活性，適用于眾多細分市場、應用和操作系統(tǒng)。

引入 Armv9 邊緣 AI 異構計算平臺

Arm Ethos-U85 NPU 旨在應對 Cortex-A 系統(tǒng)中的常見高延遲內存，并與 Cortex-A320 處理器協(xié)作良好。

Ethos-U85 驅動程序已完成更新，該 NPU 現(xiàn)可直接由 Cortex-A320 驅動，而無需基于 Cortex-M 的 ML 島。這一更新不僅改善了延遲，還為 Arm 的合作伙伴免去了使用 Cortex-M 來驅動 NPU 的成本和復雜性。

此外，Cortex-A320 的內存訪問性能和增強的內存系統(tǒng)使其能夠執(zhí)行更大規(guī)模的 ML 模型，例如超過 10 億個參數(shù)的大語言模型 (LLM)。由于可尋址內存空間有限，這些模型很難在基于 Cortex-M 的系統(tǒng)上高效運行。

Ethos-U NPU 通過量化數(shù)據(jù)類型，來滿足邊緣 AI 用例有限的成本和能耗要求。Ethos-U85 不支持的 ML 算子和數(shù)據(jù)類型都將自動回調到 Cortex-A320 上進行處理，并利用 Neon/SVE2 引擎進行加速。

Armv9 架構實現(xiàn)了顯著的 ML 性能提升，得益于此，在 2GHz 頻率下運行，以 8 位 MAC/周期測得，四核 Cortex-A320 可以執(zhí)行高達 256 GOPS。因此，無需外部加速器，Cortex-A320 便可直接在 CPU 上運行高級 ML 和 AI 用例。這為針對各種 ML 和 AI 應用的設備節(jié)省了系統(tǒng)面積、功耗和復雜性，并帶來最高可達 0.25 TOP 的表現(xiàn)。

邊緣 AI 新時代未來可期

Cortex-A320 將 Armv9 架構的安全性和卓越的 AI 性能引入了 Cortex-A 的超高能效系列，為軟件開發(fā)者提供了開發(fā)和部署更嚴苛用例的新可能，開創(chuàng)了邊緣 AI 設備的新時代。通過結合 Arm 的 A 處理器架構及相關的軟件生態(tài)系統(tǒng)，并在高能效和靈活性支持下，Cortex-A320 為物聯(lián)網(wǎng)領域的各個細分市場提供了卓越的可擴展性和多樣化。