正如 Arm 工程部軟件高級副總裁 Mark Hambleton 在《2025 年芯片新思維》報告中所說：人工智能 (AI) 的未來發展離不開軟硬件的協同。

然而，在由 Arm 贊助的新 CIO 報告中所述，開發者工作流程的碎片化限制了開發者創建和擴展新 AI 應用的速度，而這也是目前其所面臨的最大挑戰之一。

Arm 深知軟件對于釋放 AI 的真正潛力至關重要，因而從基礎架構和整個技術棧入手，致力于簡化 AI 開發流程，并支持新 AI 應用和工作負載實現無縫性能加速。

基礎架構

Arm 持續發展自身架構，作為軟硬件之間的重要接口。如今，從云端到邊緣側的廣泛市場中，Armv9 架構已成為智能手機、數據中心、高性能計算和汽車應用等領域的現代技術基礎。

Arm 不斷為最新的架構引入新的功能，例如此前推出的可伸縮矩陣擴展 (SME) 和可伸縮向量擴展 (SVE2)，有助于在各類應用中加速生成式 AI 和常見機器學習 (ML) 工作負載。SME 借由在通用指令集中引入復雜矩陣處理能力，使開發者能夠在其 AI 應用中實現出眾性能，并無縫遷移到不同的生態系統。由此不僅擴大了運行 AI 工作負載的硬件范圍，還顯著提升了用戶體驗。

CPU 對開發者的價值

上述架構特性都集成到了 Arm 的 CPU 中，使之成為軟件開發者首選的目標平臺。因為 Arm CPU 廣泛應用于從云端到邊緣側的各種應用，適合作為大多數 AI 推理工作負載的直接目標平臺，被廣泛應用于數十億臺設備中，例如當今的智能手機，以及全球的云端和數據中心。通過選擇 Arm CPU 作為目標平臺，開發者能夠以更多類型的數據格式運行更廣泛的軟件，而無需為專用 NPU 開發多個版本的代碼。

CPU 為開發者提供了所需的一致性，避免了定制硬件解決方案所帶來的碎片化和效率低下。

正如 Hambleton 在《2025 年芯片新思維》報告中指出：AI 框架的互操作性是開發者的核心訴求。因此開發者通常默認選擇 CPU 后端，因為 CPU 的普遍性確保了更廣泛的兼容性。

此外，推動 AI 工作負載擴展的因素不僅限于架構的進步。

在 CIO 報告中，Arm 工程部機器學習工程副總裁 Nick Horne 表示，AI 已經從依賴云端的龐大模型演變為可在邊緣側或端側運行的更小、更高效的模型。他指出：如今，有些出色的模型可在你隨身攜帶的設備上運行并提供高質量的結果，某些情況下甚至能夠完全在 CPU 上運行。

對開源不變的承諾

Arm 與開源社區廣泛合作，致力于推動 AI 的普及，為開發者提供便捷途徑，使開發者能夠輕松獲取來自廣泛 Arm 生態系統合作伙伴的硬件，及時利用其中的最新架構特性和性能。

Horne 在 CIO 報告中強調了這一方法為開發者帶來的優勢。他指出：采用具有良好硬件抽象的開源 AI 框架，能夠顯著避免對靈活性的影響。

如此一來，開發者無需受限于特定硬件、云服務提供商或軟件平臺。

Kleidi 助力輕松加速 AI

Arm Kleidi 很好地體現了上述優勢的實際應用效果。Kleidi 提供開發者支持技術、資源和微內核庫，能夠為在 Arm CPU 上運行的模型輕松實現 AI 工作負載加速。由于 Kleidi 庫已集成到主流的開源 AI 框架和運行時中，包括 Google 的 MediaPipe、Meta 的 ExecuTorch 和 PyTorch、llama.cpp，騰訊的 Angel，以及阿里巴巴的 MNN。開發者無需額外工作即可獲得性能優化，從而節省時間、精力和成本。Kleidi 現已集成至 Arm 技術覆蓋的所有市場，包括移動端、云、數據中心、汽車和物聯網領域。

與行業領先的生態系統合作

從更廣泛的層面來看，Arm 通過行業領先的軟件生態系統，與眾多合作伙伴開展協作，致力于安全、大規模地部署 AI。例如，Arm 與 GitHub 就 GitHub Runners 項目開展合作，使開發者能夠更高效地在云端測試和部署訓練好的模型。近期，面向 GitHub CoPilot 的 Arm 擴展程序為開發者提供了完全集成的原生 Arm 工作流，包括準確的代碼生成、測試用例創建和錯誤修復功能。

此外，Arm 還通過各種舉措推動底層軟件和固件部署的簡化和加速，實現順暢的軟件開發。Linaro OneLab、Trusted Firmware 和 PSA Certified 等項目促進了各方協作，并為快速發展的邊緣側 AI 和高性能物聯網領域的安全軟件部署和支持提供了藍圖。在汽車行業，Arm 發起的面向嵌入式邊緣的可擴展開放架構 (SOAFEE) 致力于提供基于標準的框架，以實現軟件的規模化復用，從而縮短開發周期，滿足了軟件定義汽車 (SDV) 應用中對更多 AI 的空前需求，同時提升了駕駛體驗。

開放標準推動創新

最后，缺乏標準化實踐可能會阻礙創新，并可能在未來給開發者制造復雜難題。開放標準使開發者和研究人員可以在不同平臺之間無縫切換，同時專注于訓練、量化和部署，通過模型的持續創新創造價值。

借助軟件加速 AI 創新

為了讓 AI 技術充分發揮潛力，軟件開發流程需要簡化、加速并開放。Arm 技術及其生態系統通過專注于開放標準、硬件抽象并與不斷演變的框架保持兼容，助力實現面向未來的 AI 開發。開發者因而能夠在不同硬件上無縫創建和部署 AI 應用、模型和工作負載并提升性能，從而基于 Arm 平臺為 AI 時代打造更優質的軟件。