人工智能 (AI) 不再只是一個科研課題，它已然成為我們日常生活的一部分。從個性化醫療、智能可穿戴設備，到沉浸式數字娛樂以及自主機器人，AI 正在重塑我們生活、工作和創新的方式。然而，隨著 AI 應用日益復雜，底層的基礎設施也必須隨之不斷演進。

這正是麻省理工科技評論洞察 (MIT Technology Review Insights) 與 Arm 聯合發布的新報告《AI 處理的未來 (The Future of AI Processing)》所聚焦的核心要點。該報告深入洞察了企業如何重新審視自身的計算策略，以滿足當下 AI 發展的需求，并為未來變化做好準備。

何為異構計算？

這一轉變的核心在于異構計算，該方式將 AI 工作負載分配到不同類型處理器（如 CPU、GPU、NPU 及其他 AI 加速器）上。每個組件都擁有其獨特的優勢：CPU 負責整體的協調工作，同時處理通用任務，以及進行高能效的推理工作；GPU 憑借強大算力，能夠支持大規模的訓練以及高吞吐量的運算；而 NPU 則針對實時推理進行優化。

這種架構組合，能夠讓計算系統根據工作負載的特點，動態地將其匹配到更合適的處理器上，從而針對性能、能效和成本進行優化。

Arm 工程部機器學習技術副總裁 Ian Bratt 在報告中指出：異構計算旨在提升性能和能效。某個工作負載可以運行在最合適的組件上，但其中的某部分可能更適合運行在另一個組件上。

AI 在工作、娛樂及生活中廣泛應用

該報告著重闡述了異構計算如何在各種應用中實現更智能、更高效的 AI。例如：

可穿戴設備和智能家居設備利用小型端側處理器進行實時推理，同時將個性化設置、模式識別等較為復雜的任務轉移至云端處理。

農業和制造業中的工業機器人融合了計算機視覺與機器學習技術，并借助異構計算在動態環境中實現低延遲與能耗優化。

流媒體和游戲等娛樂平臺將推理、編碼和個性化處理等任務，合理分配到 CPU、GPU 和云基礎設施上執行，從而實現性能與成本效益之間的良好平衡。

語音助手、預測文本和實時翻譯等應用得益于混合 AI 處理技術，從集中式云端轉向邊緣側和端側計算。這種處理方式不僅能夠縮短響應時間，增強隱私保護，還能提高能效。

這種由異構計算驅動的分布式模型，使得 AI 能夠高效進行擴展，并適應各種實際需求。隨著 AI 模型的規模和復雜性不斷增加，找到合適的平衡至關重要。在很多實際場景中，在云端進行推理處理是較為理想的選擇，尤其是在使用大模型、處理來自多個數據源的海量數據，以及需要快速向廣大用戶推送更新的情況下。

構建更智能、更高效的未來

正如報告中所強調的，能耗和成本效益正逐漸成為業界關注的核心問題。數據中心的能耗預計將大幅增長，企業因此也在尋求以更少資源實現更多產出的方法。異構計算使企業能夠智能地管理各類工作負載，從而減少對 GPU 進行強制擴展的需求，節省下來的成本可以再次投入到創新開發。

這種靈活的處理方式還能夠幫助企業保持長期的適應性。隨著工作負載不斷演變，企業需要的是那些不會將其局限于固定發展路徑，也不會迫使企業進行昂貴改造的平臺。而異構計算架構為企業提供了所需的多面性，使其在適應變化的過程中無需做出妥協。

《AI 處理的未來》報告深入探討了這一全新模式，并匯集了來自 Arm、Meta、亞馬遜云科技 (AWS) 和三星等公司高層的觀點。如果你正在為新一代 AI 產品規劃基礎設施，那么這份報告絕對值得一讀。