現代人工智能計算工作負載給傳統處理器架構帶來了前所未有的挑戰，已將其推向了極限。當下，無論是企業，還是云服務提供商，若要實現自身的人工智能愿景，最為關鍵的任務便是追求更高性能、更強擴展性，以及在計算過程中實現更高效的通信。這不僅是順應人工智能發展潮流的必然選擇，更是在激烈的市場競爭中脫穎而出，占據技術高地的核心訴求。面對這一挑戰，Ampere Computing 憑借豐富的知識產權創新產品組合所驅動的高性能、高效率人工智能計算解決方案，積極應對。在本次問答環節中，Ampere 首席產品官 Jeff Wittich 深入解讀了公司的創新理念。他詳細闡述了 Ampere 如何通過定制化知識產權實現性能層面的重大突破，這種創新又是怎樣為后續產品提供有力支撐，進而引領并塑造下一代人工智能計算系統，展現出 Ampere 在人工智能計算領域的前沿探索與深遠布局 。

Q: AmpereOne 產品系列(其中包括備受期待的 AmpereOne Aurora)的核心是 Ampere 的定制化內核。這些內核有哪些不同之處呢?它們又是如何具備處理人工智能工作負載的能力的呢?

Ampere 基于 Arm 架構的定制化內核在處理人工智能工作負載方面，尤其是人工智能推理方面，具有多項優勢。其主要的一些優勢包括：

用于并行處理的高計算密度：如今，Ampere 處理器支持多達192個內核，在 AmpereOne Aurora 中，內核數量將增加到512個。這些內核提供了強大的并行處理能力，對于眾多人工智能推理工作負載來說是一大優勢，比如生成式人工智能、自然語言處理和圖像識別等方面。就如同 GPU 依靠大量特定的計算元件協同工作來執行一項任務一樣，Ampere 處理器依靠大量通用的高性能內核來實現這一點。

超高能源效率：自成立以來，Ampere 一直專注于開發高能效的處理器。這一核心價值也體現在我們的定制內核上。與基于x86架構的處理器相比，我們的定制內核能夠實現更高的每瓦性能。由于人工智能推理在云環境中常常需要持續運行，因此這種能源效率對于確保人工智能在規模擴展時仍能保持可持續性至關重要。

可擴展的性能：Ampere 處理器兼具微架構特性和產品功能，以確保性能能夠可預測地擴展，即便處于始終有大量數據在處理器中傳輸的高利用率環境中也是如此。諸如自適應流量管理和服務質量(QoS)保障等功能，以及我們的單線程內核，都有助于消除云人工智能部署中“嘈雜鄰居”效應。

Q: Ampere 近期披露，已成功研發出專屬的定制網格。在人工智能領域迅猛擴張且數據密集程度與日俱增的當下，Ampere 的這款定制網格架構究竟如何滿足不斷攀升的帶寬需求，進而顯著提升人工智能驅動型應用程序的性能呢?

Ampere 的定制網格架構，專為滿足人工智能日益增長的高帶寬、低延遲需求而設計。Ampere 在 CPU 密度和效率上不斷突破極限，性能遠超其他網格架構技術。該架構通過降低事務處理開銷，實現內核間數據高效傳輸，大幅降低延遲，這對實時性人工智能任務至關重要。

Ampere 定制網格架構的主要優勢包括：

寬闊的數據傳輸路徑：支持信息的高效流動，減少傳輸事務量。

優化的延遲：將事務負載降至最低，提升實時性能。

高帶寬容量：支持快速訪問大型數據集。

能源效率：通過專有的創新設計，實現性能最大化以及數據的高效傳輸。

這種架構在確保低延遲的同時，能夠實現人工智能應用所需的數據吞吐量，滿足人工智能日益增長的復雜需求 。

Q: 網格架構在支持像 AmpereOne Aurora 這樣即將推出的人工智能專用產品方面發揮著怎樣的作用呢?

AmpereOne Aurora 是 AmpereOne 系列的下一代產品，它將通用計算內核與人工智能加速功能相結合。

Ampere 的定制網格架構能夠滿足這些未來產品在可擴展性和性能方面的需求。它支持大量計算元件之間的連接，同時還能維持內核與內存之間的高效通信，確保隨著系統規模的擴大，數據傳輸依然保持高效。

除了擴充內存容量、采用新型內存技術外，Ampere 確保每個內核都具備處理高要求工作負載所需的帶寬。如此一來，Ampere 即將推出的產品便能從容應對現代云應用與人工智能應用帶來的挑戰。

Q: 軟件在 Ampere 實現人工智能領域的宏偉目標中扮演著怎樣的角色?公司如何讓自己從軟件領域脫穎而出?

2021年，Ampere 收購了人工智能部署與加速軟件領域的領先供應商 OnSpecta，旨在為客戶帶來大幅提升的人工智能性能。Ampere 利用 OnSpecta 的知識產權，打造了一系列定制化的人工智能軟件庫，這些軟件庫旨在優化機器學習和人工智能推理工作負載。

例如，一個關鍵工具就是 Ampere 人工智能優化器(AIO)。這個加速引擎已完全集成到流行的人工智能框架中，這樣一來，開發人員無需使用 GPU，就能夠在 Ampere 處理器上高效的，并且以最高性能無縫運行人工智能推理工作負載。

Q: 這些知識產權創新是怎樣協同發力，助力 Ampere 在人工智能領域中嶄露頭角、與競爭對手形成顯著差異的呢?

AmpereOne Aurora，作為我們即將發布的集成人工智能加速功能的512核 CPU，是一個很好的范例，它充分展現了 Ampere 在知識產權領域的投入如何匯聚并轉化為成果。Ampere 將定制內核、專有的網格架構以及跨小芯片的裸片到裸片互連技術等創新成果深度整合，融入自主研發的人工智能加速功能，最終造就了具有革命性意義的 AmpereOne Aurora，更好的滿足行業需求。

這款產品性能卓越，將遠超我們現有的 AmpereOne 處理器三倍之多，在人工智能計算領域，其每機架的性能表現處于領先地位。尤為突出的是，它采用風冷散熱方式，無需對數據中心進行特殊升級改造。這使得它能夠在全球任意現有數據中心部署，無論是公有云、企業數據中心，還是超大規模數據中心與邊緣計算場景皆可適用。而這一點，正是化解全球人工智能領域電力危機的關鍵所在 。

這一切得以實現，源于 Ampere 在過去數年持續深耕研發，促使各項創新技術相互融合、協同發力。

關于 Ampere Computing

Ampere Computing 是一家現代化半導體企業，致力于塑造云計算的未來，并推出了世界上首款云原生處理器。為可持續云而生，Ampere 云原生處理器兼具最高性能和最佳每瓦性能，助力加速多種云計算應用的交付，為云提供行業領先的性能、能效和可擴展性。