Ampere Altra 系列云原生處理器在處理流行的云原生工作負載時具有杰出的領導地位，不久前我們曾發表相關文章，重點講述了 Ampere 的領先優勢如何在原始性能上實現突破性的提升，向大家展示了其可擴展性以及顯著的能效優勢；在同樣的峰值工作負載下，Ampere Altra Max 云原生處理器的功耗僅為傳統 x86 處理器的一半。這種極具顛覆性的優勢使 Ampere Altra 系列成為現代云基礎設施中最具可持續性的處理器。?

今年9月1日，微軟發布了基于 Ampere Altra 云原生處理器的 Azure 虛擬機（VM）。本文將通過微軟 Azure 虛擬機上運行的一些類似的云原生工作負載，展示 Ampere Altra 云原生處理器的領導地位。盡管我們之前的數據已經展示了 Ampere Altra Max 裸金屬服務器的高性能與高能效，但全球大多數客戶將首先通過基礎設施即服務（IaaS，如微軟 Azure 提供的服務）訪問 Ampere Computing 開創性的云原生處理器。終端用戶只需租用配備了 Ampere Altra 云原生處理器的虛擬機實例，就可以體驗到 Ampere Altra 所帶來的優勢。現在，讓我們來具體了解一下優勢究竟有哪些。

原始性能與性價比

本文將從原始性能和性價比兩方面進行比較。其中，裸機比較展示的是原始性能和每瓦性能，突出了采用 Ampere 云原生處理器在助力可持續性方面的領先優勢。在性價比方面，當客戶從我們的云合作伙伴（如微軟）租用 Ampere 虛擬機時，不僅能節約成本，能效優勢也依舊凸顯。更低的電力成本不但能助力構建可持續性更高的算力基礎設施（例如減少碳足跡），還可以降低基礎設施橫向擴展時產生的平臺相關擁有成本與運行成本。

訪問云端服務器常常要通過虛擬機。虛擬機有各種規格與形態，可以適應云端大量的應用程序和用例。此外，云虛擬機還有不同的標準配置可供比較；這不同于我們在實驗室中常進行的裸機比較。

在談及數據之前，需要首先強調一下在比較云虛擬機性能時可能看到，但容易忽略的差異：

測試云端虛擬機鏡像時，我們使用了 Azure 提供的標準規格。即?16 個 vCPU?的實例，這種虛擬機規格在云端最受歡迎。

在云端部署虛擬機時，需要注意不同架構之間 vCPU 的差異。傳統 x86 虛擬機的每個內核有 2 個 vCPU，而? Ampere Altra 虛擬機使用單線程內核，即每個內核擁有 1 個 vCPU。這意味著，部署基于 Ampere Altra 的虛擬機，您將在虛擬機規格類似的條件下擁有 2 倍的內核數量。

根據現有的可適用 Azure 服務列表，我們使用了存儲和網絡中的等效服務。

為實現同等產品的比較，本文收集和顯示的所有數據都通過運行搭載 16 個? vCPU 的虛擬機獲得。

我們測試的虛擬機如下表所示。

除了為每種工作負載收集的原始性能數據以外，我們還用已發布的按需定價信息（即用即付）計算了在 Azure 虛擬機上運行特定工作負載的總價格。定價信息來源于 Azure 官網，信息可能會有變動。

性價比值 = （在同等規格的虛擬機上提供同等服務時，所運行工作負載測得的綜合性能優勢） * （每種可比較虛擬機的成本優勢）

現在讓我們聚焦收集到的數據。以下所列的工作負載均為實際服務安裝中流行的云原生工作負載，因此它們代表了多數終端客戶在公有云基礎設施中部署的工作負載。

Web 服務

首先來看 NGINX，這是一種非常流行的 HTTP Web 服務器。我們已經展示過 NGINX 在 Socket 層面如何在原始性能和能效方面都遠超傳統 x86 生態。而在具有 16 個 vCPU 的虛擬機方面，可以看出 Ampere Altra 的性能優勢及其價格優勢（與上述提及的能效相關）；與英特爾的 Dsv5 和 AMD 的 Dasv5 相比，Ampere 的虛擬機性價比高達 30%（此處的性能和性價比的比較是相對于 Intel 的 Dsv5 虛擬機而言）。

內存緩存

Memcached 是一種廣泛應用的存內鍵值儲存，在它身上，我們也看到了類似的結果。對內存緩存而言，在我們測試范圍內的 8 至 16 個 vCPU 的虛擬機很常見，而我們測得的整體性能值對包含緩存層的微服務等工作負載非常有吸引力。通過測試，我們得到的?Ampere 性價比相較于 Intel 的 Dsv5 虛擬機高 30%，比 AMD 的 Dasv5 虛擬機高 43%。

視頻服務

視頻編碼被認為是許多云服務的大宗應用程序，視頻編碼因此也成為一種高容量和高度優化的工作負載。就算法優化和編解碼器效率而言，Arm 生態系統已經占據有利地位。

基于此，在視頻上傳（Video Upload）和視頻點播（VoD）這兩個場景中，我們利用 x.264 編碼庫在 vBench 上運行媒體編碼。在 Ampere 的虛擬機中，這兩種場景的測試非常類似，因此我們僅展示上傳場景的數據。該場景采用了不會降低輸入視頻質量的單程轉碼，這也表明了視頻服務的初始上傳編碼對速度和質量有所要求。測試結果顯示，16 個 vCPU 的 Ampere 虛擬機與傳統 x86 虛擬機的性能大致相當；但根據公布的定價來看，性價比提高了 30%。

AI 推理

最后我們來看 AI 推理基準測試。

隨著人工智能成為許多網絡和獨立服務不可或缺的組成部分，機器學習在云端消耗的周期越來越多。Ampere 為此編譯了一個易于使用的堆棧，以加速計算機視覺、自然語言處理和推薦引擎用例中的典型 AI 工作負載。Ampere AI 再將此加速層與常見的開源 AI 框架（例如 TensorFlow、PyTorch 和 ONNX）相結合。其美妙之處就在于，用戶可以自由選擇與其框架兼容的模型，并運行于 Ampere 云原生處理器的優化流程之中。用戶無需對模型進行任何更改即可完成任務，同時，借助 Ampere 處理器的獨特功能，例如 fp16 這種數據格式，可以得到普通 fp32 格式約 2 倍的性能，但精度幾乎無損失。上述常見 AI 框架的免費鏡像在 Ampere 解決方案網站上都可以找到，Azure 市場上也會很快推出。

利用一組通用的基準測試，我們使用 MLPerf Resnet50 v1.5 比較了 AI 推理在單流和離線場景中的表現。這些場景代表了數據中心圖像分類中最常見的用例，分別反映了延遲敏感度（一次一幀或一張圖像）和批量吞吐量（盡可能多地并行返回）操作。在 D16ps v5 虛擬機上進行這些基準測試，基于帶 Ampere AI 容器鏡像的 TensorFlow 2.7 框架運行，同時采用 FP16 數據格式；再用傳統 x86 進行這些基準測試，基于帶 DNNL 的 TensorFlow 2.7 框架，并采用 fp32 數據格式。將二者進行比較，結果表明，采用所述格式進行的 Ampere 測試，其模型精度非常高。與傳統 x86 虛擬機相比，Ampere AI 技術的性能提升超過 2 倍，而性價比更是超越 2 到 3 倍！

結語

無論是部署新的 Web 服務，還是優化人工智能、視頻編碼、數據管理與分析中等現有服務，云端開發人員都可以選擇成本更低但性能更高的方案，取代目前廣泛使用的傳統基礎設施。過去，低價代表著低性能。但現在，這種情況已不復存在！微軟 Azure 的用戶不再需要做出取舍，魚與熊掌可以兼得。更令人欣慰的是，這樣做不但能極大地節省成本，而且不以犧牲性能為代價，還可以節能減排。

審核編輯：劉清