01 ARM：3A大作 ? ?

將 CPU 的設計與制造相分離的代工模式，給 AMD 提供了高度的靈活性。第二、三代 EPYC 處理器可以相對自由的選擇不同的制程來匹配芯片設計的具體需求，客觀上起到了幫助 AMD“以小博大”，從英特爾手中持續(xù)搶下市場份額的作用。 ? 相關(guān)閱讀： Arm架構(gòu)升級，v9與v8版本有何差異？ 從X86到ARM，跨越CPU架構(gòu)鴻溝 ? 不過，這個靈活性的獲益者更多在于 AMD 自身。超大規(guī)模用戶如 AWS 和阿里云不滿足于主要調(diào)整核心數(shù)、運行頻率和 TDP 等指標的傳統(tǒng)定制，希望對 CPU 設計有更多的自主權(quán)；又或者，新興 CPU 供應商如 Ampere（安晟培）要選擇適用的技術(shù)路線……Arm 幾乎是服務器 CPU 市場上唯一的答案。 ? 如果說臺積電幫助解決 CPU 的制造問題，那么 Arm 幫助解決 CPU 的設計問題。

Cortex 孵化 Neoverse

對亞馬遜（Annapurna Labs）、阿里巴巴（平頭哥）和 Ampere 這有足夠芯片設計能力的“3A”客戶來說，Arm 的 Neoverse 平臺提供了設計一款服務器 CPU 的基礎，包括 CPU 核心的微架構(gòu)和配套的制程。 ? Arm 對服務器 CPU 市場的正面進攻可以回溯到 2011 年 10 月，Arm 發(fā)布加入可選 64 位架構(gòu)（AArch64）的 ARMv8-A。一年后，Arm 發(fā)布實現(xiàn) ARMv8-A 64 位指令集的微架構(gòu) Cortex-A53 和 Cortex-A57，AMD 表態(tài)將推出相應的服務器產(chǎn)品——后者多年的服務器市場經(jīng)驗正是當時的 Arm 陣營所稀缺的。 ? 此后的幾年中，芯片供應商如 Cavium、高通（Qualcomm）和國內(nèi)的華芯通，超大規(guī)模用戶如微軟，都曾積極的推動 64 位 Arm 進入數(shù)據(jù)中心市場。但是，真正比較成規(guī)模化的部署，應當始自 2018 年 11 月 AWS 預覽其首個 Arm 服務器 CPU —— Graviton。

? Graviton 基于 2015 年推出的 Cortex-A72（A57 的繼任者），16nm 制程，16 核、16 線程， 與同時期的 x86 服務器 CPU 比起來，頗有些‘“平平無奇”，最大的仰仗是亞馬遜“自家的孩子”，可以充分優(yōu)化。 ? Cortex-A 家族已經(jīng)是 Cortex 三兄弟里最追求性能的了，但畢竟不是面向服務器平臺的產(chǎn)品，不能放寬功耗限制去飆性能。于是，在Graviton 公開之前一個月，Arm 發(fā)布了面向云計算和邊緣基礎設施的 Neoverse 平臺，起點便是 16nm 的 A72 和 A75，代號 Cosmos。

△ Neoverse可伸縮計算平臺 ? 僅僅 4 個月之后，2019 年 2 月，Arm 更新了 Neoverse 平臺的路線圖，推出 7nm 的 Neoverse N1，性能比之前的目標又有 30% 以上的提升。 ? 代號 Ares 的 Neoverse N1，基礎是 2018 年推出的 Cortex-A76，兩者的流水線結(jié)構(gòu)相同，? 均為 11 級短流水線設計，前端都是 4 寬的讀 取 / 解碼器。Arm 將其稱為“手風琴”管道，因為根據(jù)指令長度不 同，它可以在延遲敏感的情況下將第二預測階段與第一獲取階段重 疊，將調(diào)度階段與第一發(fā)布階段重疊，將流水線長度減少到 9 級。L2 Cache 也新增可選的 1MiB 容量，是 A76 的 2 倍。 ?

△ 4 vCPU 配置，Neoverse N1 相對 Cortex-A72的整數(shù)性能提升 ? 相較于上一代的 A72 平臺，Neoverse N1 平臺帶來了顯著的性能提升， 許多項目的成績翻倍，尤其是在標志性的機器學習項目中，成績接 近上一代產(chǎn)品的 5 倍。雖然 A72 的年頭早了點兒，但這樣的性能差 距也說明 Neoverse N1 確實有了質(zhì)的飛躍。

Graviton2 與 Altra 系列

? Neoverse N1 平臺帶給數(shù)據(jù)中心市場的沖擊很大，因為所有人都看 到了它的巨大潛力和價值，以及這背后的機會。如果說之前的 A72 還只是在數(shù)據(jù)中心市場嶄露頭角的話，那么 Neoverse N1 則讓更多 人相信 Arm 有能力在這個領(lǐng)域分一杯羹。 兩款分別來自云服務商和獨立 CPU 供應商的 7nm CPU，都基于 Neoverse N1。

? 2019 年 11 月，AWS 官宣 Graviton2 處理器：

核數(shù)暴漲至 64，是一代的 4 倍；

晶體管數(shù)更有 6 倍，達到 300 億之多；

64MiB L2 Cache，是一代的 8 倍；

DDR4-3200 內(nèi)存接口，（頻率）是一代的 2 倍；

運行頻率 2.5GHz，略高于一代的 2.3GHz。

△ 2020 年 AWS 新增的 EC2 實例中，? Gravtion2 占據(jù)半壁江山，? Intel 和 AMD 的比例也耐人尋味 ? 基于 Graviton2 的 EC2（Elastic Compute Cloud，彈 性 計 算 云）實 例類型迅速增多，包括但不限于通用型（M6g、T4g）、計算優(yōu)化 型（C6g）、內(nèi)存優(yōu)化型（R6g、X2gd），部署的區(qū)域（Region）和數(shù)量也從 2020 年中起穩(wěn)定增長——據(jù)統(tǒng)計，2020 年全年，AWS EC2 實例增量中的 49% 基于 AWS Graviton2。 ?

Armv9：繼往開來

2011 年 11 月公布的 Armv8，將 Arm 帶入了 64 位時代。在 Arm 與生態(tài)合作伙伴的共同努力下，經(jīng)過數(shù)次產(chǎn)品迭代，Arm 陣營用了十年的時間，在服務器市場站穩(wěn)了腳跟。

2021 年 3 月底，Armv9 發(fā)布，在 Armv8 的基礎上，著重升級了安全性、 機器學習（Machine Learing，ML）和數(shù)字信號處理（Digital Signal Processing，DSP）方面的能力。 ? 在新架構(gòu)所帶來的三大特性中，機器學習或許是大眾最熟悉也是最關(guān)心的內(nèi)容。伴隨著異構(gòu)應用的崛起，以機器學習為代表的人工智能（Artificial Intelligence，AI）技術(shù)已經(jīng)深入我們生活的方方面面，無論是在后端的數(shù)據(jù)中心還是在終端、邊緣側(cè)，機器學習都大有用武之地。 ? 為了更好地提升 AI 和 DSP 所需的算力，ARMv9 將原本支持的可伸縮矢量擴展（Scalable Vector Extension，SVE）升級到了 2.0 版本。

這項技術(shù)可以改善機器學習和數(shù)字信號處理應用的性能表現(xiàn)，有助于對 5G 系統(tǒng)、VR/AR、機器學習等一系列工作負載的處理。 ? SVE2 提供了可調(diào)節(jié)的向量（Vector，矢量）大小，范圍從 128b（bit， 位）到 2048b，從而允許向量的可變粒度為 128b，這種變化并不會受到硬件平臺的影響。這就意味著，軟件開發(fā)人員將只需要編譯一次其代碼，就可以適用于 Armv9 乃至于后續(xù)產(chǎn)品中，實現(xiàn)“編寫一次，到處運行”。同樣，相同的代碼將能夠在具有較低硬件執(zhí)行寬度能力的更保守的設計上運行，這對于 Arm 設計從物聯(lián)網(wǎng)、移動到數(shù)據(jù) 中心的 CPU 而言至關(guān)重要。

? SVE2 擴展還增加了壓縮和解壓縮 CPU 核心內(nèi)的代碼和數(shù)據(jù)的能力，因為將數(shù)據(jù)移入和移出芯片的過程耗電很大，盡可能多使用芯片內(nèi)的數(shù)據(jù)可以減少這種數(shù)據(jù)移動，從而降低能耗。 ? 更值得一提的是 Confidential Compute Architecture（CCA），中文名稱為機密計算架構(gòu)，這也是 Arm 本次版本更新最重要的內(nèi)容。其實安全問題近些年變得愈演愈烈，勒索病毒與黑客攻擊無時無刻不在活動。

面對層出不窮的網(wǎng)絡攻擊問題，既需要網(wǎng)絡服務商、軟件公司的努力，也需要包括 Arm 在內(nèi)的硬件基礎設施提供商從源頭上封堵可能存在的漏洞，就促成了 CCA 的出現(xiàn)。這是一種基于架構(gòu)層面的安全防護能力，通過打造基于硬件的安全運行環(huán)境來執(zhí)行計算，保護部分代碼和數(shù)據(jù)，免于被存取或修改，乃至不受特權(quán)軟件的影響。 ?

△ Arm 機密計算架構(gòu)（左），Android 11 和 OpenSUSE 引入的內(nèi)存標簽擴展技術(shù)（右） ? 為此 CCA 引入了動態(tài)創(chuàng)建機密領(lǐng)域（Realms）的概念——這是一個安全的容器化執(zhí)行環(huán)境，支持安全的數(shù)據(jù)操作，可將數(shù)據(jù)與 hypervisor 或操作系統(tǒng)隔離。Hypervisor 的管理功能由“領(lǐng)域管理器” （realms manager）承擔，而 hypervisor 本身只負責調(diào)度和資源分配。使用“領(lǐng)域”的優(yōu)勢在于極大地減少了在設備上運行給定應用程序的信任鏈，操作系統(tǒng)在很大程度上對安全問題變得透明，也允許需要監(jiān)督控制的關(guān)鍵任務應用程序能夠在任何設備上運行。

? 在實際應用中，內(nèi)存是非常容易被攻擊的一環(huán)，內(nèi)存安全也一直成為行業(yè)的關(guān)注點，如何在內(nèi)存安全漏洞被利用之前就能發(fā)現(xiàn)問題，是提高全球軟件安全的重要一步。為此，Arm 與 Google 持續(xù)合作開發(fā)的“內(nèi)存標簽擴展”（MTE）技術(shù)也成為 Armv9 的一個組成部分，可在軟件中查找內(nèi)存的空間和時間安全問題，將指向內(nèi)存的指針和標簽建立聯(lián)系，并在使用指針時檢查這個標簽是否正確。如果存取超過范圍，標簽檢查就會失敗，從而可以在第一時間發(fā)現(xiàn)內(nèi)存安全漏洞并進行封堵。 ?

Arm架構(gòu)升級，v9與v8版本有何差異？

在過去多年里，Arm對ISA進行了改進，也對體系結(jié)構(gòu)進行了各種更新和擴展。當中一些可能很重要，有些可能也是一瞥而過。 ?

? 近日，作為Arm的Vision Day活動的一部分，該公司正式發(fā)布了該公司的新一代Armv9架構(gòu)的首個細節(jié)，為Arm未來十年內(nèi)成為下一個3000億芯片的計算平臺奠定了基礎。 ?

? 讀者可能會問的一個大問題是，Armv9與Armv8究竟有何不同，能讓架構(gòu)獲得如此大的提升。確實，從純粹的ISA角度來看，v9可能不像v8相比v7那樣實現(xiàn)根本性的跳躍，后者引入了AArch64，一個完全不同的執(zhí)行模式和指令集，該指令集與AArch32相比具有更大的微體系結(jié)構(gòu)分支，例如擴展寄存器，64位虛擬地址空間和更多改進。

? Armv9繼續(xù)使用AArch64作為基準指令集，但是在其功能上增加了一些非常重要的擴展，以保證architecture numbering的增加，并且允許Arm不僅可以獲得對AArch64進行某種軟件重新基準化v9的新功能，還能保持我們多年來在v8上獲得的擴展。 ? Arm認為新架構(gòu)Armv9有三個主要支柱，即安全性、AI以及改進的矢量和DSP功能。對于v9，安全性是一個非常重要的主題，我們將深入探討新擴展和功能的新細節(jié)，但是首先談到的DSP和AI功能應該很簡單。 ?

? ? 新的Armv9兼容CPU所承諾的最大的新功能可能是開發(fā)人員和用戶可以立即看到的——SVE2作為NEON的后繼產(chǎn)品。 ? 可伸縮矢量擴展（SVE）的于2016年首次亮相，并首次在富士通的A64FX CPU內(nèi)核中實現(xiàn)，該芯片已為日本排名第一的超級計算機Fukagu提供支持。SVE的問題在于，新的可變矢量長度SIMD指令集的第一次迭代的范圍相當有限，并且更多地針對HPC工作負載，缺少了許多仍由NEON涵蓋的更通用的指令。 ?

SVE2于2019年4月發(fā)布，旨在通過用所需指令補充新的可擴展SIMD指令集來解決此問題，以服務于類似DSP等目前仍在使用NEON的工作負載。 ? 除了增加的各種現(xiàn)代SIMD功能外，SVE和SVE2的優(yōu)勢還在于其可變的向量大小，范圍覆蓋了128b到2048b，讓其無論在什么硬件運行，都允許向量的可變粒度為128b。如果純粹從向量處理和編程的角度來看，這意味著軟件開發(fā)人員將只需要編譯一次其代碼，并且如果將來某個CPU帶有本地的512b SIMD execution pipelines，該代碼將能夠充分利用單元的整個寬度。同樣，相同的代碼將能夠在具有較低硬件執(zhí)行寬度能力的保守設計上運行，這對于Arm設計從物聯(lián)網(wǎng)、移動到數(shù)據(jù)中心的CPU而言至關(guān)重要。在保留Arm體系結(jié)構(gòu)的32b編碼空間的同時，它還可以完成所有這些工作。然而類似X86這樣的架構(gòu)則需要根據(jù)矢量尺寸增加新的指令和擴展。 ?

? 機器學習也被視為Armv9的重要組成部分，因為Arm認為在未來幾年中，越來越多的ML工作負載將變得司空見慣，當中包括了對性能或電源效率有至關(guān)重要要求的場景中。那就讓在專用加速器上運行ML工作負載變成長久的需要，與此同時，我們還會繼續(xù)在CPU上運行較小范圍的ML工作負載。 ? 矩陣乘法指令（Matrix multiplication instructions ）是此處的關(guān)鍵，它將代表生態(tài)系統(tǒng)中將更大范圍采用v9 CPU作為基本功能所邁出的重要一步。 ?

通常，我認為SVE2可能是保證升級到v9的最重要因素，因為它是更確定的ISA功能，可以在日常使用中與v8 CPU區(qū)別開來，并且可以保證軟件生態(tài)系統(tǒng)能夠正常運行，這與現(xiàn)有的v8堆棧有所不同。對于服務器領(lǐng)域的Arm來說，這實際上已經(jīng)成為一個相當大的問題，因為軟件生態(tài)系統(tǒng)仍在基于v8.0的軟件包基礎上，不幸的是，該軟件包缺少了最重要的v8.1大型系統(tǒng)擴展。 ? 使整個軟件生態(tài)系統(tǒng)向前發(fā)展，并假設新的v9硬件具有新的體系結(jié)構(gòu)擴展功能，這將有助于推動事情發(fā)展，并可能解決某些當前情況。

? 但是，v9不僅涉及SVE2和新指令，它還非常注重安全性，在安全性方面我們將看到一些更根本的變化。 ?

介紹機密的計算架構(gòu)

? 在過去的幾年中，安全性和硬件安全性漏洞已成為芯片行業(yè)的頭等大事，Spectre，Meltdown等漏洞的出現(xiàn)及其所有同級邊信道攻擊都表明，重新思考如何保證安全成為了一個基本需求。Arm希望用來解決這一總體問題的方法是通過引入Arm機密計算體系結(jié)構(gòu)（Arm Confidential Compute Architecture：CAA）來重新設計安全應用程序的工作方式。 ?

? 在繼續(xù)之前，我想提箱一下，今天的披露僅僅是對新CCA運作方式的高層次解釋，Arm說，有關(guān)新安全機制的確切工作原理的更多細節(jié)將在今年夏天的晚些時候公布。 ?

? CCA的目標是從當前的軟件堆棧情況中獲得更大的收益，在當前的軟件堆棧情況下，在設備上運行的應用程序必須固有地信任它們所運行的操作系統(tǒng)和虛擬機管理程序。傳統(tǒng)的安全模型是基于以下事實建立的：更高特權(quán)的軟件層被允許查看較低層的執(zhí)行，然而當操作系統(tǒng)或系統(tǒng)管理程序被以任何方式損害時，這就可能成為了一個問題。

? CCA引入了動態(tài)創(chuàng)建““realms”的新概念，可以將其視為對OS或虛擬機管理程序完全不透明的安全容器化執(zhí)行環(huán)境。系統(tǒng)管理程序?qū)⑷匀淮嬖冢珒H負責調(diào)度和資源分配。而“realm”將由稱為“ealm manager”的新實體管理，其被認為是一段新的代碼，大致大小約為hypervisor的1/10。 ? realm內(nèi)的應用程序?qū)⒛軌颉白C明”領(lǐng)域管理器以確定其是否可信任，這對于傳統(tǒng)的虛擬機管理程序而言是不可能的。 ?

? Arm并沒有深入探討究竟是什么造成了realm與操作系統(tǒng)和虛擬機管理程序的非安全世界之間的這種隔離，但聽起來確實像硬件支持的地址空間，但它們無法相互交互。 ? ?

? 使用realms的優(yōu)勢在于，它極大地減少了設備上運行的給定應用程序的信任鏈，并且OS對安全性問題變得越來越透明。與當今需要企業(yè)或企業(yè)使用帶有授權(quán)軟件堆棧的專用設備的情況相反，需要監(jiān)督控制的關(guān)鍵任務應用程序?qū)⒛軌蛟谌魏卧O備上運行。 ?

?

? MTE（memory tagging extensions）并不是v9的新功能，而是隨v8.5一起引入的，MTE或內(nèi)存標記擴展旨在幫助解決世界軟件中兩個最持久的安全問題。緩沖區(qū)溢出（Buffers overflows）和無用后使用（use-after-free）是持續(xù)的軟件設計問題，在過去的50年中，這些問題一直是軟件設計的一部分，并且可能需要花費數(shù)年的時間才能對其進行識別或解決。MTE旨在通過在分配時標記指針并在使用時進行檢查來幫助識別此類問題。 ?

未來的Arm CPU路線圖

這與v9沒有直接關(guān)系，但是與即將到來的v9設計的技術(shù)路線圖緊密相關(guān)，Arm還談到了有關(guān)他們在未來2年中對v9設計的預期性能的一些觀點。 ?

? Arm談到了移動市場在今年如何將帶有X1的設備性能提升了2.4倍（此處我們僅指ISO流程設計的IPC），該性能是幾年前推出的Cortex-A73的兩倍。

? 有趣的是，Arm還談到了Neoverse V1設計及其如何達到A72類似設計性能的2.4倍，并透露他們期待著他今年晚些時候發(fā)布的首批V1設備。 ? 對于代號為“ Matterhorn”和“ Makalu”的下一代移動IP內(nèi)核，該公司公開了這兩代產(chǎn)品的合計預期IPC增益為30％，其中不包括SoC設計人員可以獲得的頻率或任何其他其他性能增益。這實際上代表著這兩種新設計的世代增加了14％，并且如幻燈片中的性能曲線所示，這表明相對于自A76以來Arm在過去幾年所管理的工作而言，改進的步伐正在放緩。不過，該公司指出，進步速度仍然遠遠超過行業(yè)平均水平。但潭門也坦言，這被一些行業(yè)參與者拖累了。 ?

? Arm還提供了一張很有意思的幻燈片，該幻燈片旨在關(guān)注系統(tǒng)側(cè)對性能的影響，而不僅僅是CPU IP性能。從這里提供的一些數(shù)據(jù)可以看到，例如每5ns的內(nèi)存延遲中有1％的性能，這是我們現(xiàn)在已經(jīng)廣泛討論了幾代的數(shù)字，但是Arm在這里還指出，排除了是否通過改善內(nèi)存路徑，增加緩存或優(yōu)化頻率功能來改善實現(xiàn)的其他各個方面，他們可以使用整整一代的CPU性能提升，我認為這是對SoC供應商當前保守方法的一種評價，這些方法沒有充分利用X1內(nèi)核的預期性能余量，并且隨后也未達到新內(nèi)核的預期性能預測。 ?

? Arm繼續(xù)將CPU視為未來最通用的計算模塊。盡管專用的加速器或GPU將會占有一席之地，但它們很難解決一些重要問題，例如可編程性，保護性，普遍性（本質(zhì)上是在任何設備上運行它們的能力）以及經(jīng)過驗證的正常工作的能力。當前，計算生態(tài)系統(tǒng)在運行方式上極為分散，不僅設備類型不同，而且設備供應商和操作系統(tǒng)也不同。 ?

SVE2和Matrix乘法可以極大地簡化軟件生態(tài)系統(tǒng)，并允許計算工作負載以更統(tǒng)一的方法向前邁進，該方法將來將可以在任何設備上運行。 ?

? 最后，Arm還分享了有關(guān)Mali GPU未來的新信息，并透露該公司正在開發(fā)VRS等新技術(shù)，尤其是Ray Tracing。這一點令人非常令人驚訝，也表明AMD和Nvidia引入RT推動的臺式機和控制臺生態(tài)系統(tǒng)也有望將移動GPU生態(tài)系統(tǒng)推向RT。 ?

Armv9設計即將在2022年初面世

今天的公告以一種非常高級的形式出現(xiàn)，我們希望Arm在接下來的幾個月中，在公司通常的年度技術(shù)披露中，更多地談論Armv9的各種細節(jié)和新功能，例如CCA。 ? 總的來說，Armv9似乎是更基本的ISA轉(zhuǎn)變（可以看作SVE2）與軟件生態(tài)系統(tǒng)的總體重新基準的結(jié)合，以匯總v8擴展的最后十年，并為下一個十年奠定基礎Arm體系結(jié)構(gòu)。 ? Arm于去年下半年已經(jīng)談論過Neoverse V1和N2，我確實希望N2至少最終是基于v9而設計發(fā)布的。Arm進一步透露，更多基于Armv9的 CPU設計（可能是移動端Cortex-A78和X1的后續(xù)產(chǎn)品）將于今年推出，而新的CPU可能已經(jīng)被通常的SoC供應商所采用，并且有望成為在2022年初在商用設備中出現(xiàn)。 ?

審核編輯:黃飛

?