電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）近日，根據(jù)市場研究機(jī)構(gòu)PassMark對于服務(wù)器CPU 市場占有率調(diào)查的數(shù)據(jù)顯示，截至2025年一季度AMD 在服務(wù)器CPU 市場市占率首次達(dá)到50%，與競爭對手英特爾持平。根據(jù)AMD的數(shù)據(jù)顯示，自EPYC CPU推出以來，其在服務(wù)器領(lǐng)域的市場份額由2018年的2%提升到2024年上半年的34%。在持平之后未來競爭將變得更加激烈。




回看每一代AMD EPYC處理器的演進(jìn)，它們都致力于為客戶提供性能更高、能耗更省的CPU。2017年AMD推出基于Zen架構(gòu)的EPYC霄龍服務(wù)器處理器Naples，一舉打破了英特爾在服務(wù)器市場的優(yōu)勢，正式開啟高性能計(jì)算賽場的征戰(zhàn)。2019年基于Zen 2架構(gòu)的第二代霄龍Rome問世，首次將7nm先進(jìn)制程帶入數(shù)據(jù)中心。2021年，AMD發(fā)布采用Zen 3架構(gòu)的第三代EPYC霄龍服務(wù)器處理器Milan。以及后續(xù)第四代產(chǎn)品Genoa、Bergamo等，直到去年第5代EPYC CPU Turin將核心數(shù)推升至192核。


AMD抓住AI時代數(shù)據(jù)中心領(lǐng)域?qū)Ω咝阅蹸PU適配GPU以及承擔(dān)AI推理任務(wù)等需求，憑借核心密度、能效、性價比等優(yōu)勢強(qiáng)勢崛起。

CPU適配助GPU發(fā)揮潛力

GPU 加速器已成為現(xiàn)代 AI 的主力軍，在訓(xùn)練大型復(fù)雜模型和支持高效的大規(guī)模實(shí)時推理方面表現(xiàn)卓越。GPU 能夠利用其并行處理能力，加速大型和中型模型的訓(xùn)練。同時，GPU 為大規(guī)模部署的實(shí)時推理提供所需的速度和可擴(kuò)展性。但要充分發(fā)揮GPU的潛力，與合適的 CPU結(jié)合可顯著提高 AI 效率。

而這樣的CPU需要具備高頻率，快速高效地處理大量數(shù)據(jù)準(zhǔn)備和后處理任務(wù)；大容量高速緩存，便于快速訪問海量數(shù)據(jù)集；高內(nèi)存帶寬和高性能 I/O，支持 CPU 和 GPU 之間快速無縫地交換數(shù)據(jù)；高能效核心，節(jié)約功耗以供 GPU 使用，同時有助于降低整體能耗；兼容 GPU 和軟件生態(tài)系統(tǒng)，實(shí)現(xiàn)性能優(yōu)化、效率提升和流暢運(yùn)行。

AMD EPYC（霄龍）9005 系列處理器專為加速數(shù)據(jù)中心、云計(jì)算和 AI 工作負(fù)載而設(shè)計(jì)，助力企業(yè)將計(jì)算性能提升到全新水平。該處理器基于Zen5/Zen5c架構(gòu)，采用臺積電4nm/3nm工藝制造，IPC提升高達(dá)17%，最高規(guī)格為192核/384線程，運(yùn)行頻率最高可達(dá)5GHz。采用全新“Zen 5c”核心架構(gòu)可提供更高的吞吐量和更高的能源效率，與競品相比，插槽吞吐量預(yù)計(jì)可提升高達(dá)1.3倍，每瓦效能預(yù)計(jì)可提高1.3倍。每個插槽高達(dá)6TB的DDR5存儲器容量、擴(kuò)展的I/O連接性以及透過CXL2.0支援高達(dá)160條PCIeGen5通道，還支持更多安全功能。



據(jù)介紹，使用 AMD EPYC（霄龍）9005 處理器，在機(jī)架數(shù)量減少多達(dá) 86% 的情況下仍能實(shí)現(xiàn)與原有硬件相當(dāng)?shù)恼麛?shù)性能，大幅減少了物理占用空間、功耗和所需軟件許可證數(shù)量，從而為運(yùn)行全新或擴(kuò)展的 AI 工作負(fù)載騰出空間。

基于 AMD EPYC（霄龍）9005 CPU 的純CPU型服務(wù)器能夠高效處理大量 AI 工作負(fù)載，如具有 130 億個及以下參數(shù)的語言模型、圖像和欺詐分析或推薦系統(tǒng)。與上一代產(chǎn)品相比，運(yùn)行兩個第五代 AMD EPYC（霄龍）9965 CPU 的服務(wù)器可實(shí)現(xiàn)高達(dá)2倍的推理吞吐量提升。

作為CPU AI 平臺，基于 AMD EPYC（霄龍）處理器的服務(wù)器可高效運(yùn)行推理工作負(fù)載，滿足各類模型和應(yīng)用場景的需求。AMD EPYC（霄龍）CPU 具有出色的靈活性，可充分滿足從實(shí)時推理到批量推理或離線推理等的一系列需求。

以 FP32 精度運(yùn)行常用的梯度提升模型 XGBoost（Higgs 數(shù)據(jù)集）時，基于 192 核 AMD EPYC（霄龍）9965 處理器的雙路服務(wù)器的推理吞吐量（平均每小時運(yùn)行次數(shù)）是原有解決方案的 3 倍之多。

AMD EPYC（霄龍）9005 系列中的有些型號經(jīng)過專門優(yōu)化，在搭載 GPU 的系統(tǒng)中用作主機(jī) CPU時可幫助提高特定 AI 工作負(fù)載的性能，從而提高每臺 GPU 服務(wù)器的投資回報(bào)率。例如，運(yùn)行 Llama3.1-70B 時，在相同情況下使用高頻 AMD EPYC（霄龍）9575F 處理器且搭載 8 個 GPU 的服務(wù)器在系統(tǒng)性能上可提升高達(dá) 20%。
五大CPU推理負(fù)載

AI 推理是指將經(jīng)過訓(xùn)練的 AI 模型應(yīng)用于全新數(shù)據(jù)并據(jù)此做出預(yù)測。AMD 具有一系列專為 AI 推理打造的出色解決方案，可適應(yīng)不同模型大小并勝任不同的應(yīng)用需求。對于需要盡量接近數(shù)據(jù)源的中小型 AI 模型和工作負(fù)載而言，AMD EPYC（霄龍）處理器是適合之選。對于延遲不會造成重大影響的批處理或離線處理應(yīng)用而言，AMD EPYC（霄龍）處理器是可以滿足推理需求的高性價比解決方案。

具體來看，一個現(xiàn)代的數(shù)據(jù)中心必須支持多種AI工作負(fù)載，而這些工作負(fù)載中很少有是完全相同的。通過精心配置，數(shù)據(jù)中心可以在成本較低的CPU上支持許多AI服務(wù)，并將預(yù)留的GPU用于更繁重的工作負(fù)載。

傳統(tǒng)的機(jī)器學(xué)習(xí)算法無法從并行計(jì)算GPU中受益，使用決策樹、隨機(jī)森林和線性統(tǒng)計(jì)模型的機(jī)器學(xué)習(xí)任務(wù)能從多核心CPU中受益而通常并不充分利用并行計(jì)算GPU所提供的優(yōu)勢。如果情感分析、文本和圖像分類、欺詐檢測或時間序列預(yù)測等工作負(fù)載在您的負(fù)載中占很大比例，那么配備最高可用核心數(shù)的CPU將是一個明智的投資選擇。

模式識別和深度學(xué)習(xí)視覺模型在CPU上表現(xiàn)良好。面部識別、物體檢測、圖像分類、熱圖分析，乃至缺陷和異常檢測，都可以在GPU上以極快的速度運(yùn)行，但可能并不一定需要達(dá)到那樣的響應(yīng)速度。在企業(yè)級和邊緣用例的規(guī)?；瘓鼍跋拢珻PU通常也能相當(dāng)高效地處理視覺任務(wù)。

在內(nèi)存密集型圖分析方面，對于大型數(shù)據(jù)集的圖分析，CPU通常優(yōu)于GPU。復(fù)雜網(wǎng)絡(luò)如社交網(wǎng)絡(luò)、IT系統(tǒng)、物流和供應(yīng)鏈等擁有復(fù)雜的節(jié)點(diǎn)、交互和模式，最適宜用圖算法進(jìn)行分析。它們還能生成龐大的數(shù)據(jù)集。CPU擁有直接且低延遲的訪問系統(tǒng)RAM的能力，這使得它們能夠在內(nèi)存中處理大型數(shù)據(jù)集，從而省卻了與存儲設(shè)備的讀寫循環(huán)。選擇擁有最高可用內(nèi)存速度和容量的CPU以獲得最佳性能。

小型到中型推薦系統(tǒng)上，CPU非常適合實(shí)時推薦引擎。頻率更高、核心數(shù)量更多的CPU為推薦系統(tǒng)提供了足夠的并行化和處理速度。對于實(shí)時的推薦系統(tǒng)，應(yīng)選擇具備大緩存、支持高速RAM且能充分利用系統(tǒng)內(nèi)存的CPU。

此外，CPU為特定任務(wù)微調(diào)模型可以顯著減少其占用空間。諸如參數(shù)高效微調(diào)(PEFT)和低秩適應(yīng)(LORA)等技術(shù)能夠?qū)⒋笮屯ㄓ媚Ｐ娃D(zhuǎn)化為更小、更高效的模型，從而提供高度準(zhǔn)確的結(jié)果。在特定知識庫(如產(chǎn)品目錄、技術(shù)文檔或托管文件)上經(jīng)過微調(diào)的模型，能夠支持在CPU上高效運(yùn)行的專家代理、聊天服務(wù)和決策應(yīng)用。

更省能耗和空間的方案

單顆AMD EPYC基于9005 CPU的服務(wù)器可以完成超過7臺2019年款的英特爾Xeon?Platinum服務(wù)器的工作量，這有助于降低能源消耗并縮小數(shù)據(jù)中心占地面積，騰出空間用于新的服務(wù)器基礎(chǔ)設(shè)施，以滿足日益增長的AI工作負(fù)載需求。

將1,000臺基于Intel Xeon Platinum 8280 CPU的服務(wù)器替換為127臺基于EPYC 9965 CPU的服務(wù)器，以提供391,000單位的整數(shù)性能，這將使電力消耗減少多達(dá)69%，在五年期間節(jié)省多達(dá)340萬美元的能源賬單。

AMD已將硬件創(chuàng)新聚焦于AI領(lǐng)域，提供了諸如AMDInstinct這樣的優(yōu)化解決方案。加速器與EPYCCPU相結(jié)合，可幫助您最大限度地發(fā)揮在AI領(lǐng)域的投資效益。例如，一個由1,000個節(jié)點(diǎn)組成的AI集群，使用了8xAMD Instinct MI300X加速器與EPYC 9575FCPU，在運(yùn)行Llama 3.1-70B（128/2048 I/O tokens,FP8)時，相比使用Intel Xeon Platinum 8592+ CPU的同規(guī)模集群，每秒可處理最多70萬個tokens。

通過測試AMDEPYC9575Fvs.IntelXeon8592+在AMDInstinctMI300x和基于NVIDIA H100 GPU的系統(tǒng)，可以看到AMD EPYCCPU 降低了推理延遲，提高GPU的利用效率。

在Llama 3.1和Mixtral等AI模型上，基于AMD Instinct? MI300 GPU的系統(tǒng)平均推理時間快了9%。在Llama3.1和Mixtral等AI模型上，8個Nvidia H100 GPU系統(tǒng)平均推理時間快了8%。




小結(jié)：

AMD2025年一季度營收達(dá)74.38億美元，同比增長36%，凈利潤為15.66億美元，同比增幅達(dá)55%。其中數(shù)據(jù)中心業(yè)務(wù)表現(xiàn)尤為突出，一季度營收37億美元，同比增長57%，超出預(yù)期的36億美元。AMD預(yù)計(jì)二季度營收在71億至77億美元之間，中值為74億美元，略高于分析師預(yù)期的72.4億美元。

得益于人工智能產(chǎn)業(yè)的爆發(fā)式增長，以及AMD產(chǎn)品競爭力的提升，后續(xù)有望在數(shù)據(jù)中心處理器市場持續(xù)擴(kuò)大份額。