近日，國(guó)際權(quán)威AI性能基準(zhǔn)評(píng)測(cè)平臺(tái)MLPerf發(fā)布最新推理（Inference v2.0）測(cè)試成績(jī)，總計(jì)超過(guò)10家國(guó)際知名服務(wù)器廠商的數(shù)十種產(chǎn)品參與了本次測(cè)試。其中，寧暢X640 G40、X660 G45 、X620 G40人工智能服務(wù)器，在Closed（封閉）賽段的3D-UNet99（圖像分割）、SSD-large（目標(biāo)檢測(cè)重量級(jí)）與Bert-99（自然語(yǔ)言處理）等模型測(cè)試中性能表現(xiàn)出色，共獲得59項(xiàng)第一成績(jī)。

MLPerf基準(zhǔn)測(cè)試在國(guó)際AI領(lǐng)域有極高影響力，其基準(zhǔn)聯(lián)盟已有谷歌、Intel、NVIDIA、微軟、Facebook等超50家成員。MLPerf Inference v2.0 AI基準(zhǔn)測(cè)試包括Datacenter（數(shù)據(jù)中心）和Edge（邊緣）兩大場(chǎng)景，參與測(cè)試的各計(jì)算系統(tǒng)基于同一套參數(shù)運(yùn)行。

X640 G40獲得Datacenter組全場(chǎng)第一

搭載NVIDIA A100 Tensor Core 80GB GPU，寧暢X640 G40 在Closed（封閉）賽段所有已發(fā)布的產(chǎn)品中，獲得10項(xiàng)Datacenter組總體性能第一成績(jī)，也是本次測(cè)試中的全場(chǎng)第一。

最新的MLPerf Inference v2.0設(shè)置了不同領(lǐng)域的Benchmark子項(xiàng)，貼近前沿AI應(yīng)用場(chǎng)景。X640 G40在3D-UNet99（圖像分割）、SSD-large（目標(biāo)檢測(cè)重量級(jí)）、Rnnt（語(yǔ)音辨識(shí)）和Bert-99（自然語(yǔ)言處理）等多個(gè)經(jīng)典模型測(cè)試中均取得高光表現(xiàn)。

擁有強(qiáng)勁性能的寧暢X640 G40可針對(duì)不同AI場(chǎng)景和訓(xùn)練模型進(jìn)行互聯(lián)優(yōu)化，滿足不同類型客戶需求。其中，SSD-large模型在線分?jǐn)?shù)8994.9、離線分?jǐn)?shù)9279.37，這一成績(jī)代表了寧暢X640 G40每秒可完成9200多張圖片中信息的分類、定位與精準(zhǔn)檢測(cè)，且可應(yīng)答近9000次實(shí)時(shí)目標(biāo)檢測(cè)的推理任務(wù)；Rnnt模型離線分?jǐn)?shù)為127213，代表寧暢X640 G40每秒可完成12萬(wàn)次語(yǔ)音的識(shí)別請(qǐng)求。

X660 G45拿下Edge組單項(xiàng)性能冠軍，Datacenter組同配置7項(xiàng)第一

所有產(chǎn)品中，寧暢X660 G45搭載NVIDIA A100 Tensor Core 80GB GPU，在SSD-Mobilenet（目標(biāo)檢測(cè)移動(dòng)端）模型測(cè)試的Multi-Stream（多數(shù)據(jù)流）場(chǎng)景中，以0.44成績(jī)擊敗所有參賽產(chǎn)品，獲第一成績(jī)。同時(shí)， X660 G45還取得Datacenter組同配置的7項(xiàng)第一，在SSD-large、ResNet、Bert-99、Dlrm -99（智能推薦）四項(xiàng)任務(wù)中都實(shí)現(xiàn)了極佳的性能結(jié)果。其ResNet得分在線為286，030、離線為316，636，代表寧暢X660 G45能夠每秒完成超過(guò)30萬(wàn)張圖片中各個(gè)事物類別的海量識(shí)別。

X660 G45是專為深度學(xué)習(xí)訓(xùn)練開(kāi)發(fā)的高性能計(jì)算平臺(tái)，采用600GB/s的NVLink總線高速互聯(lián)，每個(gè)GPU還可搭配HDR 200Gb/s InfiniBand網(wǎng)絡(luò)和NVMe SSD高速緩存，幫助用戶搭建GPU高速集群，同時(shí)結(jié)合近500TB的本地存儲(chǔ)容量，可極大縮短AI模型訓(xùn)練時(shí)間。

X620 G40贏取Datacenter組同配置15項(xiàng)第一

本次測(cè)評(píng)中，搭載4顆NVIDIA A2 Tensor Core的寧暢X620 G40獲得Datacenter組同配置15項(xiàng)第一的成績(jī)。X620 G40在SSD-large、ResNet、3D-UNet99、Bert-99、Rnnt和Dlrm-99等幾乎所有模型測(cè)試中都取得優(yōu)異成績(jī)，充分證明產(chǎn)品在推理性能上出類拔萃，能夠應(yīng)對(duì)各種復(fù)雜的 AI 挑戰(zhàn)。

X620 G40作為一款2U高度人工智能服務(wù)器，支持PCIe4.0高速總線技術(shù)，適配NVIDIA各類GPU加速卡，是理想AI推理計(jì)算平臺(tái)，同時(shí)還可勝任桌面虛擬化、云游戲和視頻流轉(zhuǎn)碼等多IT行業(yè)用途需求。此外，X620 G40還具備關(guān)鍵部件健康狀態(tài)監(jiān)控和上報(bào)功能，可以為數(shù)據(jù)中心運(yùn)維保駕護(hù)航。

此次MLPerf Inference v2.0榜單的發(fā)布，進(jìn)一步彰顯了寧暢在AI服務(wù)器領(lǐng)域的實(shí)力地位。以此為依托，寧暢將持續(xù)推動(dòng)技術(shù)創(chuàng)新，不斷深入各種AI應(yīng)用場(chǎng)景，以智能定制算力賦能用戶更好發(fā)展。