由人工智能專家和計算機公司組成的聯盟MLPerf發布了一組新的機器學習記錄。這些記錄是在一系列衡量推理速度的基準上設定的：一個已經訓練過的神經網絡能多快地用新數據完成任務。手機和平板電腦的基準測試首次受到質疑。據MLPerf母公司執行董事David Kanter透露，一款可下載的應用程序正在研制中，它將允許任何人測試自己智能手機或平板電腦的人工智能能力。

MLPerf的目標是提供一個公平和直接的方法來比較人工智能系統。包括戴爾、英特爾和英偉達在內的23家機構共提交了1200份調查結果，這些結果經過了同行評審，并接受了隨機的第三方審計。（谷歌在這一輪明顯缺席。）正如去年夏天發布的培訓人工智能的MLPerf記錄一樣，Nvidia是主導力量，在數據中心和邊緣計算系統的所有六個類別中都超過了競爭對手。包括思科（Cisco）和富士通（Fujitsu）等合作伙伴提交的報告，該公司的數據顯示，共有1029份報告使用了Nvidia芯片，占edge和數據中心類別總數的85%。

“Nvidia在每項測試中都表現出色，”Nvidia加速計算產品管理高級總監Paresh Kharaya說。Nvidia的A100 GPU為其在數據中心領域的勝利提供了動力，而其Xavier則是GPU制造商在邊緣計算領域取得勝利的幕后推手。根據Kharaya的說法，在新的MLPerf基準之一深度學習推薦模型（Deep Learning Recommendation Mode，DLRM）中，一個DGX A100系統相當于1000個基于CPU的服務器。

今年引入了四個新的推斷基準，加上上一輪遺留下來的兩個：

BERT，是一個由Google貢獻的自然語言處理人工智能。給出一個問題輸入，BERT預測一個合適的答案。

DLRM，是一個經過訓練優化點擊率的推薦系統。它用于推薦網上購物的商品，并對搜索結果和社交媒體內容進行排名。Facebook是DLRM代碼的主要貢獻者。

3D U-Net，在醫學成像系統中被用來判斷MRI掃描中哪些3D體素是腫瘤的一部分，哪些是健康組織。它是根據腦瘤數據集訓練的。

RNN-T，是一種用于遞歸神經網絡傳感器的語音識別模型。給定一個語音輸入序列，它預測相應的文本。

除了這些新指標之外，MLPerf還為移動設備制定了第一套基準測試，這些基準用于測試聯發科（MediaTek）、高通（Qualcomm）和三星（Samsung）的智能手機和平板電腦平臺，以及英特爾（Intel）的筆記本電腦。新的基準包括：

MobileNetEdgeTPU，一個圖像分類基準，被認為是計算機視覺中最普遍的任務。它代表了一個照片應用程序如何能夠識別出你或你朋友的臉。

SSD-MobileNetV2，用于MobileNetV2的單次多盒檢測，經過訓練可在300x300分辨率的輸入幀中檢測80種不同的對象類別。在視頻中實時跟蹤和識別物體。

DeepLabv3+MobileNetV2，這是用來理解虛擬現實和導航等場景的，它在計算攝影應用程序中扮演著重要角色。

MobileBERT，是自然語言處理BERT模型的一個更大的移動優化變體，它針對問題回答進行了微調。給定一個問題輸入，MobileBERT生成一個答案。

Image: NVIDIANvidia’s A100 swept the board in AI inferencing tasks where the data was available all at once (offline) or delivered as it would be in online (server).

Kanter稱，這些基準測試是在一個專門構建的應用程序上運行的，每個人都應該在幾個月內就可以使用。

近日公布的結果被稱為0.7版本，目前該組織仍在加大力度完善內容。1.0版本可能在2021年完成。

責任編輯：xj

原文標題：NVIDIA再次打破MLPerf基準測試的性能記錄

文章出處：【微信公眾號：IEEE電氣電子工程師學會】歡迎添加關注！文章轉載請注明出處。