本站原創，作者：章鷹，電子發燒友執行副主編。

AI芯片行業是全球科技行業最惹人注目的賽道，在這條賽道上，英偉達公司已經耕耘10多年，最近，這家以GPU加速計算為核心競爭力的公司遭遇了兩件煩心事：一是，英偉達三季度財報公布后，加密貨幣業務市場需求下降導致GPU庫存問題，影響未來業績展望，二是美國商務部工業安全局針對關鍵新興和基礎技術和相關產品地出口管制框架地提案征求開始，涉及AI技術、AI芯片、微處理器和量子技術等14個領域，英偉達股價受到沖擊，跌幅達到了高峰期的50%。

圖1：NVDIA 創始人兼首席執行官黃仁勛

11月21日，在蘇州金雞湖國際會議中心，英偉達GTC大會現場，5000多人的大會現場人頭攢動，英偉達CEO黃仁勛顯然沒有受到外部市場干擾，他帶來激情四溢的演講，他強調指出三大趨勢：第一、摩爾定律已經失效，影響全球的計算行業，各行各業的計算需求與傳統計算極限之間逐漸擴大的差距，英偉達徹底改變計算方式，首創GPU加速計算模型，滿足開發人員的需求，并幫助他們實現飛躍；第二、AI將改變HPC和超大規模計算，科學家正在融合物理模擬和AI預測方法來創建數量級更大的模型。HPC正在成為AI計算機，并且為科學家、數據科學家和AI開發者所用。第三、AI讓世界變得更加自動化，AI將賦能所有移動的機器，數十億汽車，數百萬輛汽車，接駁車，建筑機械以及數十億工業和服務機器人都將具備自主能力。

黃仁勛表示，英偉達正在重塑計算機圖形和未來計算，以及人工智能如何通過自主機器，實現工廠和物流現場自動化，電子發燒友記者注意道，在云端訓練和未來高性能計算重塑，英偉達做了完整的布局。

云端訓練推出重量級產品：T4和HGX-2 GPU加速平臺

云計算正在進入算力時代，云計算、大數據、物聯網、人工智能等信息技術的快速發展和傳統產業的數字化轉型，推動數據呈現幾何級增長，帶來了大量可處理的數據存量和知識。

據IDC數據，2020年全球公有云在算力投資比例將超過10%，成為資本開支重點。全球服務器市場總體呈現高景氣，量價齊升，下游的公有云廠商加速算力投資趨勢明顯。傳統大型算力需求主要通過超算中心的方式來實現，主要依托國家和大型機構投資，最近三年各大型公有云廠商包括Amazon、阿里巴巴均推出HPC超算業務，其戰略布局云計算算力業務的方向明確。

據測算，公有云算力投資比例從2014年的0.01%增長至2020年的11.75%，除了提供傳統的存儲服務外，主要的云廠商逐漸配置其計算能力，增加算力投資，同時私有云和傳統IT領域的算力配置也將逐步成為標配。

針對云計算中心對于算力的不同層次需求，NVDIA采取了雙重戰略：第一，向上擴展，與百度、騰訊和阿里巴巴合作，NVDIA推出了V100 HGX-2，一個具備強大算力的高性能系統，既可做科學計算，也可做人工智能計算，能夠處理海量的數據，解決為數不多的大問題；第二，橫向擴展，NVIDIA推出T4 GPU產品，這是一臺小型計算系統、超大能量，功耗低，可以進行大規模的數據中心的部署。

圖2：HGX-2橫空出世

黃仁勛幽默地說，HGX-2板子有點重，HGX-2大概300鎊-400鎊，連接8個 V100 GPU，通過NVLink連接，總共1 PFLOPS。每個 GPU 以 300 GB / s的速度與其他 GPU 通信，并且以每秒8 TB的速度訪問所有 256 GB 的顯存，其他計算機節點沒有能力提供這么強大的能力。400臺服務器被他手上HGX-2系統主板代替了。

比起它強大的功能，HGX-2重量已經不是焦點。NVIDIA 的 HGX-2 在單節點中能夠提供 2 千萬億次的計算性能，與僅使用 CPU 的服務器相比，它將 AI 機器學習工作負載的運行速度提升近 550 倍，將 AI 深度學習工作負載的運行速度提升近 300 倍，將高性能計算工作負載的運行速度提升近 160 倍。

華為、騰訊、百度和浪潮等國內主流云計算和服務器廠商均采用這個平臺，華為智能計算業務部總裁邱隆表示，NVIDIA GPU計算平臺在AI、HPC等數據科學計算領域擁有領先優勢，作為NVIDIA HGX-2 的合作伙伴，華為將基于HGX-2架構為用戶提供強大的計算性能，以滿足各類AI和高性能計算應用。

接著，在GTC大會上，黃仁勛重磅發布了T4處理器。T4 基于全新 NVIDIA TuringTM 架構，采用多精度 Turing Tensor Core和全新 RT Core，與加速的容器化軟件堆棧相結合，提供規模空前的性能。70 瓦特 T4 GPU 大致相當于一條巧克力糖的大小，可靈活適應于標準服務器或任何開放計算項目的超大規模服務器設計。

T4 的多精度功能可支持 4 種不同精度等級的各類 AI 工作負載，助力實現突破性的 AI 性能，FP32精度能夠提供 8.1 TFLOPS，FP16 精度能夠提供 65 TFLOPS，INT8 精度能夠提供 130 TOPS，INT4精度能夠提供 260 TOPS。針對 AI 推理工作負載，配備 2 個 T4 GPU 的單個服務器最多可取代 54 臺 CPU 服務器。針對 AI 訓練，配備 2 個 T4 的單個服務器可取代 9 臺雙套接字 CPU 服務器。T4 GPU僅僅是開始，容器化的TRT推理服務器今天開源，可以在Kubernetes運行。

NVDIA全球副總裁、中國區總經理張建中對電子發燒友記者表示，今年T4推出，在推理方面也非常出色，眾多互聯網公司，包括頭條、美團、小米等，以及電信、金融等領域廠商都開始在數據中心采用NVDIA的產品。我們對未來三年國內的數據中心業務發展都是非常樂觀的。

發布RAPIDS機器學習加速堆棧

黃仁勛在GTC大會上指出，機器學習比深度學習市場更為廣闊。據分析師估計，面向數據科學和機器學習的服務器市場每年價值約為 200 億美元，加上科學分析和深度學習市場，高性能計算市場總價值大約為 360 億美元。

RAPSID發布于2018年10月10日的GTC Europe大會上，是一款針對數據科學和機器學習的GPU加速平臺，它為數據科學家提供標準化的流水線式工具，數據處理速度較僅用CPU提升50倍。

機器學習典型地應用場景，比如在電商系統，亞馬遜借助機器學習來改善用戶對其業務的使用體驗，包括產品推薦，替代性產品預測，欺詐檢測，元數據驗證與知識獲取。又比如醫療等行業中有大量結構化數據，平安國保險業巨頭平安集團，其擁有近1.8億個人用戶，為深入洞察欺詐檢測等問題或預測人群疾病，平安科技數據科學家團隊除了自身獨特地機器學習算法，也用到scikit-learn常用機器學習庫，最近，平安科技使用了RAPSID，這個新開源地GPU加速平臺，使用RAPSID和GPU加速PCA和DBSAN之后，工作執行流程加快了80倍，數據訓練和加載時間從幾天縮短到幾個小時，這些都加速了公司做主動預測并完善預防計劃。

黃仁勛表示，RAPIDS目前已經被非常廣泛的采用，比如華大基因、中國移動、平安科技等中國公司都宣布引入它進行機器學習加速。

最后，黃仁勛介紹說，NVIDIA AGX系列，還有面向自主機器、機器人的XAVIER處理器現已全面投產。眾多車企都在圍繞自動駕駛進行開發，放眼2020或是2021年的市場競爭格局，整個行業正在快速變化當中，人工智能從根本上推動了這個改變。大家可以看到NVDIA把人工智能融入到計算機圖形到高性能計算，到自主機器和自動駕駛。