英偉達針對超大規模數據中心（Hyperscale data center）需求，推出AI推論平臺NVIDIA TensorRT。

NVIDIA指出，數據中心每天需要處理數十億的語音搜尋、翻譯、圖像、影像、推薦服務以及社群媒體互動等，上述的每一個應用皆需透過伺服器內部不同類型的神經網路來處理。為了優化數據中心的最大吞吐量以及伺服器使用率，NVIDIA TensorRT包含即時推論軟件以及Tesla T4 GPU，其處理搜尋結果的速度較單獨使用CPU快40倍。

而Microsoft與Google等數據中心服務商與Dell與HPE等數據中心伺服器廠商也都將導入。NVIDIA還預估AI推論產業將于未來五年內成長至200億美元。

NVIDIA正努力在數據中心開疆辟土，全球數據中心大多采用NVIDIA GPU，而數據中心業務雖然營收總額還不到游戲業務的一半，卻是NVIDIA各部門中成長最快的，同時也是影響股價的重要因素。

數據中心是營收成長火車頭，連兩季YoY成長至少70%

根據NVIDIA2018年第二季財報，NVIDIA第2季營收為31.23億美元，其中游戲業務第2季營收為18億美元，YoY增加52%。數據中心業務營收則是來到7.6億美元，YoY增長高達83%。而在第一季數據中心營收7.01億美元，YoY成長也高達71%，可說是NVIDIA的營收成長火車頭。

短期內，NVIDIA仍能穩坐數據中心寶座，競爭對手AMD與Intel目前與NVIDIA還有明顯差距。

AMD甫推出7納米Radeon GPU，雖然比Nvidia的7納米產品提前半年至一年推出，制程上領先，但在下游應用端要取代NVIDIA并非易事，而Intel的數據中心GPU產品也才剛起步。

短期內，NVIDIA數據中心業務保持成長火車頭沒有大太問題，但若把時間拉長到3-5年以上，則NVIDIA隱患浮現。因為全球前七大數據中心其實都正在研發自家芯片。

垂直整合，全球前七大數據中心都有「異心」

以三大云端廠商的Google、Microsoft與Amazon的數據中心來說，目前都采用NVIDIA GPU，但也都有「異心」，各自研發「非」GPU芯片，彼此保持競爭又合作的詭譎關系。而且對這些云端大廠來說，自研芯片不會僅是嘗試，而是一種趨勢，「垂直整合態勢」明顯，半導體芯片將從一般通用走向「Domain Specific（特定領域）」用途，IC設計不做標準化產品，而是跟著應用需求做產品。而這也是為什么這些科技大廠開始自行研發芯片的主因。

黃仁勛與Google的口水戰

其中又以Google的態度最為明顯，2016首次亮相的ASIC芯片Cloud TPU，供云端運算的機器學習訓練和推論使用，短短兩年已經演進到第三代，而且在2017年Google還透過論文《In -Datacenter Performance Analysis of a Tensor Processing Unit》發表、大肆宣傳，更有趣的是，論文中還拿出NVIDIA多年前舊產品Tesla K80 GPU和最新TPU的效能做比較，結果顯示TPU的速度快Tesla K80 GPU15至30倍，此舉引發NVIDIA創辦人黃仁勛不滿，特地跳出來反駁。

今年Google則延伸至終端，推出Edge TPU，供邊緣運算的推論使用。雖然目前仍為Google自家用途為大宗，但Google也在測試對外販售以「變現」的可能性（如Google在2018年2月公布開放開發者使用，Cloud TPU服務以秒計費，每小時收費6.5美元），什么時候完全對企業開放收費，業界都在關注。

而Microsoft Azure則和Intel合作，在深度學習云端平臺Project Brainwave服務中也提供以Intel FPGA為基礎架構的硬件加速服務。Amazon則也找上全球最大FPGA芯片商賽靈思（Xillinx），在Amazon Elastic Compute Cloud（Amazon EC2）中使用Virtex UltraScale+系列芯片。

中美貿易戰下，若微軟中國當真采用華為芯片，代表什么？

另一個隱憂，則是中國大陸的華為。不過華為和Google的威脅不同，華為繼寒武紀IP麒麟980芯片，成為全球焦點后，近日美國媒體《The information》指出，微軟和華為正商談，讓微軟中國數據中心采用華為AI芯片。

述媒體稱，目前尚未能確定雙方會否達成合作。一旦交易達成，這將是華為首次挑戰處于行業龍頭地位的美國AI芯片制造商英偉達（Nvidia）。

報道稱，微軟目前使用的是英偉達的芯片開發AI功能，如微軟小娜（Cortana）和必應（Bing）中的語音和臉部識別，英偉達的GPU芯片可處理大量數據，應用于深度學習中。

知情人士向上述媒體透露，華為已生產新芯片的商業樣品，該芯片能展現與英偉達芯片類似的功用。華為高層近月一直向微軟負責AI及研究的全球執行副總裁沈向洋（Harry Shum）兜售這款AI芯片。

不過，微軟的要求相當嚴格，有華為工程師正在客制化運行芯片的軟件，以達到微軟的標準，并且運用微軟的演算法測試新芯片。

事實上，對于華為而言，取代英偉達，與微軟合作，這是一個不小的挑戰。在芯片領域，英偉達作為領先的硬件生產商，影響力不可忽視。

先不論消息是否屬實，這若是純商業面的消息到還好，但若牽涉到政策面，那可就嚴重了。

美國禁止政府機構及與官方合作單位采用華為與中興相關設備與產品，那有無可能中國也以此反制，外資大廠在中國地區的數據中心業務，要采用中國AI芯片，如同蘋果iCloud在中國必須由中國廠商營運。由于中美貿易戰火持續，此時傳出此消息，不能不往政策面方向思索。