魔幻的2020年,IT基礎架構遭遇重大挑戰。新冠疫情下,不得已保持的社交距離對生活、工作帶來了徹底改變,從在線購物、文娛、社交,到工作、學習,人們對網絡的依賴幾乎遍布生活的方方面面。
算力成為當前的剛需,重度依賴之下,支撐起網絡的整個基礎設施正在發生重構。晶體管不是終極解決方案,眼下最重要的,是讓算力資源可分配、可調度。由軟件虛擬化技術帶來的改變立竿見影,虛擬化GPU有望加速走向規模應用。
NVIDIA中國區高級技術市場經理施澄秋告訴<電子發燒友>,桌面虛擬化是同樣的道理。傳統的實體計算設備(例如臺式電腦,筆記本電腦或服務器)使用GPU執行復雜的運算流程,例如運行3D應用程序或視頻直播。但是對于遠程辦公的專業人員來說,這并不是理想之選,因為GPU與實體設備綁定會限制移動性和靈活性。許多遠程工作的用戶,可能沒有一個性能、儲存容量都非常強大的本地設備,所以需要把應用程序、甚至桌面都推到云端及虛擬化產品上。
NVIDIA方面預測,今年在疫情的情況下,雖然由于實體渠道的種種限制或法律條規的管控,零售、實體行業對于GPU的需求可能略微降低,但此消彼漲,數據中心的需求會更顯旺盛,企業端對于GPU的需求,可能比以往更猛烈。
判斷依據是,當前情況下,企業會前所未有地重視在數據中心或公有云的GPU部署,因為越來越多的應用會遷移到云端虛擬化的工作場景中。無論是企業內部還是給企業客戶應用,都有越來越多的圖形圖象依賴性。尤其是5G普及之后,用戶需求更多元化、對質量要求更高,也許傳統情況下提供一張圖就行,未來要提供動畫;或是以前提供簡單的動畫就可以,未來要提供電影級渲染的動畫。遠程辦公虛擬化是一個比較重要的解決思路,它可以幫助人們在遠程辦公時還能享受到GPU加速的便利性。
虛擬機存在已久,為什么過去只虛擬化了CPU而沒有GPU?施澄秋表示,主要是用戶沒有認識到必要性。就像過去相當長時間存在的用集顯的筆記本電腦,NVIDIA通過種種演示和案例證明了“有GPU相對于沒有GPU可以帶來生產力的提升”,今天廣大用戶終于體會到了獨顯的重要性。虛擬機用戶也是如此,以為有了虛擬桌面可以跑企業的各種應用就好了,有CPU足以,但是發現跑起來慢如蝸牛,于是虛擬化GPU的需求就理所當然的體現出來了。
黃仁勛在眾多場合“帶貨GPU”時都提到過,“你買的越多,你省的越多。”施澄秋認為這不是一個玩笑,也不是一個梗,是NVIDIA實實在在幫助用戶節約IT投資的一個真實舉措。無論是AI、模擬、渲染,都能夠相較于傳統的CPU節點服務器,給用戶節約大量的成本。因此他建議,不僅要有虛擬化的CPU,更重要的是要有虛擬化的GPU,可以幫助用戶在虛機上體驗到以前實體工作站、實體超算的PC工作站或者實體的圖形工作站上都能享受到的GPU加速的性能。
(1)NVIDIA GRID虛擬PC/應用程序:面向知識工作者,通過GPU為遠程用戶提供虛擬化系統和應用程序,能提供與有獨顯的實體電腦相似的性能,實現響應級虛擬桌面基礎架構(VDI),最大限度優化圖表、視頻等典型辦公應用。
(2)NVIDIA Quadro虛擬數據中心工作站(Quadro vDWS):面向使用高級圖形應用程序的創作者和技術專業人員,從數據中心提供工作站級的GPU加速性能,有助于分散在各地的團隊進行協作,通過任意設備實時安全地訪問應用程序和數據。
以前做虛擬化技術,只能把一個GPU虛擬成多個GPU給很多個用戶去使用。但今天可以反向虛擬化這個GPU,把多個物理的GPU虛擬成一個更大、更強勁的GPU給一個特定的用戶使用。也就是說,可以分散GPU負載、也可以堆疊,也可以快速、大規模共享數據,而這些數據全部可以提供給用戶最新、前端的、用戶端的需求。比如10比特的色彩精度支持,以前需要一個專業的Quadro圖形工作站配合顯示設備才可以實現,但是現在Quadro vDWS就可以做到。
從性能來看,如果使用8個Quadro RTX 8000顯卡搭配Quadro vDWS軟件,算力可提升至CPU的16倍,能大幅減少渲染時間。
從生態來看,Quadro vDWS現支持主流的ISV應用程序及管理監控工具,可從NVIDIA經認證的服務器方案中獲取。
(3)NVIDIA Virtual Compute Server軟件:數據中心管理員可以在虛擬環境中的GPU服務器上運行AI工作負載,通過GPU加速服務器虛擬化,支持AI、深度學習、數據科學和高性能計算服務器虛擬化。
借助NVIDIA Virtual Compute Server (vComputeServer),用戶可以獲得運行這些工作負載所需的GPU加速性能。數據中心管理員可以在虛擬環境中的GPU服務器上運行AI工作負載,進一步提升了計算的安全性、利用率和可管理性。IT管理員能夠讓GPU加速虛擬化服務器的管理變得更為簡單,同時還能保留現有的工作負載,并降低總體運營成本。與僅使用CPU的服務器相比,基于4顆NVIDIA V100 GPU的vComputeServer將深度學習的速度提高了50倍,性能接近于裸機水平。
在云端、企業數據中心以及傳統臺式機、移動工作站,NVIDIA Quadro均可實現設計和工程應用的加速。據悉,全球90%的專業工作站均由英偉達Quadro提供加速能力。
施澄秋介紹,移動、遠程需求下,應運而生的還有NVIDIA RTX Studio,其品牌承諾就是做一個開放式的平臺,采用Windows架構,是一個標準的可以安裝所有超過數百款已有的ISV程序的情況下。NVIDIA RTX Studio可以讓創意和設計用戶在超過200款RTX產品上利用GPU加速渲染,其中又有45款可以利用RTX技術、最新一代NVIDIA技術里的各式各樣的核心,幫助他們做應用程序的加速,包括AI應用程序和實時光線追蹤。
此外還有NVIDIA RTX SERVER虛擬化技術。這個技術是在多個NVIDIA Quadro RTX GPU的基礎上,堆疊大量GPU,借助GPU共享,單個GPU可以為多個虛擬機提供動力,最大程度地提高利用率和負載能力,滿足從AI和深度學習到數據科學和高性能計算的需求。
由于疫情原因,NVIDIA一年一度的GTC大會改成了線上的模式。這意味著,數百場的技術演講、技術展示、案例演示,甚至包括幫助用戶上手實操的模擬實驗室的環境,都需要在云端上進行搭建。這一系列在云端的講堂、實驗室就是典型的分布式遠程移動工作和大規模用戶同時去存取云端資源的一個案例,也是一個遠程辦公的體驗。
針對上述問題,NVIDIA提出了全新的解決方案。在Quadro RTX以及硬件上做了全新一代的升級,最大可以支持實時8K的RED格式的加密和解密。當然,這還要依賴于網絡跳轉路由節點和整個延遲的降低,這都需要全方位的強化。施澄秋指出,國內正大規模地普及5G,所以這個痛點也會得到較好的解決,今天把GPU虛擬化到桌面,可能比以往更容易。
由于5G的普及,移動辦公的便利性得到提升,桌面虛擬化的需求一定比以往更為興盛。施澄秋認為,企業虛擬化GPU的側重點主要是:便于大規模部署、便于大規模實時在線熱遷移和熱管理,因此他們會更大程度上考慮可管理性、易用性和可擴展性。
至于大規模的虛擬化部署會不會影響到NVIDIA實體GPU的使用?施澄秋認為,二者始終是相輔相成的。不論是云端還是實體端、不論是遠端是本地端,GPU的需求始終旺盛。也可以由此反推到用戶的使用習慣,今天的用戶大部分都不只有一個電子設備。就像雙卡雙待手機的發展,今天幾乎99%的手機具備這一功能,就連蘋果也做雙卡雙待了,這主要由用戶需求的多樣性決定的。NVIDIA認為本地的GPU需求,不會因為虛擬化GPU極速降低,會持續在兩條線上耕耘下去。
NVIDIA在此時加大虛擬化GPU的投入力度,再一次實現了從單純的硬件產品向提供服務的方式進行轉變,這也符合NVIDIA一直以來軟件化的發展路線。
套用微信小程序的成功邏輯,當網絡帶寬不再成為限制的前提下,即使在配置不夠高的桌面端,也能進行高算力的工作或娛樂,這將是GPU未來的重要應用場景。
本文由電子發燒友網原創,未經授權禁止轉載。如需轉載,請添加微信號elecfans999.
算力成為當前的剛需,重度依賴之下,支撐起網絡的整個基礎設施正在發生重構。晶體管不是終極解決方案,眼下最重要的,是讓算力資源可分配、可調度。由軟件虛擬化技術帶來的改變立竿見影,虛擬化GPU有望加速走向規模應用。
企業端對GPU的需求將比以往更強烈
為什么遠程辦公需要“桌面虛擬化”或“應用程序虛擬化”?借用微信小程序來理解,就是將應用程序推到云端,在手機上虛擬化一個界面,通過小程序連網就可以使用,而無需在本地安裝APP。盡管智能手機已經非常普及了,但是硬件配置千差萬別,小程序對于存儲能力不是很強的手機,帶來的體驗改善是顯而易見的。NVIDIA中國區高級技術市場經理施澄秋告訴<電子發燒友>,桌面虛擬化是同樣的道理。傳統的實體計算設備(例如臺式電腦,筆記本電腦或服務器)使用GPU執行復雜的運算流程,例如運行3D應用程序或視頻直播。但是對于遠程辦公的專業人員來說,這并不是理想之選,因為GPU與實體設備綁定會限制移動性和靈活性。許多遠程工作的用戶,可能沒有一個性能、儲存容量都非常強大的本地設備,所以需要把應用程序、甚至桌面都推到云端及虛擬化產品上。
NVIDIA方面預測,今年在疫情的情況下,雖然由于實體渠道的種種限制或法律條規的管控,零售、實體行業對于GPU的需求可能略微降低,但此消彼漲,數據中心的需求會更顯旺盛,企業端對于GPU的需求,可能比以往更猛烈。
判斷依據是,當前情況下,企業會前所未有地重視在數據中心或公有云的GPU部署,因為越來越多的應用會遷移到云端虛擬化的工作場景中。無論是企業內部還是給企業客戶應用,都有越來越多的圖形圖象依賴性。尤其是5G普及之后,用戶需求更多元化、對質量要求更高,也許傳統情況下提供一張圖就行,未來要提供動畫;或是以前提供簡單的動畫就可以,未來要提供電影級渲染的動畫。遠程辦公虛擬化是一個比較重要的解決思路,它可以幫助人們在遠程辦公時還能享受到GPU加速的便利性。
虛擬機存在已久,為什么過去只虛擬化了CPU而沒有GPU?施澄秋表示,主要是用戶沒有認識到必要性。就像過去相當長時間存在的用集顯的筆記本電腦,NVIDIA通過種種演示和案例證明了“有GPU相對于沒有GPU可以帶來生產力的提升”,今天廣大用戶終于體會到了獨顯的重要性。虛擬機用戶也是如此,以為有了虛擬桌面可以跑企業的各種應用就好了,有CPU足以,但是發現跑起來慢如蝸牛,于是虛擬化GPU的需求就理所當然的體現出來了。
黃仁勛在眾多場合“帶貨GPU”時都提到過,“你買的越多,你省的越多。”施澄秋認為這不是一個玩笑,也不是一個梗,是NVIDIA實實在在幫助用戶節約IT投資的一個真實舉措。無論是AI、模擬、渲染,都能夠相較于傳統的CPU節點服務器,給用戶節約大量的成本。因此他建議,不僅要有虛擬化的CPU,更重要的是要有虛擬化的GPU,可以幫助用戶在虛機上體驗到以前實體工作站、實體超算的PC工作站或者實體的圖形工作站上都能享受到的GPU加速的性能。
虛擬GPU如何滿足或輕或重、或遠或近的多樣化需求?
工作負載上的用戶需求千差萬別,NVIDIA如何去滿足這些或輕或重、或近或遠的需求呢?不同的NVIDIA vGPU軟件許可證能夠滿足多種虛擬化用例的不同需求。NVIDIA將90天免費的虛擬GPU軟件評估許可證從128個擴展到500個,主要提供三類專用虛擬GPU(vGPU)軟件:(1)NVIDIA GRID虛擬PC/應用程序:面向知識工作者,通過GPU為遠程用戶提供虛擬化系統和應用程序,能提供與有獨顯的實體電腦相似的性能,實現響應級虛擬桌面基礎架構(VDI),最大限度優化圖表、視頻等典型辦公應用。
(2)NVIDIA Quadro虛擬數據中心工作站(Quadro vDWS):面向使用高級圖形應用程序的創作者和技術專業人員,從數據中心提供工作站級的GPU加速性能,有助于分散在各地的團隊進行協作,通過任意設備實時安全地訪問應用程序和數據。
以前做虛擬化技術,只能把一個GPU虛擬成多個GPU給很多個用戶去使用。但今天可以反向虛擬化這個GPU,把多個物理的GPU虛擬成一個更大、更強勁的GPU給一個特定的用戶使用。也就是說,可以分散GPU負載、也可以堆疊,也可以快速、大規模共享數據,而這些數據全部可以提供給用戶最新、前端的、用戶端的需求。比如10比特的色彩精度支持,以前需要一個專業的Quadro圖形工作站配合顯示設備才可以實現,但是現在Quadro vDWS就可以做到。
從性能來看,如果使用8個Quadro RTX 8000顯卡搭配Quadro vDWS軟件,算力可提升至CPU的16倍,能大幅減少渲染時間。
從生態來看,Quadro vDWS現支持主流的ISV應用程序及管理監控工具,可從NVIDIA經認證的服務器方案中獲取。
(3)NVIDIA Virtual Compute Server軟件:數據中心管理員可以在虛擬環境中的GPU服務器上運行AI工作負載,通過GPU加速服務器虛擬化,支持AI、深度學習、數據科學和高性能計算服務器虛擬化。
借助NVIDIA Virtual Compute Server (vComputeServer),用戶可以獲得運行這些工作負載所需的GPU加速性能。數據中心管理員可以在虛擬環境中的GPU服務器上運行AI工作負載,進一步提升了計算的安全性、利用率和可管理性。IT管理員能夠讓GPU加速虛擬化服務器的管理變得更為簡單,同時還能保留現有的工作負載,并降低總體運營成本。與僅使用CPU的服務器相比,基于4顆NVIDIA V100 GPU的vComputeServer將深度學習的速度提高了50倍,性能接近于裸機水平。
虛實結合,為前沿需求注入力量和速度
通過虛擬GPU軟件,搭配Quadro RTX服務器,能支持加速渲染、虛擬工作站、AI和數據科學、AR/VR、5G、CAE/Simulation、混合工作負載等各種數據中心負載的加速任務。在云端、企業數據中心以及傳統臺式機、移動工作站,NVIDIA Quadro均可實現設計和工程應用的加速。據悉,全球90%的專業工作站均由英偉達Quadro提供加速能力。
施澄秋介紹,移動、遠程需求下,應運而生的還有NVIDIA RTX Studio,其品牌承諾就是做一個開放式的平臺,采用Windows架構,是一個標準的可以安裝所有超過數百款已有的ISV程序的情況下。NVIDIA RTX Studio可以讓創意和設計用戶在超過200款RTX產品上利用GPU加速渲染,其中又有45款可以利用RTX技術、最新一代NVIDIA技術里的各式各樣的核心,幫助他們做應用程序的加速,包括AI應用程序和實時光線追蹤。
此外還有NVIDIA RTX SERVER虛擬化技術。這個技術是在多個NVIDIA Quadro RTX GPU的基礎上,堆疊大量GPU,借助GPU共享,單個GPU可以為多個虛擬機提供動力,最大程度地提高利用率和負載能力,滿足從AI和深度學習到數據科學和高性能計算的需求。
由于疫情原因,NVIDIA一年一度的GTC大會改成了線上的模式。這意味著,數百場的技術演講、技術展示、案例演示,甚至包括幫助用戶上手實操的模擬實驗室的環境,都需要在云端上進行搭建。這一系列在云端的講堂、實驗室就是典型的分布式遠程移動工作和大規模用戶同時去存取云端資源的一個案例,也是一個遠程辦公的體驗。
5G普及,桌面虛擬化需求將更興盛、更容易實現
施澄秋表示,雖然國內的網絡帶寬能力已大大增強,但是把GPU虛擬化到桌面仍是當前面臨的最大問題。因為網絡延遲面臨著極大的挑戰,每一個指令都要從本地端傳到云端、再傳輸到實體的桌面端/客戶端,現在要做的是降低延時并減少用戶的等待時間。針對上述問題,NVIDIA提出了全新的解決方案。在Quadro RTX以及硬件上做了全新一代的升級,最大可以支持實時8K的RED格式的加密和解密。當然,這還要依賴于網絡跳轉路由節點和整個延遲的降低,這都需要全方位的強化。施澄秋指出,國內正大規模地普及5G,所以這個痛點也會得到較好的解決,今天把GPU虛擬化到桌面,可能比以往更容易。
由于5G的普及,移動辦公的便利性得到提升,桌面虛擬化的需求一定比以往更為興盛。施澄秋認為,企業虛擬化GPU的側重點主要是:便于大規模部署、便于大規模實時在線熱遷移和熱管理,因此他們會更大程度上考慮可管理性、易用性和可擴展性。
至于大規模的虛擬化部署會不會影響到NVIDIA實體GPU的使用?施澄秋認為,二者始終是相輔相成的。不論是云端還是實體端、不論是遠端是本地端,GPU的需求始終旺盛。也可以由此反推到用戶的使用習慣,今天的用戶大部分都不只有一個電子設備。就像雙卡雙待手機的發展,今天幾乎99%的手機具備這一功能,就連蘋果也做雙卡雙待了,這主要由用戶需求的多樣性決定的。NVIDIA認為本地的GPU需求,不會因為虛擬化GPU極速降低,會持續在兩條線上耕耘下去。
結語
新冠疫情在全球范圍的擴散,使得全球企業員工的工作模式和形態,都發生了巨大的變化。虛擬云端、虛擬客戶機、虛擬工作站,甚至虛擬GPU的發展,都發生了極大變化。不論是應用程序虛擬化,還是用戶桌面虛擬化,都是使得一個公司或組織,能夠適應當前及未來相當長可預見的情況下基本的工作能力。NVIDIA在此時加大虛擬化GPU的投入力度,再一次實現了從單純的硬件產品向提供服務的方式進行轉變,這也符合NVIDIA一直以來軟件化的發展路線。
套用微信小程序的成功邏輯,當網絡帶寬不再成為限制的前提下,即使在配置不夠高的桌面端,也能進行高算力的工作或娛樂,這將是GPU未來的重要應用場景。
本文由電子發燒友網原創,未經授權禁止轉載。如需轉載,請添加微信號elecfans999.
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
gpu
+關注
關注
28文章
5199瀏覽量
135523 -
虛擬機
+關注
關注
1文章
972瀏覽量
30494 -
AI2020
+關注
關注
1文章
22瀏覽量
6248
發布評論請先 登錄
相關推薦
熱點推薦
HarmonyOS首登微信公開課,分享跨平臺適配與體驗提升實踐經驗
近日,2026微信公開課PRO在廣州舉行。值得關注的是,HarmonyOS開發專家首次以官方分享嘉賓身份亮相開發者專場,并圍繞“跨平臺適配與體驗提升”這一主題,深入剖析了微信小
鴻蒙版微信消息彈窗不能進入聊天界面
用的最新鴻蒙6.0系統,微信版本也是最新的,之前用的HarmonyOS4.0的微信就可以點擊消息彈窗,直接進入聊天界面,很方便。現在點擊消息彈窗是進入微
發表于 12-11 16:20
電能質量在線監測裝置故障會發微信告警嗎?
電能質量在線監測裝置本身通常不直接發送微信告警,但通過配套的云平臺 / 運維系統并結合網絡通信,可實現微信告警功能 ,將故障信息實時推送給相關運維人員。 一、
主頻3.7GHz、桌面PC市占率登頂!兆芯生態適配成果爆發
電子發燒友網綜合報道,兆芯主營業務為高端通用處理器及配套芯片的研發、設計及銷售,是目前國內領先的可同時面向桌面PC、服務器、 工作站以及嵌入式等多領域并持續兼容x86指令集的CPU設計企業
銳捷網絡與亞信安全戰略攜手,共筑“一站式安全”云桌面新生態
近日,銳捷網絡與亞信安全科技股份有限公司(簡稱:亞信安全)正式簽署戰略合作協議,共同開啟“一站式安全”云桌面解決方案的新篇章,為企業用戶的數字化轉型提供堅實的安全保障與強勁的動力支持。 亞信
NVIDIA桌面GPU系列擴展新產品
NVIDIA 桌面 GPU 系列擴展,推出 NVIDIA RTX PRO 4000 SFF Edition GPU 和 RTX PRO 2000 Blackwell GPU,可提高工程
微信小程序API+京東支付,無縫結賬體驗滿分!
? 在當今數字化時代,電商平臺的核心競爭力之一就是支付體驗。用戶期望快速、流暢、無摩擦的結賬過程,任何延遲或繁瑣步驟都可能導致流失。微信小程序作為騰訊推出的輕量級應用平臺,憑借其龐大的用戶基礎和便捷
微信小程序API集成京東庫存,移動端銷量暴漲!
在當今數字化時代,移動端購物已成為主流趨勢。微信小程序作為騰訊旗下的輕量級應用平臺,憑借其便捷性和用戶粘性,為企業提供了強大的營銷渠道。而京東作為中國領先的電商平臺,其庫存管理系統以高效和精準著稱
微信小程序+淘寶API,無縫購物體驗提升復購率!
? 在當今電商競爭激烈的時代,消費者渴望更便捷、流暢的購物體驗。微信作為中國最大的社交平臺,擁有龐大的用戶基礎;淘寶則是電商巨頭,提供豐富的商品資源。通過將微信小
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】+NVlink技術從應用到原理
前言
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」書中的芯片知識是比較接近當前的頂尖芯片水平的,同時包含了芯片架構的基礎知識,但該部分知識比較晦澀難懂,或許是由于我一直從事的事芯片
發表于 06-18 19:31
解鎖BNC插頭拆卸新技能,輕松應對維修難題
掌握上述拆卸技能,再棘手的BNC插頭拆卸任務也能迎刃而解。維修過程中保持耐心,嚴格遵循規范操作,不僅能大幅提升維修效率,更能有效延長設備使用壽命。若遇到特殊規格插頭或復雜拆卸場景,不妨參考產品手冊,或直接聯系德索精密工業等專業廠商獲取技術支持,確保每一次拆卸都安全、可靠。
可以手動構建imx-gpu-viv嗎?
在 debian 10 上使用 imx gpu 交叉編譯 Qt,以便它與我的應用程序一起工作。但是 imx-gpu-viv-6.4.3.p4.2.aarch64.bin(libGAL.so、libEGL.so
發表于 03-28 06:35
畢業設計競賽選題推薦 | HaaS EDU物聯網應用之微信小程序云養花項目實戰(含文檔及源碼)
01引言在快節奏的現代生活中,人們常常渴望親近自然卻又受限于時間和空間。微信小程序云養花項目應運而生,它借助互聯網技術和便捷的微信平臺,讓用
GPU霸主的新技能:PC桌面化身“微信小程序”
評論