新型GPU Operator、Helm chart與NGC-Ready系統幫助各企業遷移至邊緣與混合平臺。

如今，AI已不再僅僅只停留在研究階段，而是已經被應用于各企業機構中，幫助它們解決實際問題。而作為企業機構，它們需要清楚地知道應該將AI模型部署于何處，才能幫助其以更快的速度做出決策。

隨著AI、物聯網以及即將到來的5G基礎架構三者之間正在走向互融。對于各企業而言，如今已然時機成熟——將其模型從數據中心推向邊緣。在邊緣，數十億傳感器正在源源不斷地傳輸數據，實時決策已成為現實。

大規模部署AI工作負載的各企業正在綜合運用本地數據中心和云端，將AI模型置于數據收集點。但是，如果企業缺乏相應的IT專業知識，那么在諸如零售商店或室內停車場這類邊緣地點部署工作負載，將變得非常困難。

盡管Kubernetes簡化了部署、管理與擴展應用過程中許多手動流程，為跨越本地、邊緣與云端帶來了一致的云原生部署方法。

但是，遠程設置Kubernetes集群以管理數百、甚至數千款應用卻可能相當麻煩，特別是在每個邊緣區域都不容易獲得人工專業支持的情況下。而如今，我們能夠通過NVIDIA EGX 邊緣超級計算平臺化解這些難題。

簡化AI部署

NVIDIA EGX是一個云原生的軟件定義平臺，旨在實現并高效運行大規模混合云與邊緣運維。

該平臺內的EGX堆棧包含NVIDIA驅動程序、Kubernetes插件、NVIDIA容器運行時以及GPU監測工具，均通過NVIDIA GPU Operator提供。Operator負責整理運行信息與工作流，利用Kubernetes自動完成容器化應用的生命周期管理。

GPU Operator是一個由Helm chart所部署的云原生方法，針對GPU支持的Kubernetes系統配置，用于自動部署所有必要的組件，并完成組件標準化。NVIDIA、Red Hat及云原生社區內的其他公司協作創建了GPU Operator。

GPU Operator還能夠讓IT團隊像管理CPU驅動系統那樣，管理GPU支持的遠程服務器。這使得其可以利用單一鏡像輕松完成一組遠程系統初啟，在無需現場額外技術專長的情況下運行邊緣AI應用程序。

EGX堆棧架構由諸如：Canonical、Cisco、微軟、Nutanix、Red Hat和Vmware等混合云管理合作伙伴提供支持，以進一步簡化部署，并提供從云端到數據中心一直到邊緣的一致體驗。

NGC-Ready for Edge系統

由全球領先的服務器制造商所提供的NGC-Ready系統已通過NVIDIA面向GPU優化容器的軟件中心 NGC 的AI軟件功能與性能驗證。

在洛杉磯舉行的世界移動通信大會（MWC）上，NVIDIA宣布利用面向邊緣的NGC-Ready 系統進一步擴展NGC-Ready計劃，大力支持邊緣部署。這些系統經過了邊緣部署要求的更多安全與遠程系統管理測試。此類合格系統可完美運行EGX堆棧，為混合部署提供一個輕松入口。

已通過驗證的NGC-Ready for Edge系統由眾多全球領先的制造商提供，包括：Advantech、Altos Computing、ASRock RACK、Atos、Dell Technologies、富士通、GIGABYTE、HPE、聯想、MiTAC、QCT， Supermicro 和TYAN。

擴展NGC注冊

為部署與管理AI軟件，NGC現推出Helm chart注冊服務。Helm chart是強大的云原生工具，用于定制并自動完成在Kubernetes各集群內的各種應用部署。

NGC的Helm chart注冊包含AI框架、GPU Operator等NVIDIA軟件，以及面向醫療影像的NVIDIA Clara，和用于智慧零售以及工業檢查的NVIDIA Metropolis。NGC還托管針對第三方人工智能應用的Helm chart，包括面向車輛分析的DeepVision、用于視頻搜索的IronYun，和執行流分析的Kinetica。

借助NGC-Ready支持服務，開發者與運維團隊可以為其NGC-Ready for Edge系統獲得專用的Helm注冊，以推動與分享Helm chart。這能夠讓各團隊充分利用一致、安全且可靠的環境，加速集成與部署的持續循環。

采用NGC部署AI軟件

如需跨不同平臺輕松配置GPU驅動的Kubernetes集群，利用Helm chart與容器快速部署人工智能應用.