物聯網傳感器的日益普及推動著各個行業的巨大變革，包括用來“看”的攝像頭、用來“聽”的麥克風，還有其他幫助企業感知、了解現實世界中所發生事情的智能設備。

在邊緣生成的數據量呈指數級增長，而實時處理海量數據的唯一方法，就是將服務器放置在行動點附近，并利用GPU的強大算力。

未來的企業數據中心不會在一個地點放置一萬臺服務器，而是會在一萬個不同地點放置一臺或多臺服務器。這些服務器將被放置于辦公樓、工廠、倉庫、手機信號塔、學校、商店和銀行中，用于探測交通堵塞和森林大火、安全引導交通并預防犯罪。

企業可通過部署一個分布式服務器網絡，從數百個傳感器中流式傳輸數據，在邊緣使用數據中心網絡，并通過AI立即采取行動。此外，在邊緣處理數據可以緩解對于隱私的擔憂，并解決數據主權問題。

邊緣服務器缺乏企業IT認為理所當然的物理安全基礎架構，而且公司沒有讓空閑IT人員去管理這些遠程系統的預算。因此，邊緣服務器的設計必須具備自我安全功能，并且方便從遠處進行更新、管理和部署。

此外，AI系統需要能夠永久保持運行，不能出現停機。

我們構建的NVIDIA EGX邊緣AI平臺用來確保全球范圍內的安全性。通過簡化部署和管理，NVIDIA EGX幫助始終在線的AI應用程序實現了未來關鍵基礎架構的自動化。該平臺是Kubernetes和容器原生軟件平臺，它能將GPU加速AI帶入到從雙路x86服務器到基于ARM的NVIDIA Jetson SoCs等一切應用。

目前，已有20多家服務器供應商正在構建基于EGX的邊緣和微邊緣服務器，包括ADLINK、研華、Atos、AVerMedia、思科、Connect Tech、戴爾科技、Diamond Systems、富士通、Gigabyte、惠普、浪潮、聯想、廣達和超微。除此之外，NVIDIA邊緣生態系統還有數十家混合云和網絡安全合作伙伴，包括Canonical、Check Point、Excelero、Guardicore、IBM、Nuage Networks、Nutanix、Palo Alto Networks、Rancher、Red Hat、VMware、Weka和Wind River。

NVIDIA EGX上還有數百家AI應用程序和集成解決方案供應商，它們為全球企業提供行業特定產品。

運行AI的企業不僅需要保護客戶數據，還需要保護將數據轉化為行動的AI模型。我們通過將安全、高性能網絡的行業標準NVIDIA Mellanox SmartNIC與我們的AI處理器，集成到組合式聚合加速器NVIDIA EGX A100中，為邊緣AI引入基礎創新技術。

NVIDIA EGX A100

更高的安全系數和性能

從Hardware Root-of-Trust通過安全認證啟動GPU和SmartNIC，可保證對設備固件和生命周期的安全管理。NVIDIA Ampere架構中的第三代Tensor核心技術帶來了業內領先的AI性能。專為EGX A100開發的保密AI安全區使用全新GPU安全引擎加載加密AI模型，并對所有AI輸出進行加密，進一步防止寶貴的IP遭到盜用。

隨著加密高分辨率傳感器在邊緣的日益普及，SmartNIC開始支持線速的線內密碼編譯加速。這使得加密數據推送被解密后，直接發送至GPU內存，從而繞過CPU和系統內存。

邊緣還需要更高級別的安全性，以防范來自網絡上其他設備的威脅。通過在硬件中動態配置防火墻卸載，SmartNIC可以有效地為混合云、安全服務網格通信構建起第一道防線。

NVIDIA Mellanox專為電信公司提供精準時鐘調度5G無線報文的傳輸技術（5T for 5G），使商用現成解決方案能夠通過我們的NVIDIA Aerial SDK，滿足5G vRAN最具時間敏感性的用例，引領CloudRAN在電信行業的新一輪應用浪潮。

通過將NVIDIA Ampere GPU和Mellanox ConnectX-6 D部署在一個聚合產品上，EGX A100可為安全和虛擬網絡功能提供低延遲、高吞吐量的數據包處理。

簡化大規模部署、管理和安全

通過NVIDIA GPU優化容器目錄NGC，我們提供了行業應用框架和特定領域的AI工具包，簡化AI的入門并根據新邊緣環境調節AI應用程序。它們可以一起使用或單獨使用，為各種邊緣用例開辟新的可能性。

借助NGC專用注冊表，可以在發布前對應用程序進行簽名，從而確保它們在傳輸過程中未被篡改。然后，可以在邊緣運行這些應用程序之前，對其進行驗證。NGC專用注冊表還支持模型版本控制和加密，因此可以快速、安全地進行輕量級模型更新。

未來的邊緣計算需要在網絡邊緣運行安全、可擴展、有彈性、易于管理的AI驅動系統群。我們正在將NVIDIA GPU、NVIDIA Mellanox SmartNIC的復合加速與NVIDIA EGX的加速度結合起來，構建組成全球各行業AI神經系統的平臺和生態系統。

想要了解關于NVIDIA EGX的更多信息，請點擊“閱讀原文”。另外，您也可以通過掃描文末海報二維碼觀看GTC 2020主題演講，了解更多相關信息。