邊緣計算已經存在了很長一段時間，但最近由于物聯網、 5G 和人工智能三大趨勢的融合而成為熱門話題。

物聯網設備變得越來越智能，功能也越來越強大，增加了可以部署在其上的應用程序的廣度和可以部署在其中的環境。同時， 5G 能力的最新進展讓人們相信，這項技術很快就能將物聯網設備無線連接到它們部署的任何地方。事實上，分析師預測，到 2023 年， 5G 連接設備將超過 10 億臺。最后，人工智能成功地從研究項目轉向實際應用，改變了零售商、工廠、醫院等許多行業的格局。

那么，這些趨勢的趨同意味著什么呢？部署的物聯網設備數量激增。

據專家估計，目前安裝的物聯網設備超過 300 億臺， Arm 預測，到 2035 年，將有超過 1 萬億臺設備。由于部署了如此多的物聯網設備，收集的數據量猛增，給當前的云基礎設施帶來了壓力。企業很快發現自己處于這樣的境地：它們部署的人工智能應用程序需要大量數據來生成引人注目的見解，但它們的云基礎設施處理數據和將見解發送回邊緣的延遲是不可持續的。所以他們轉向邊緣計算。

通過將處理能力放在傳感器收集數據的位置，組織可以減少應用程序交付見解的延遲。對于某些情況，例如工廠中的自動機器，延遲減少是一個關鍵的安全組件。

這就是 NVIDIA 的用武之地。 NVIDIA Edge AI 解決方案為在 Edge 部署 AI 提供了一個完整的端到端 AI 平臺。它從 NVIDIA 認證系統開始。

NVIDIA – 認證系統 將 NVIDIA GPU 的計算能力與 NVIDIA 的安全高帶寬、低延遲網絡解決方案結合起來。經過性能、功能、可擴展性和安全性驗證— IT 團隊確保從 NGC 目錄 、 NVIDIA 的 GPU 優化的 HPC 和 AI 軟件集線器部署的 AI 工作負載以最佳性能運行。這些服務器由企業級支持提供支持，包括直接訪問 NVIDIA 專家，最大限度地減少系統停機時間，最大限度地提高用戶生產效率。

為了構建和加速在 NVIDIA 認證系統上運行的應用程序， NVIDIA 提供了一個廣泛的 SDK 工具包、應用程序框架和其他工具，旨在幫助開發人員為每個行業構建 AI 應用程序。這些包括預先訓練的模型、訓練腳本、優化的框架容器、推理引擎等等。有了這些工具，無論工作負載或行業如何，組織都可以在構建獨特的人工智能應用程序方面取得領先。

一旦組織有了加速 AI 的硬件和要部署的 AI 應用程序，下一步就是確保有適當的基礎設施來管理和擴展應用程序。如果沒有一個平臺來管理邊緣的人工智能，組織將面臨每次發布新的軟件更新時手動更新邊緣位置系統的困難和昂貴的任務。

NVIDIA 艦隊司令部 是一種云服務，它跨分布式邊緣基礎設施安全地部署、管理和擴展人工智能應用程序。艦隊司令部專為人工智能打造，是人工智能生命周期管理的一個交鑰匙解決方案，提供了優化的部署、分層的安全性和詳細的監控功能，因此組織可以在幾分鐘內從零到人工智能。

完整的邊緣人工智能解決方案為組織提供了構建端到端邊緣部署所需的工具。全球第一大供應鏈解決方案提供商 KION Group 使用 NVIDIA 解決方案更快、更高效地完成訂單。

關于作者

Troy Estes 是 NVIDIA Edge 和企業計算解決方案的產品營銷經理。在加入 Edge & Enterprise 業務部門之前，特洛伊曾在自主汽車業務部門和 NVIDIA 電網產品集團從事營銷活動和支持產品 GTM 。

審核編輯：郭婷