物聯網（ IoT ）的發展和企業對人工智能的采用，使人們重新關注邊緣計算。組織正在尋求利用這些物聯網設備在邊緣產生的數據，解決以前集中式數據中心或云計算無法解決的挑戰。

當邊緣計算和人工智能（也稱為 Edge AI ）相結合時，用于實時推理，從而推動業務流程的數字轉換。 Edge AI 是智能空間的核心技術，可提高效率、自動化工作流程、降低成本并改善整體客戶體驗。

如今，所有行業的組織都在工廠、零售店、石油鉆塔和自動機器上推出 edge AI 解決方案。

與任何新的 IT 計劃一樣，充分利用邊緣計算需要精心規劃，以構建一個能夠滿足當今和未來任何擴展需求的平臺。

什么是邊緣計算？

從廣義上講， 邊緣計算 指的是數據中心或云之外的任何東西。更具體地說，這是一種將計算能力從物理上轉移到更接近數據生成位置（通常是物聯網設備或傳感器）的做法。

與云計算相比 ，邊緣計算提供更低的延遲、更低的帶寬要求和更好的數據隱私。有 不同類型的邊緣計算 ，通常根據用例、網絡需求或位置進行細分。內容交付網絡、工廠檢查、無摩擦商店和機器人都被認為是邊緣計算的例子。

盡管存在差異，但好處仍然是一樣的：低延遲、降低帶寬要求和數據隱私。

邊緣計算的成本是多少？

邊緣計算的成本因規模、數據、位置和專業知識而大不相同。總體成本可能會增加或減少，具體取決于邊緣環境中當前的基礎設施。圖 1 顯示了幾個關鍵因素。

圖 1 影響成本的邊緣計算解決方案的組件

基礎設施成本

在邊緣部署人工智能應用程序的首要考慮因素之一是支持用例所需的系統和傳感器。一般來說，在添加新的硬件或軟件之前，已經有了某種基礎設施。邊緣基礎設施最常見的組件是傳感器、計算系統和網絡。

傳感器

傳感器的數量和類型都會影響組織的成本。許多組織已經對物聯網傳感器進行了投資，從而減少了邊緣計算推廣所需的總體投資。在添加傳感器時，一次性使用的掃描儀可以快速添加。

攝像頭是最通用的邊緣設備之一，可以讓您同時運行多個應用程序。其他傳感器包括麥克風、條形碼掃描儀或支持 RFID 的智能標簽。

計算系統

邊緣計算可以在一個簡單的嵌入式設備上運行，成本高達數百美元。或者，它可以運行到半個甚至全機架的服務器，花費數十萬美元。計算系統的大小取決于收集和處理的數據量、一個或多個人工智能模型的復雜性，以及在任何給定時間運行的推理次數。

當在邊緣建立計算時，重要的是要考慮在環境中運行的現有和將來的邊緣用例。一些應用程序可以在僅CPU的系統上運行，而其他應用程序需要 GPU ，或者可以從 GPU 中受益匪淺。

嵌入式設備，甚至是單 GPU 系統在前端都比較便宜。但是，如果您的計劃是運行多個 AI 應用程序，那么一個具有多個 GPU 且可以運行多個工作負載的單一系統可以節省成本。在空間有限的地區，它通常也會更有效。

網絡

大多數企業邊緣使用案例都是在本地運行的，可以是硬連線到網絡，也可以是 Wi-Fi 。這使得網絡組件基本上是免費的。依賴蜂窩網絡的遠程設備確實會因傳輸的數據產生成本，如果數據是視頻，成本會特別高。

AI-on-5G 是許多組織需要考慮的一個關鍵話題，尤其是那些正在研究依賴有保證的性能和高速無線網絡的用例的組織。這些解決方案仍處于開發的早期階段，這使得成本難以確定。

邊緣計算的另一個網絡考慮因素是查看將向數據中心或云發送哪些數據以及發送多少數據。大多數組織使用來自邊緣的數據在一個集中的位置驗證和再培訓他們的人工智能模型。圍繞數據構建一個考慮到網絡和存儲的戰略對于確保管理維護邊緣應用程序的總體成本至關重要。

申請費用

在未來幾年，人工智能應用程序的生產數量預計將增長到 60% 以上。不是組織是否會部署人工智能應用程序，而是何時部署。組織要么構建或購買應用程序，要么使用混合方法。

構建人工智能應用程序

從頭開始建設數據科學團隊可能是一項艱巨的任務，尤其是由于大多數地區對合格候選人的需求很高，且供應有限。數據科學家的平均工資從 10 萬美元到 15 萬美元不等，取決于技能水平。即使是內部有人工智能開發人員的組織，也經常采用構建和購買相結合的策略，將其內部專業知識用于幫助其與眾不同的關鍵應用程序。

購買人工智能應用程序

對于那些還沒有數據科學家和人工智能開發人員的組織來說，購買人工智能應用程序是首選方法。

Prebuilt applications 可以定制，價格從數千美元到數萬美元不等，具體取決于它們的許可方式。

Custom applications 從頭開始構建，包括開發和推出，成本高達數十萬美元。

根據客戶需求，可以購買額外的服務合同，用于對這些應用程序進行持續管理和升級。

管理成本

邊緣計算為管理帶來了獨特的挑戰。這些環境高度分散，部署在遠程位置，沒有經過培訓的 IT 人員，而且通常缺乏數據中心預期的物理安全性。

管理軟件

專用邊緣人工智能管理解決方案通常根據使用情況定價，管理中的系統或 GPU 是決定因素。這些解決方案具有為邊緣部署量身定制的關鍵功能，以及隨著成本增長而擴展的能力。這些解決方案的一些示例包括 NVIDIA Fleet Command 、 Azure IoT 和 AWS IoT 。

另一個管理選項是將傳統的數據中心管理解決方案擴展到邊緣。 VMware Tanzu 和 RedHat OpenShift 通常都存在于許多數據中心部署中，這意味著 IT 團隊對它們有經驗。將這些解決方案擴展到邊緣可能需要增加許可成本，具體取決于公司簽訂的合同。

應考慮的其他成本包括使這些解決方案與邊緣部署兼容所需的時間，以及對這些環境的持續管理。

托管服務

一些組織希望將其邊緣計算環境的管理外包給系統集成商或其他管理合作伙伴。這些活動可能會有很大不同，包括人工智能模型的開發、基礎設施的供應和管理，以及人工智能應用程序的推出和更新。

當構建和管理 edge AI 解決方案的內部專業知識有限時，通常會考慮此選項。根據范圍、規模和持續時間的不同，這些項目的成本從數十萬美元到數百萬美元不等。

邊緣計算比云計算便宜嗎？

許多組織都在云計算領域進行了大量投資。現在，隨著邊緣計算的興起，他們正在尋求節約成本。當 將邊緣與云進行比較 出現時， edge AI 通常是一項新的投資，因此需要提前開始。如果將這一成本與移動流媒體數據并將其存儲在云中的成本相比較，成本可能會有所降低。

大多數情況下，向邊緣計算的轉移是由于一個需要實時響應或部署在帶寬有限的遠程位置的用例。例如，由于延遲要求，云環境不可能提供預測性維護、安全警報或自動機器等工作負載。

在這種情況下，降低邊緣計算的成本并不重要；相反，人工智能算法為組織帶來了巨大的商業價值。

邊緣計算的價值是什么？

對于大多數組織來說，邊緣計算是一種范式轉變。與其他轉型轉變一樣，如果不仔細思考，這個過程可能會很復雜，成本也很高。然而，當與人工智能結合時，您的組織可以看到巨大的好處。從提高效率到降低運營成本，再到改善客戶智能和體驗， edge AI 帶來的經濟效益可以用數百萬美元來衡量。

人工智能提供了一種無摩擦的購物體驗，顧客可以走進商店，選擇他們想要購買的商品，然后離開，商品會自動記入他們的賬戶。

零售商通過人工智能解決勞動力短缺和供應鏈問題 ：在過去的一年里，零售商經歷了令人難以置信的挑戰，勞動力減少了 6.2% ，停工對全球供應鏈造成了嚴重破壞。使用人工智能解決方案，商店和餐館已經能夠改進自動化、預測和物流，為客戶提供更好的體驗。

人工智能檢驗降低了總制造成本 ：在任何生產線上，手動檢查都需要大量時間，并且需要高技能工人來保持高質量。當需要準確、快速的缺陷檢測時，人工智能可以是提高整體設備效率（ OEE ）和提高生產線產量的完美解決方案。一家制造商能夠通過在工廠使用人工智能光學檢測，將檢測成本從總制造成本的 30% 降低到 30% 。

智能醫院優化工作流程，改善臨床醫生體驗 ：醫療服務的提供變得越來越具有挑戰性，提供者、員工和 IT 都必須用更少的資源做更多的事情。人工智能有助于增強這些供應商的工作，為他們提供有價值的及時見解，不僅減輕他們的負擔，還拯救生命。使用視覺人工智能監控患者和自動化工作流程，一個擁有 100 張床位的設施每年可以節省 1100 萬美元。

開始

鑒于 Edge AI 的價值，如何推出成功的 edge 戰略無疑是組織和 IT 部門關注的一個關鍵話題。作為人工智能領域的領導者，NVIDIA 與客戶和合作伙伴合作，創建了能夠提供強大分布式計算的邊緣計算解決方案；安全遠程管理；以及與業界領先技術的兼容性。

關于作者

Amanda Saunders 在 NVIDIA 負責 Edge 和企業計算解決方案集團的 Edge AI 產品營銷。她為醫院、商店、倉庫、工廠等帶來了智能的邊緣計算解決方案。除了從事 edge 解決方案之外， Amanda 還在 NVIDIA 擔任銷售和營銷角色，與 AI 、數據科學、虛擬 GPU 和許多不同行業合作。

審核編輯：郭婷