電子發燒友網報道(文/李彎彎)云邊協同是云計算與邊緣計算的互補協同,邊緣計算模型的提出,對云計算集中式模型的不足提供了新的解決思路,是適應技術發展需求的產物。但不能完全取代云計算,兩者是協同運作的。通過云和邊緣的緊密協同可以更好地滿足各種應用場景的需求,從而放大兩者的應用價值。
什么是云邊協同
云邊協同的能力與內涵主要包括資源協同、數據協同和服務協同三種。資源協同是指邊緣節點能夠提供計算、存儲、網絡等基礎設施資源,可以獨立調度管理本地資源,也可以和云端協同,接受并執行云端下發的資源調度管理策略。
如計算資源協同,就是在上層應用的支持下,對分布在邊緣云的計算資源與中心云的計算資源進行協同處理,提高計算資源的效率。
典型的AI訓練與應用系統,在此系統中,在中心云部署大規模的AI訓練軟件,發揮中心云計算資源豐富的特點,加快AI訓練的速度,而在邊緣云上,主要是利用訓練好的AI算法進行AI的推理應用。這樣,中心云產生的AI算法,就可以服務大量邊緣AI上的應用。同時邊緣網絡上有很多數據,可以傳遞到中心云進行訓練,在訓練完成后,可以快速推到邊緣網絡使用,形成閉合循環迭代。
再比如存儲資源協同,就是在上層應用的支持下,對分布在邊緣云的存儲資源與中心云的存儲資源進行協同處理,提高存儲資源的利用率,節約傳輸帶寬。
典型的應用是CDN網絡。CDN網絡中,把熱點視頻業務放在邊緣網絡上,而把冷門數據放在中心云上。這樣,用戶訪問熱點視頻的時候,數據源就在邊緣上,用戶可以就近訪問數據,只有邊緣云上沒有數據的時候,才通過中心云去訪問,而且一旦訪問此數據的用戶變多,就可以把此數據源拉到邊緣網絡進行保存。這樣,通過云邊協同就可以大幅降低中心云的帶寬需求,提高中心云的存儲效率。
數據協同則是邊緣節點負責數據采集,按照模型或業務規則對原始數據進行預處理及簡單分析,然后把結果和相關數據上傳給云端;云端可以對海量數據進行存儲、分析和價值挖掘。邊緣和云之間的數據協同,使得數據能夠在邊緣和云之間有序流動,從而形成一條完整的數據流轉路徑,便于之后對數據進行生命周期管理與價值挖掘。
服務協同是云端完成模型的訓練之后,將模型下發給邊緣節點,邊緣節點按照模型進行推理;云端管理邊緣側應用的生命周期,包括應用的部署、啟動、停止、刪除及版本更新等;云端生成應用編排策略,邊緣側按照云端策略執行應用。
云邊協同有什么好處
云邊協同有什么好處呢,具體來看一些例子。比如,對于一個機器學習模型來說,訓練樣本的數量會影響到最終模型的效果。而在大數據時代下,各種各樣的智能設備都可以進行數據樣本的采集。然而如果將采集的設備傳輸到云端進行模型訓練則會面臨一些問題:一是帶寬與延遲的消耗;二是數據保存在云端則會有嚴重的隱私泄露隱患。
在這種場景下,云邊協同進行模型的訓練則是一個很好的選擇。得益于邊緣端的數據收集能力,最終訓練出來的模型的泛化性能會更好。其中邊緣端負責數據的收集以及部分的模型訓練,云端負責將邊緣端的模型更新聚合并且發送回邊緣端。而傳統的人臉識別模型訓練通常是先收集人臉數據,然后對人臉數據進行標注,同時在中心服務器進行人臉識別模型訓練,最后將訓練得到的模型部署到邊緣端。
在上述訓練過程中,需要由數據收集邊緣端收集數據,同時與中心服務器進行直接的數據交互,而直接的數據交互勢必導致隱私的泄露問題。相比于傳統的人臉識別模型訓練,云邊協同下的人臉識別模型訓練不需要將人臉數據上傳至中心服務器,而這防止了某種程度的隱私泄露問題。
云邊協同技術不僅僅可以應用于大數據場景,對于傳統的能源行業來說,它涉及的各種設備相對復雜,邊緣端傳感器較多,若是將收集數據全部發送至云端,則會面臨較大的帶寬壓力,因此轉型難度較大。而傳統行業下的數據處理往往比較依賴于人工,這也給傳統行業的轉型帶來了困難。
以石油行業為例,不同于傳統的人工錄入等方法,在云邊協同的環境下,針對石油開采,可以將傳感器、各種開采設備等收集到的信息進行整合并且發送到具有簡單數據處理能力的邊緣端進行數據的自動化錄入、數據預處理、數據實時分析等操作,然后將處理之后的數據發送到云端進行更完全的數據分析以及決策,最后將決策結果發送回邊緣端指導石油的開采等操作。相比于傳統的石油開采方法,云邊協同下的數據處理大幅度提高了數據處理的效率,并且減少了決策所用的時間。
什么是云邊協同
云邊協同的能力與內涵主要包括資源協同、數據協同和服務協同三種。資源協同是指邊緣節點能夠提供計算、存儲、網絡等基礎設施資源,可以獨立調度管理本地資源,也可以和云端協同,接受并執行云端下發的資源調度管理策略。
如計算資源協同,就是在上層應用的支持下,對分布在邊緣云的計算資源與中心云的計算資源進行協同處理,提高計算資源的效率。
典型的AI訓練與應用系統,在此系統中,在中心云部署大規模的AI訓練軟件,發揮中心云計算資源豐富的特點,加快AI訓練的速度,而在邊緣云上,主要是利用訓練好的AI算法進行AI的推理應用。這樣,中心云產生的AI算法,就可以服務大量邊緣AI上的應用。同時邊緣網絡上有很多數據,可以傳遞到中心云進行訓練,在訓練完成后,可以快速推到邊緣網絡使用,形成閉合循環迭代。
再比如存儲資源協同,就是在上層應用的支持下,對分布在邊緣云的存儲資源與中心云的存儲資源進行協同處理,提高存儲資源的利用率,節約傳輸帶寬。
典型的應用是CDN網絡。CDN網絡中,把熱點視頻業務放在邊緣網絡上,而把冷門數據放在中心云上。這樣,用戶訪問熱點視頻的時候,數據源就在邊緣上,用戶可以就近訪問數據,只有邊緣云上沒有數據的時候,才通過中心云去訪問,而且一旦訪問此數據的用戶變多,就可以把此數據源拉到邊緣網絡進行保存。這樣,通過云邊協同就可以大幅降低中心云的帶寬需求,提高中心云的存儲效率。
數據協同則是邊緣節點負責數據采集,按照模型或業務規則對原始數據進行預處理及簡單分析,然后把結果和相關數據上傳給云端;云端可以對海量數據進行存儲、分析和價值挖掘。邊緣和云之間的數據協同,使得數據能夠在邊緣和云之間有序流動,從而形成一條完整的數據流轉路徑,便于之后對數據進行生命周期管理與價值挖掘。
服務協同是云端完成模型的訓練之后,將模型下發給邊緣節點,邊緣節點按照模型進行推理;云端管理邊緣側應用的生命周期,包括應用的部署、啟動、停止、刪除及版本更新等;云端生成應用編排策略,邊緣側按照云端策略執行應用。
云邊協同有什么好處
云邊協同有什么好處呢,具體來看一些例子。比如,對于一個機器學習模型來說,訓練樣本的數量會影響到最終模型的效果。而在大數據時代下,各種各樣的智能設備都可以進行數據樣本的采集。然而如果將采集的設備傳輸到云端進行模型訓練則會面臨一些問題:一是帶寬與延遲的消耗;二是數據保存在云端則會有嚴重的隱私泄露隱患。
在這種場景下,云邊協同進行模型的訓練則是一個很好的選擇。得益于邊緣端的數據收集能力,最終訓練出來的模型的泛化性能會更好。其中邊緣端負責數據的收集以及部分的模型訓練,云端負責將邊緣端的模型更新聚合并且發送回邊緣端。而傳統的人臉識別模型訓練通常是先收集人臉數據,然后對人臉數據進行標注,同時在中心服務器進行人臉識別模型訓練,最后將訓練得到的模型部署到邊緣端。
在上述訓練過程中,需要由數據收集邊緣端收集數據,同時與中心服務器進行直接的數據交互,而直接的數據交互勢必導致隱私的泄露問題。相比于傳統的人臉識別模型訓練,云邊協同下的人臉識別模型訓練不需要將人臉數據上傳至中心服務器,而這防止了某種程度的隱私泄露問題。
云邊協同技術不僅僅可以應用于大數據場景,對于傳統的能源行業來說,它涉及的各種設備相對復雜,邊緣端傳感器較多,若是將收集數據全部發送至云端,則會面臨較大的帶寬壓力,因此轉型難度較大。而傳統行業下的數據處理往往比較依賴于人工,這也給傳統行業的轉型帶來了困難。
以石油行業為例,不同于傳統的人工錄入等方法,在云邊協同的環境下,針對石油開采,可以將傳感器、各種開采設備等收集到的信息進行整合并且發送到具有簡單數據處理能力的邊緣端進行數據的自動化錄入、數據預處理、數據實時分析等操作,然后將處理之后的數據發送到云端進行更完全的數據分析以及決策,最后將決策結果發送回邊緣端指導石油的開采等操作。相比于傳統的石油開采方法,云邊協同下的數據處理大幅度提高了數據處理的效率,并且減少了決策所用的時間。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
算力
+關注
關注
2文章
1528瀏覽量
16741
發布評論請先 登錄
相關推薦
熱點推薦
GPU 利用率<30%?這款開源智算云平臺讓算力不浪費 1%
作為 AI 開發者,你是否早已受夠這些困境:花數百萬采購的 GPU 集群,利用率常年低于 30%,算力閑置如同燒錢;跨 CPU/GPU/NPU 異構資源調度難如登天,模型訓練卡在
告別“硬件軍備競賽”!華為云如何讓企業算力效率翻倍,成本減半?
的技術迭代周期卻在縮短。在此背景下,繼續沿用傳統的重資產IT模式已不合時宜。 華為云憑借Flexus X實例的柔性算力、彈性云服務器ECS的穩定可靠、對象存儲服務OBS的高性價比,以及
華為發布AI容器技術Flex:ai,算力平均利用率提升30%
決方案。 ? 當前,AI產業正處于高速發展的黃金時期,海量算力需求如潮水般涌來。然而,算力資源利用
上海電信攜手華為打造分布式云邊協同訓推方案
Deepseek加速行業推理應用,面向企業算力租用以及推理數據不出園區的用算需求,上海電信基于“智云上海”新型基礎架構,部署華為星河路由器打造400GE IP智
梯度科技助力客戶破解算力調度難題
在數字經濟與人工智能深度融合的新階段,算力已成為支撐人工智能發展的核心生產力。梯度科技基于云原生技術架構研發的算力調度平臺,以“
協同創新 | 蘋芯科技參加滬克算力創新中心揭牌,共拓人工智能與算力協同新范式
。近年來,憑借獨特的區位優勢與綠色能源稟賦,克拉瑪依推動數字經濟產業融合發展,建成全疆首個超萬P算力集群,克拉瑪依云計算產業園更以17000P的智能
6TOPS算力NPU加持!RK3588如何重塑8K顯示的邊緣計算新邊界
在萬物互聯的時代背景下,邊緣計算與8K顯示的融合需求日益迫切。傳統的云端處理模式在面對8K超高清視頻數據時,常常出現延遲高、帶寬壓力大等問題,而邊緣計算設備由于算力有限,難以支撐8K視
發表于 04-18 15:32
RAKsmart智能算力架構:異構計算+低時延網絡驅動企業AI訓練范式升級
在AI大模型參數量突破萬億、多模態應用爆發的今天,企業AI訓練正面臨算力效率與成本的雙重挑戰。RAKsmart推出的智能算力架構,以異構
承載百芯算力,低功耗解鎖高性能——云端效率觸手可及
云加速布局AI大模型,支撐企業智能決策與動態資源調度?。 AI驅動的自動化運維和資源預測技術將減少人工干預,提升算力
提高計算資源利用效率,邊云協同讓算力各司其職!
評論