這幾天,世界人工智能大會成為了行業中當之無愧的流量焦點,而媒體與分析師對這屆大會的關注點也各有不同。
我們發現,世界人工智能大會來到第四屆,大家關心的不再僅僅是基礎算法創新以及酷炫的黑科技應用。AI相關的產業基礎設施、規模化落地方案的關注度逐步增強。大家更多把AI視作一個產業結構,而非單單一種技術來加以討論。
說到AI的產業會基礎設施,就不能不提到超算。無論對于科研、行業,甚至區域發展與國家戰略來說,超算都是AI與相關新一代信息技術的核心。而隨著AI等技術帶來數據量大規模增長、數據結構多元化、數據分析任務復雜化,原本的HPC(高性能計算)體系也迎來了全新的變革與挑戰。HPC正在走向HPDA(高性能數據分析)的新方向,AI時代的超算體系正在從計算密集型轉向到數據密集型。
我們知道,人的聰明才智不僅來自反應能力,還來源于對知識、記憶、經驗的準確調取和應用。當AI要變得更聰明時,一定需要更強大的數據處理能力。數據密集型超算,可以說是社會經濟真正需要的AI大腦。
人腦中的記憶是存儲在神經元當中的,那么AI時代的超算大腦中,數據將要存儲在哪呢?
一場由數據密集型超算帶來的存儲變革正在發生。7月8日,在2021世界人工智能大會(WAIC2021)上,上海交通大學與華為公司聯合發布了數據密集型超算示范中心。這是雙方繼4月份聯合成立“高性能計算&存儲技術聯合創新中心”以來的又一重磅合作,開創了產學研一體化推動超算發展的全新模式。
讓我們以此為基礎來談一談:智能時代為什么必須發展數據密集型的“新超算”?與此同時,存儲產業又如何幫助“新超算”跨越數據裂谷?
智能時代,數據密集型超算的產業需求
自疫情發生以來,全球無數國家和地區,相繼意識到了超算能力的重要性。在確診病例、尋找治療方法以及研發疫苗的過程中,病毒與蛋白質解析能力至關重要。而相關工作就非常明顯地展現出了計算由計算密集型,向數據密集型轉化;由HPC向HPDA演進的必要性。
病毒解析任務中,需要快速產生海量數據,并且其結構復雜、數據形態多元。類似計算任務不僅考驗計算能力,更考驗全流程化的數據存放、調用、解析與再利用能力。如果僅僅是算得快,那么任務可能在數據的全流程循環中浪費大量時間。而疫情面前,時間就是生命。
在AI進入產業化周期的階段,類似問題出現在各行業的超算需求中。自動駕駛、油氣勘探、天文分析、工業數字化孿生,都清晰地指向數據密集型計算。
華為IT產品線解決方案設計部部長陳默博士認為,超算發展目前主要有6大趨勢:架構集群化、計算異構化、數據密集化、網絡IP化、運營自動化和應用容器化。這些趨勢的出現,不僅考驗了超算本身的算力發展,還給超算的存儲體系帶來了一系列挑戰。比如說:
1、超算對應的數據存儲量與存儲類型快速增加:自動駕駛、衛星探測等任務帶來了數據量的幾何級飆升。而智慧城市、地質勘探等行業帶來了大量非結構化數據、混合類型數據的存在任務,這都對存儲體系產生了更高要求。
2、數據調用性能極大增加,要求存儲能力增強:HPDA形態下的超算體系,需要完成海量數據的短時間內大量吞吐,這對存儲性能提出了挑戰。
3、產業智能化趨勢,要求存儲可靠性趨向極致:在生產場景中落地的超算,需要結果高度可靠,且不能出現重復,更不能持續故障。這要求存儲的可靠性極高,并具有強大的自我修復與診斷能力。
4、超算中心和數據中心融合:超算體系未來將承擔更多的數據服務與數據利用職能,這就要求數據在存算場景中反復流動,快速循環,形成有效的數據湖場景。這將對現有存儲體系造成巨大的升級。
這些趨勢的存在和發展,意味著數據密集型超算必將建立在存儲能力的升級與進化之上。海量存儲能力升級支撐數據密集型超算與HPDA趨勢;超算升級又支撐了AI產業化發展。
這樣來看,今年我們希望在世界人工智能大會中找到的產業底座,一定蘊藏在海量存儲體系當中。
應對HPDA挑戰,需要存儲能力升級
為了應對數據密集型超算中出現的一系列數據存算挑戰,華為推出了OceanStor Pacific存儲,在高密設計、應對混合負載能力,以及多協議互通三大領域完成了創新,從而更準確滿足海量、多種類數據的快速存算需求,助力超算體系升級。
我們可以具體來看一下這三大能力是如何解決數據密集型超算所遇到挑戰的。
首先,HPDA的核心挑戰就是海量數據的涌入,以及業務量的幾何級增長,很快會造成機房空間不足、存儲成本高昂的問題,相關用戶不能無限制投入成本和空間用以存放數據。為了解決這個問題,華為推出了OeanStor Pacific高密專用硬件,基于全新的高密架構設計提供更高的容量利用率,在有限的機房空間里存下更多數據。
其次,隨著AI產業化的推進,超算體系中的一套存儲必須支持不同業務流程、產業環節的混合負載。以油氣勘探為例,過往數據采集、解釋、處理每個環節的業務能力對存儲的需求都不同,如果搭建多套存儲會造成大量遷移成本和安全風險。華為OceanStor Pacific推出了新一代分布式并行文件系統,從而應對混合負載挑戰。
再有,數據密集型超算需要讓數據在其他環節、不同系統之間進行復雜的循環流動,這就需要存儲具備多協議互通能力。華為OeanStor Pacific具備業界領先的多協議互通能力,能夠實現多個存儲服務同時訪問一份數據,提高跨環節、跨系統的數據分析效率。
面向數據密集型超算的產業趨勢,華為也并不僅僅是提供市場需要的產品和技術,而是與科研界、產業界走到一起,聯手探索未來超算的更多可能性。比如上海交通大學與華為聯合打造的數據密集型超算示范中心。
產學研一體,探索超算下一幕
數據密集型超算的進化,以及HPC向HPDA的演進,都不是一家企業、一個產業鏈環節能夠完成的任務,而是需要這個領域中產學研各界高效協同,更準確完成從基礎設施革新、技術創新到產業落地的一系列工程。
華為與上海交通大學聯手打造的數據密集型超算示范中心,就是一種有效的產學研一體化協作模式。華為OceanStor Pacific存儲對于HPDA的賦能與幫助,不應該等待產業界慢慢探索發掘,而是應該在有效的示范與引導下,確保行業用戶和超算建設方能夠準確找到切入點,實現投入產出比最大化。
數據密集型超算示范中心就是這樣一個產學研一體化打造的示范項目,其具有兩大創新點,一是國內高校建設的第一個ARM超算體系,二是在國內高校首次踐行“數據密集型超算”的建設理念。圍繞數據密集型超算的建設理念,華為與上海交大緊密協作,持續投入了相關技術與應用創新,并且在科研合作、人才培育等領域進行生態化合作。以此來探索超算在智能時代的有效升級路徑。
回到存儲領域,華為OceanStor Pacific存儲為數據密集型超算示范中心提供了統一的數據底座,對異構化算力實現了堅實支撐,既確保了創新型的超算部署成功落地,同時還增強了結果驗證能力,提升了用戶操作體驗與運行效率。
未來,數據密集型超算將在AI走入千行百業、探索技術邊界的進程里起到中堅作用。而相關的存儲能力則是眾多想象力的基礎。
我們在今年的世界人工智能大會中,不僅能夠看到對AI基礎設施的關注,甚至能看到“基礎設施的基礎設施”迎來了升級進化。
基建是無數產業發展的靈魂,我們在高速公路、高鐵上見到的故事,正在AI、存儲中又一次上演著。
-
AI
+關注
關注
91文章
39812瀏覽量
301479
發布評論請先 登錄
解鎖邊緣智能新境界,天數智算AI邊緣算力模組賦能端側AI應用新篇章?
解鎖邊緣智能新境界,天數智算AI邊緣算力模組賦能端側AI應用新篇章?
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的未來:提升算力還是智力
睿海光電領航AI光模塊:超快交付與全場景兼容賦能智算時代——以創新實力助力全球客戶構建高效算力底座
高達2070TFLOPS算力|騰視科技基于NVIDIA Jetson Thor系列模組,重磅推出全棧AI邊緣智算大腦解決方案
高達2070TFLOPS算力|騰視科技基于NVIDIA Jetson Thor系列模組,重磅推出全棧AI邊緣智算大腦解決方案
高達2070TFLOPS算力騰視科技基于NVIDIA Jetson Thor系列模組,重磅推出全棧AI邊緣智算大腦解決方案
I/O密集型任務開發指導
CPU密集型任務開發指導
借助NVIDIA技術實現機器人裝配和接觸密集型操作
給AI時代裝配“新大腦”:數據密集型超算帶來了哪些變革?
評論