国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

浪潮信息趙帥:開放計算創新 應對Scaling Law挑戰

全球TMT ? 來源:全球TMT ? 作者:全球TMT ? 2024-08-15 16:02 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

北京2024年8月15日/美通社/ -- 日前在2024開放計算中國峰會上,浪潮信息服務器產品線總經理趙帥表示,智能時代,開源模型和開放計算激發了人工智能產業生態的創新活力,面對大模型Scaling Law帶來的AI基礎設施Scale up和Scale out的挑戰,數據中心需要以開放創新加速算力系統、管理和基礎設施的全向Scale進程,推動AI產業的創新發展。

wKgaoma9th6AVbJVAAC1lErw8VU701.jpg


開源開放推動人工智能創新與算力生態的全面發展

生成式人工智能的飛躍式進步正在加速智能時代的到來,數據中心基礎設施面臨全方位創新,將越來越依賴更加廣泛的全球化開放協作,加速AI技術創新與應用,共同構建一個充滿創新活力的智能世界,而激發人工智能創新活力,開源開放是核心和源泉。

模型開源激發人工智能創新活力。隨著開源大模型能力的不斷增強和開源生態的持續壯大,帶動模型、應用到產業的全面發展,三分之二的基礎模型選擇開源,超過80%以上的AI項目使用開源框架進行開發,開源模型的下載量突破3億次,并衍生出超過 3萬個新模型,Llama 3.1、通義千問、源2.0等開源大模型成為人工智能創新的驅動力。

硬件開放完善人工智能算力生態。人工智能帶來指數級增長的算力需求,全球已有上百家公司投入新型AI芯片的研發與設計,百花齊放的算力芯片需要統一的算力平臺才能快速推向市場,實現落地。開放加速規范OAM的出現大大加速多元算力芯片的適配兼容過程,大幅降低資源投入,使算力部署和迭代提速,支撐上層大模型和AIGC應用的快速迭代成熟。目前,90% 高端AI芯片基于OAM規范設計,去年浪潮信息剛剛發布的基于OAM規范的開放加速計算平臺NF5698G7與多款主流AI加速芯片適配兼容,基于OAM的智算產業生態圈日趨完善。

我們可以看到,AI時代,算力正在呈現出多元化的發展趨勢。為應對AIGC、云計算、大數據等應用復雜且不斷變化的計算需求,不僅僅是GPU,CPU、FPGA、ASIC等芯片也在朝著更加多樣化和專用化的方向發展。而且無論是手機電腦、邊緣設備、CPU通用服務器、加速服務器都具有了AI計算的能力,可以說一切計算皆AI,AI算力已經深入到千行百業,滲透進每一個計算設備里。面向人工智能的算力范式不斷革新,基于CPU的通用服務器不僅要承載大數據、關鍵計算、科學計算外,也要承擔AI應用的重要任務,這也是CPU通用服務器的重大機遇。

但隨著應用范式的多樣化,目前x86、ARM、RISC-V等不同架構的CPU處理器百花齊放,僅中國,就有10多種CPU處理器,不同CPU協議標準不統一,同時為了更好的適合AI推理高并行的計算特點,CPU總線互聯帶寬、內存帶寬及容量也需要特別優化,使得系統功耗、總線速率、電流密度不斷提升……多種因素疊加之下,硬件開發、固件適配、部件測試資源等時間激增,給算力系統設計帶來巨大挑戰。

為了縮短從芯片到算力系統的轉化時間,給用戶提供更快、更好的算力支撐,CPU端也亟需構建智算時代的CPU統一底座, 能夠兼容不同芯片廠商、多代產品。2024開放計算中國峰會上,開放算力模組(OCM)規范正式啟動,首批成員包括中國電子標準院、百度、小紅書、浪潮信息、聯想、超聚變、英特爾AMD等機構和企業。

wKgZoma9th-AL50sAADMAXcn7K4485.jpg


全新的開放算力模組OCM規范,旨在建立基于處理器的標準化算力模組單元,通過統一不同處理器算力單元對外高速互連、管理協議、供電接口等,實現服務器主板平臺的深度解耦和模塊化設計,兼容不同架構的多代處理器芯片,方便客戶根據人工智能、云計算、大數據等多樣化應用場景,靈活、快速匹配最適合的算力平臺,推動算力產業高質量快速發展。

OCM規范是國內首個服務器計算模組設計規范,產業界上下游伙伴將基于OCM規范,共同建立標準化的算力模組單元,構建開放合作、融合創新的產業生態,為用戶提供更多通用性強、綠色高效、安全可靠的算力選擇。

以開放創新的全向Scale應對大模型第一性原理

算力、算法和數據是推動人工智能發展的三駕馬車,自Transformer架構出現以來,大模型性能與其參數量、計算當量、數據量的協同作用尤為顯著,業界稱之為大語言模型的第一性原理——Scaling Law。

智算時代,需要用開放的理念來加速算力系統全向Scale,從而應對大模型的Scaling Law。隨著大模型能力的持續進化,算法規模和復雜性不斷增加、數據量越來越大,算力需求也在不斷攀升,需要同時應對單系統性能提升Scale up與多系統大規模擴展Scale out兩個方向擴展的挑戰,對數據中心基礎設施、算力管理、迭代升級等都提出了更高要求。

wKgaoma9th-AbzXlAABtwq38_7g324.jpg

在算力方面,智算中心需要同時應對兩個方向的擴展,分別是強算力支持、一機多芯、多元多模的單機系統Scale up要求和大規模AI組網、高帶寬、資源池化的大規?;瘮U展Scale out要求,以開放加速模組和開放網絡實現算力的Scale。UBB2.0開放標準支持更高算力規格的加速卡、可以實現更大的OAM domain互聯,未來可以支持8000+ 張加速卡Scale up,突破大模型All to All通信過程中的互聯瓶頸。同時,大模型的發展需要更大規模的算力系統,浪潮信息開放網絡交換機可實現16000+個計算節點10萬+加速卡的Scale out組網,滿足加速卡之間的互聯通信需求,帶寬利用率高達95%+。

在管理方面,需要解決跨平臺適配、模塊化架構、快速迭代的Scale要求,以開放的固件解決方案實現了管理的Scale。當前,異構算力多元分化,異步迭代,管理接口規范各不相同,導致固件平臺分支版本龐大,相互割裂,無法歸一,單一企業資源在維護和適配如此眾多的分支版本方面捉襟見肘。為解決一系列管理挑戰,需要依托于開源社區的開源固件平臺,構建原生解耦架構提升可擴展性,建立統一標準的接口規范,支持用戶對于自主模塊進行定制化,實現標準接口規范下的異步、自主定制迭代,以滿足智算時代的算力迭代需求。

在基礎設施方面,數據中心面臨智能算力擴展的兩大Scale挑戰:一是GPU、CPU算力提升,單芯片單卡功耗急劇增加,單機柜在供電和制冷上面臨著Scale up支撐挑戰;同時,Scaling Law驅動GPU規模無限膨脹,達到萬卡、十萬卡級別,帶來了數據中心層級Scale out的支撐挑戰,需要開放標準和開放生態將實現基礎實施的Scale,滿足快速建設、高算力/高能耗支撐要求。采用開放標準、開放生態構建的數據中心基礎設施,能更好地匹配智算時代多元、異構算力的擴展和迭代速度,進而支撐上層智能應用的進一步普及。以浪潮信息為例,基于開放標準推出的液冷冷板組件,支撐單機系統內GPU和CPU核心算力原件Scale up擴展;推出模塊化、標準接口的120kw機柜,兼容液冷、風冷場景,支撐柜內更大的部署需求;推出基于開放標準的預制化集裝箱數據中心,大幅壓縮建設周期,其擴展性很好的滿足了AI算力系統的Scale需要。

開放計算為數據中心的全向Scale,提供了一個可以迅速傳遞到整個產業鏈的"通道"。目前,開放加速模組和開放網絡實現了算力的Scale,開放固件解決方案實現了管理的Scale,開放標準和開放生態實現了基礎設施的Scale。開放計算對于智算時代至關重要,需要用開放應對多元算力,用開放促進算力的Scale,基于開放創新構建的全向Scale能力將會成為未來AI基礎設施的核心驅動力,加速智算時代的創新,加速人工智能的前行。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 服務器
    +關注

    關注

    14

    文章

    10251

    瀏覽量

    91481
  • 浪潮
    +關注

    關注

    1

    文章

    476

    瀏覽量

    25418
  • AI
    AI
    +關注

    關注

    91

    文章

    39776

    瀏覽量

    301373
  • 人工智能
    +關注

    關注

    1817

    文章

    50095

    瀏覽量

    265312
  • 大模型
    +關注

    關注

    2

    文章

    3650

    瀏覽量

    5181
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    3年10億,攜手攻堅:“AI計算開放架構聯合實驗室”協同創新計劃正式啟動

    在剛剛結束的光合組織2025人工智能創新大會(HAIC2025)上,一項項助力中國AI產業發展、推動產業底層協同等的關鍵舉措逐一發布,包括30余家生態企業聯合發起的“AI計算開放架構聯合實驗室”首批
    發表于 12-21 16:15 ?1925次閱讀
    3年10億,攜手攻堅:“AI<b class='flag-5'>計算</b><b class='flag-5'>開放</b>架構聯合實驗室”協同<b class='flag-5'>創新</b>計劃正式啟動

    開放筑基,生態共榮:HAIC2025 引領中國AI計算邁向協同新紀元

    分享與5000余平方米實景展區,全景呈現中國AI計算開放架構的創新實踐與生態繁榮。這不僅是一場產業盛會,更是中國AI計算產業在“人工智能+”的關鍵階段,對
    發表于 12-18 18:27 ?922次閱讀
    <b class='flag-5'>開放</b>筑基,生態共榮:HAIC2025 引領中國AI<b class='flag-5'>計算</b>邁向協同新紀元

    集特智能亮相光合組織AI創新大會,以專業硬件助力開放計算生態

    光合組織2025人工智能創新大會于12月17日至19日在昆山舉辦。作為國內首個以“AI計算開放架構”為核心的行業盛會,吸引了超過 2500家企業 參展參會。本次大會由光合組織主辦,這是國家先進
    的頭像 發表于 12-18 14:18 ?930次閱讀
    集特智能亮相光合組織AI<b class='flag-5'>創新</b>大會,以專業硬件助力<b class='flag-5'>開放</b><b class='flag-5'>計算</b>生態

    Positronic OCP電源連接器助力打造開放數據中心

    隨著云計算的發展,特別是近年來人工智能(AI)技術和應用的突飛猛進,全球數據中心的建設一直在加速。新一代數據中心在提供澎湃算力的同時,還要滿足高能效、低成本的運營要求,這對于開發者來說是個不小的挑戰。為了應對這一
    的頭像 發表于 12-01 15:31 ?619次閱讀

    Arm獲任開放計算項目董事會成員

    Arm 在推動行業開放與制定行業標準方面的獨特技術領導力,助力塑造人工智能 (AI) 數據中心的未來格局。作為 OCP 董事會成員,Arm 將攜手 Meta、Google、英特爾、微軟等計算領域的領先企業,共同推進 AI 數據中心領域
    的頭像 發表于 10-18 14:49 ?1646次閱讀

    東芝硬盤榮獲開放計算最佳創新

    日前,由全球最大的開放計算社區OCP主辦的2025開放計算技術大會在北京舉行,該會議是開放計算
    的頭像 發表于 08-19 16:49 ?2246次閱讀

    第三屆開放原子大賽開源鴻蒙創新應用挑戰賽正式啟動

    在7月舉行的2025開放原子開源生態大會上,第三屆開放原子大賽(簡稱“大賽”)正式啟動。開放原子大賽是由開放原子開源基金會舉辦的面向開源領域的技術類賽事。大賽面向開源組織、企事業單位、
    的頭像 發表于 08-14 16:10 ?1216次閱讀

    浪潮信息發布&quot;元腦SD200&quot;超節點,面向萬億參數大模型創新設計

    北京2025年8月8日 /美通社/ -- 8月7日,浪潮信息發布面向萬億參數大模型的超節點AI服務器"元腦SD200"。該產品基于浪潮信息創新研發的多主機低延遲內存語義通信架構,以開放
    的頭像 發表于 08-08 22:17 ?675次閱讀
    <b class='flag-5'>浪潮信息</b>發布&quot;元腦SD200&quot;超節點,面向萬億參數大模型<b class='flag-5'>創新</b>設計

    村田中國亮相2025開放計算創新技術大會:以創新技術驅動智能化發展

    2025年8月7日,中國北京——今日,全球居先的綜合電子元器件制造商村田中國(以下簡稱“村田”) 亮相2025開放計算創新技術大會(OCP China Day),圍繞大會“開放變革:筑
    的頭像 發表于 08-07 16:09 ?814次閱讀
    村田中國亮相2025<b class='flag-5'>開放</b><b class='flag-5'>計算</b><b class='flag-5'>創新</b>技術大會:以<b class='flag-5'>創新</b>技術驅動智能化發展

    是德科技邀您相約2025開放計算創新技術大會

    2025開放計算創新技術大會將于8月7日在北京國際飯店舉辦,圍繞“開放變革”主題,分享開放計算
    的頭像 發表于 08-01 16:41 ?1507次閱讀

    LitePoint如應對UWB測試挑戰

    超寬帶(UWB)連接已成為現代無線通信系統的重要組成部分。然而,隨著UWB應用的日益廣泛,相關的測試與測量挑戰也隨之增加。在本篇博客中,我們將探討LitePoint如何從設備研發初期的構思,到驗證與特性分析,再到批量生產,全程應對這些測試
    的頭像 發表于 07-25 15:43 ?2328次閱讀
    LitePoint如<b class='flag-5'>應對</b>UWB測試<b class='flag-5'>挑戰</b>

    飛利信與浪潮信息達成戰略合作

    近日,2025年浪潮信息北京ISP戰略伙伴簽約授牌儀式成功舉辦。浪潮信息與北京飛利信電子技術有限公司等22家戰略合作伙伴達成簽約,其中將面向北京人工智能應用大市場,在產品技術共創、行業場景深化及區域
    的頭像 發表于 06-24 17:37 ?1104次閱讀

    筑基&quot;AI+人才&quot;培養,浪潮信息攜手元腦伙伴拓爾思推出智慧教育新平臺

    北京2025年3月22日?/美通社/ -- 近期,元腦生態伙伴拓爾思信息技術股份有限公司(以下簡稱:拓爾思)攜手浪潮信息,聯合為高校AI人才培養推出"AI創新培養綜合服務平臺",基于該平臺實現實訓
    的頭像 發表于 03-27 16:56 ?822次閱讀
    筑基&quot;AI+人才&quot;培養,<b class='flag-5'>浪潮信息</b>攜手元腦伙伴拓爾思推出智慧教育新平臺

    天瞳威視與浪潮信息達成戰略合作,推進高階智駕車載計算系統創新

    北京2025年3月22日?/美通社/ -- 近日,蘇州天瞳威視電子科技有限公司與浪潮信息旗下蘇州元腦智能科技有限公司達成戰略合作協議。此次合作依托浪潮信息提供的車載算力平臺硬件系統、底層軟件環境
    的頭像 發表于 03-27 16:55 ?637次閱讀
    天瞳威視與<b class='flag-5'>浪潮信息</b>達成戰略合作,推進高階智駕車載<b class='flag-5'>計算</b>系統<b class='flag-5'>創新</b>

    浪潮信息:元腦企智DeepSeek一體機將舉辦生態伙伴推介體驗會

    ?3月11日,浪潮信息將面向全國元腦生態伙伴舉辦"元腦企智DeepSeek一體機生態伙伴推介體驗會"。活動現場,伙伴可深入了解元腦企智DeepSeek一體機的最新功能亮點,上手實操體驗深度優化的元腦
    的頭像 發表于 03-09 14:20 ?594次閱讀
    <b class='flag-5'>浪潮信息</b>:元腦企智DeepSeek一體機將舉辦生態伙伴推介體驗會