国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

千億美元打造一個系統,成本越來越高的AI超算

E4Life ? 來源:電子發燒友 ? 作者:周凱揚 ? 2024-04-09 00:19 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發燒友網報道(文/周凱揚)從近年來新發布的超算機器和新的HPC AI性能榜單可以看出,AI算力已經在超算中成了不可忽視的性能指標之一,但也為廠商帶來了更大的成本挑戰。比如微軟近期就爆出和OpenAI合作,打造一個千億美元級別的超算系統。

千億美元打造AI超算

根據外媒報道,此次打造的千億美元超算系統名為Stargate,星門。這一超算系統僅僅只是微軟和OpenAI一系列數據中心合作項目之一,但造價已經高到離譜了。從規模上看,這個超算的硬件配置已經到了遠超現有系統的程度。據爆料,星門將集成百億個最新的英偉達GPU,造價可能會達到1150億美元。不過在互聯方案上,微軟可能會跳過英偉達的InfiniBand專用方案,而采用更加通用以太網方案。

當然了,雖然總成本較高,但微軟并沒有一次建成的部署策略,而是分拆成五個階段,整個項目在2028年成功建成。這樣可以盡早讓該系統投入使用,畢竟對于新的模型而言,率先發布才不會錯失市場機會。這或許也與微軟采用通用的以太網方案有關,畢竟面對跨度如此長的方案而言,專用方案很可能會面臨被兼容性差和被淘汰的局面。微軟預計會在第四階段,也就是2026年左右,正式啟用這一超算系統。

除此之外,超算的部署地點依然待定,這無疑與部署地的電網供電能力息息相關,當地政府如果能提供支持自然最好。不過從硬件規模來看,單系統的耗電已經達到千兆瓦級,無論是對美國哪個州而言,都是巨大的供電挑戰。也正因如此,微軟正在考慮核能在內的其他替代能源方案。

超算部署成本發生的變化

時至今日,微軟已經在OpenAI上花了130億美元,使用其數據中心來為ChatGPT之類的應用提供硬件支持。但此次的星門項目更是規模浩大,這也說明了新模型的訓練和推理,仍在對數據中心的硬件提出新的要求,需要用性能更強的AI超算來解決。

但這并不意味著普遍的超算成本真的有這么夸張的變化,要知道目前TOP500上排名第一的超算Frontier,其成本也只有6億美元。對于科研專用的單個超算系統而言,雖然造價不算低,但在政府的科研經費支持下,研究機構還是可以負擔起的。

不過值得注意的是,TOP500上的超算都有公開的跑分成績,為了實現這樣的成績,需要一定時間的優化,再運行一段時間的測試才會有此成績。而市面上,尤其是在不少大型互聯網公司內部,也存在并沒有公開提交成績的超算,因為這類系統幾乎是從誕生起就被投入商業使用了。

所以市面上肯定有超過6億美元的超算系統,比如Meta就在幾個月前打造了兩套系統,分別集成了2萬個H100 GPU,總成本在10億美元以上。其他的互聯網公司,諸如國內的百度、騰訊等,想必也有龐大的硬件購買計劃。

寫在最后

隨著HPC與AI在需求和計算負載上的融合,市場趨勢從前幾年的“帶AI功能的HPC系統”變成了“同樣可以用于HPC的AI系統”。但從其規模來看,對于HPC市場也未嘗不是一件好事,畢竟目前AI超算的商業價值更高,能夠吸引到更多的投資和補貼,也有望進一步推動HPC硬件的革新速度。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    91

    文章

    39755

    瀏覽量

    301349
  • HPC
    HPC
    +關注

    關注

    0

    文章

    346

    瀏覽量

    24971
  • 超算
    +關注

    關注

    1

    文章

    118

    瀏覽量

    9531
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    AMD獲Meta千億美元芯片大單,AI芯片市場格局生變

    GPU的AMD Helios整機柜服務器,預計于今年晚些時候開啟交付。 AMD首席執行官蘇姿豐稱,交易價值每吉瓦達百億美元級別,協議總金額或600億美元,甚至可能達到上千億
    的頭像 發表于 02-26 09:19 ?2424次閱讀
    AMD獲Meta<b class='flag-5'>千億</b><b class='flag-5'>美元</b>芯片大單,<b class='flag-5'>AI</b>芯片市場格局生變

    內存是AI能效提升的下一個前沿領域

    我們正在進入新的計算時代。AI 工作負載的占比越來越高,已成為影響企業基礎設施戰略、硅芯片路線圖和業務指令的決定性力量。如今的 AI,規模大到令人咋舌:超大規模企業正在部署單個集群中包含數萬塊
    的頭像 發表于 02-09 09:47 ?442次閱讀

    為什么原廠越來越需要套自己的 Studio

    過去幾年,在和 MCU 原廠的合作過程中,趨勢越來越明顯: 原廠正在從“只提供芯片”,走向“提供完整使用路徑”。 而 Studio 工具,正好處在這個變化的中心。 、芯片性能已經
    發表于 02-05 09:37

    高速互聯技術正在成為AI力發展的關鍵基礎設施

    當大模型參數規模從百億邁向千億、萬億級,AI 的競爭早已不再只是芯片性能的比拼,而是系統級工程能力的競爭。越來越多行業共識正在形成:
    的頭像 發表于 02-04 14:50 ?482次閱讀
    高速互聯技術正在成為<b class='flag-5'>AI</b><b class='flag-5'>算</b>力發展的關鍵基礎設施

    特種電子系統也有高溫挑戰,電源模塊要求越來越高

    、為何軍工領域迫切需要高溫DC/DC電源模塊? 軍工電子設備經常需要在極端惡劣的環境下工作,其中高溫是最常見的嚴酷條件之。高溫DC/DC電源模塊的應用場景主要包括: 1.航空航天與飛行器
    的頭像 發表于 11-20 15:35 ?413次閱讀
    特種電子<b class='flag-5'>系統</b>也有高溫挑戰,電源模塊要求<b class='flag-5'>越來越高</b>

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的未來:提升力還是智力

    新信息的情況下持續學習和改進的AI計算方式。 終身短發怎么保持已有知識和技能的有效性呢 ①知識蒸餾:將已有知識從模型轉移到另一個模型 ②知識更新:根據新知識更新已有知識 ③知識重組
    發表于 09-14 14:04

    睿海光電領航AI光模塊:快交付與全場景兼容賦能智時代——以創新實力助力全球客戶構建高效力底座

    、AI力革命催生光模塊新需求,睿海光電以技術優勢搶占制高點 人工智能、超大規模數據中心和云計算的高速發展,對光模塊的傳輸效率、兼容性及交付周期提出更高要求。作為全球AI光模塊領域的
    發表于 08-13 19:03

    文看懂AI力集群

    最近這幾年,AI浪潮席卷全球,成為整個社會的關注焦點。大家在討論AI的時候,經常會提到AI力集群。AI的三要素,是
    的頭像 發表于 07-23 12:18 ?1595次閱讀
    <b class='flag-5'>一</b>文看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b>力集群

    便攜式AI突破:DFRobot LattePanda Mu 助力泛靈人工智能RM-01實現“公文包里的

    在人工智能力需求爆炸式增長的今天,傳統GPU服務器的高功耗、高成本和大體積限制了AI技術的靈活部署。泛靈人工智能(PanlingAI)推出的RM-01桌面推理
    的頭像 發表于 07-23 10:34 ?884次閱讀
    便攜式<b class='flag-5'>AI</b>突破:DFRobot LattePanda Mu 助力泛靈人工智能RM-01實現“公文包里的<b class='flag-5'>超</b><b class='flag-5'>算</b>”

    后摩爾時代:芯片不是越來越涼,而是越來越

    1500W,而在消費領域,旗艦顯卡RTX5090也首次引入了液態金屬這更高效但成本更高的熱界面材料(TIM)。為什么芯片越來越熱?它的熱從哪里來?芯片內部每一個晶體管
    的頭像 發表于 07-12 11:19 ?1914次閱讀
    后摩爾時代:芯片不是<b class='flag-5'>越來越</b>涼,而是<b class='flag-5'>越來越</b>燙

    Intel至強6:AI江湖的幕后大佬、NVIDIA B300的唯伙伴

    隨著生成式AI、預測式AI的浪潮波高過波,工作負載的類型越來越豐富、復雜度越來越高,對于
    的頭像 發表于 06-19 16:37 ?728次閱讀
    Intel至強6:<b class='flag-5'>AI</b>江湖的幕后大佬、NVIDIA B300的唯<b class='flag-5'>一</b>伙伴

    加速卡是什么東西?它真能在AI戰場上干掉GPU和TPU!

    隨著AI技術火得塌糊涂,大家都在談"大模型"、"AI加速"、"智能計算",可真到了落地環節,力才是硬通貨。你有沒有發現,現在越來越多的
    的頭像 發表于 06-05 13:39 ?1643次閱讀
    智<b class='flag-5'>算</b>加速卡是什么東西?它真能在<b class='flag-5'>AI</b>戰場上干掉GPU和TPU!

    昆侖芯節點產品推出,大模型訓推任務性能跨越式提升

    AI開發者大會上,昆侖芯作為底層力核心被高頻提及,三萬卡集群點亮振奮人心,昆侖芯節點也在大會上正式發布。 ? ? 自ChatGPT問世,大模型參數快速增長,單卡顯存無法容納越來越
    的頭像 發表于 04-25 19:29 ?2246次閱讀

    90元打造小智AI腕表,語音交互有趣!

    最近小智AI非?;穑@周給大家分享來自開源平臺的小智AI腕表項目。 項目作者@dotnfc,復刻成本90元左右,開源協議:MIT Lic
    發表于 04-16 14:26

    DeepSeek推動AI力需求:800G光模塊的關鍵作用

    力集群的部署過程中,帶寬瓶頸成為制約力發揮的關鍵因素,而光模塊的速率躍升成為突破這瓶頸的核心驅動力。 光模塊速率躍升 隨著力集群的規模不斷擴展,AI應用所需的帶寬要求也在急
    發表于 03-25 12:00