国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

異構+Chiplet—通往數據中心的能效之路

奇異摩爾 ? 來源:奇異摩爾 ? 2023-06-21 15:50 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著以大模型為代表的AIGC迅速崛起,數據到算力需求的持續暴漲,為數據中心帶來了巨大的考驗。為填補算力鴻溝,下一代數據中心必須要具備更高的算力密度、更大的網絡規模,并能夠靈活地部署和更新海量新應用。

在這一輪新的技術方向中,異構計算架構和Chiplet技術因能有效提升復雜場景計算效率,算力密度和網絡規模,被普遍視為通往數據中心未來的能效之路。

AIGC或將撕開數據中心算力缺口

在AI大模型飛速發展之下,單個大語言訓練驅動AI訓練服務器需求約2億美元,AI推理服務器方面,如ChatGPT在初期便可帶動推理服務器需求約45億美元。

據中國信通院,2021年國內IDC市場規模1500.2億元,同比增長28.5%。據信通院預計,隨著我國各地區、各行業數字化轉型深入推進、AI訓練需求持續增長、智能終端實時計算需求增長,2022年國內市場規模將達1900.7億元,同增26.7%。

算力作為大模型的核心引擎,計算方式簡單粗暴,即實際擁有多少的GPU芯片,將直接決定其算力的大小。以ChatGPT為例,其模型計算主要基于微軟的Azure云服務進行,本質上是借助微軟自有的IDC資源,在云端完成計算過程后,再將結果返回給OpenAI。

AIGC所需的算力不是固定的,而是逐次遞增的。數據中心是承接AI計算需求的直接形式,其算力需求為AIGC的能力所驅動,也就是AIGC越聰明,其背后所需要的算力就越多,而供需雙方存在的現實差距,則讓數據中心的算力缺口變得愈加嚴重。

互聯網廠商布局ChatGPT同類產品,或將加大核心城市IDC算力供給缺口。艾瑞咨詢數據顯示,2021年國內IDC行業下游客戶占比中,互聯網廠商居首位,占比為60%,國內核心城市IDC算力供給缺口或將加大。

AIGC時代,智能算力崛起

隨著人工智能進入新的發展周期,以及大模型的興起,傳統的芯片需求結構發生了變化。盡管總體算力仍在增長,但通用計算力由CPU主導的比例正在下降,而智能計算力由GPU主導的比例逐漸增加。

目前,GPU在AI芯片市場的占比約為90%。根據VMR的數據,2021年全球GPU行業市場規模為334.7億美元,隨著大型模型訓練的成熟,預計到2030年將達到4773.7億美元,年均增長率為34.35%。

新華三集團副總裁、計算存儲產品線總裁徐潤安在接受媒體采訪時表示,智能算力占比變大原因在于,x86架構CPU單核性能強、通用性好。但AI場景需要多核、高并發、高帶寬芯片。綜合考慮成本、效率,GPU、DPU、NPU通常表現更好。CPU部分職能被其他專用芯片分擔。在他看來,大模型會帶來巨大的智能算力消耗。

Chiplet:破局數據中心未來

近20年中,單一的制程微縮已被證明無法趕上對性能需求的步伐。尤其是在數據中心,情況遠比客戶端產品更為復雜,一個非常典型的情況是多個客戶端在同一產品上運行工作負載,如多核CPU或GPU。于是,人們開始將未來依托在將計算單元、內存等和其他模塊成在同一封裝上的Chiplet異構集成路線之上。

Chiplet架構對于服務器處理器而言意義非凡,大大降低了處理器的開發門檻和成本,起到了巨大的推動作用。正如AMD開創性的chiplet產品所證明的那樣,轉向chiplet技術可以顯著改善數據中心的計算成本,并提高互連效率。迄今,全球主流服務器芯片廠商都開始將chiplet納入自身產品的主要路徑之一。

就此,英特爾 IO 技術解決方案團隊戰略家Kurt Lender 總結了 chiplet 技術的影響“有合理的預期,未來 10 年的 HPC 采購將利用 chiplet 技術更好地支持他們的科學工作負載。” AMD 的 CEO Lisa Su也表現出了同樣的期待,當被問及她是否認為未來 10 年的 HPC 采購指定定制chiplet設計的計算芯片而不是現成的商品時,她回答“是”。

Kurt Lender 表示,創建基于 UCIe 的chiplet 設計在成本方面具有顯著的優勢,“有各種縱向擴展和橫向擴展的成本優勢,包括由于與單片硅設計相比占地面積更小而導致chiplet的高良率而節省的成本,以及能夠指定可以利用 HPC 冷卻功能的高密度、高功率封裝。在其最完整的表達中,基于chiplet 的架構使設計人員能夠將來自多個供應商的 IP 和不同職稱工藝技術的芯粒快速集成到一個封裝中。”

關于隨著以大模型為代表的人工智能大規模計算的迅速崛起,數據中心的算力難題不斷加劇。而異構和Chiplet會將數據中心的未來引向何處,還讓我們拭目以待。???????




審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • GPU芯片
    +關注

    關注

    1

    文章

    307

    瀏覽量

    6517
  • OpenAI
    +關注

    關注

    9

    文章

    1245

    瀏覽量

    10071
  • chiplet
    +關注

    關注

    6

    文章

    495

    瀏覽量

    13603
  • 奇異摩爾
    +關注

    關注

    0

    文章

    79

    瀏覽量

    4037
  • ChatGPT
    +關注

    關注

    31

    文章

    1598

    瀏覽量

    10268
  • 先進封裝
    +關注

    關注

    2

    文章

    533

    瀏覽量

    1027
  • 芯粒
    +關注

    關注

    1

    文章

    85

    瀏覽量

    424

原文標題:異構+Chiplet,通往數據中心的能效之路

文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    數據中心電站遠程監控管理系統方案

    在全球數字經濟與綠色能源轉型的雙重驅動下,數據中心作為算力基礎設施的核心,其供電安全與管理日益成為關鍵議題。儲電站作為數據中心電力保障
    的頭像 發表于 02-11 15:11 ?200次閱讀
    <b class='flag-5'>數據中心</b>儲<b class='flag-5'>能</b>電站遠程監控管理系統方案

    1分鐘帶你了解數據中心供電架構 #電子元器件 #數據中心 #供電架構

    數據中心
    沛城芯動力
    發布于 :2026年02月03日 15:39:04

    安森美多系列功率器件產品助力突破AI數據中心瓶頸

    隨著 AI 算力需求的爆發式增長,數據中心正面臨功率密度激增、能耗加劇及行業效率標準日趨嚴苛的多重考驗。作為功率器件領域的領導廠商,安森美(onsemi)如何助力客戶突破瓶頸,以下通過安森美專家的核心回復,快速聚焦公司的技術
    的頭像 發表于 01-24 17:04 ?2177次閱讀

    安科瑞多回路電表對工業提升的計劃與數據中心分級計量指南

    1、概述 到2025 年,工業行業提升,數據中心等領域明顯提升,綠色低碳能源利用比例顯著提高,節能提
    的頭像 發表于 01-23 16:46 ?579次閱讀

    氮化硼TIM材料解決AI數據中心困境 | 晟鵬科技

    AI算力爆發的“熱情”與困境人工智能技術的飛速發展推動全球進入智能算力時代。ChatGPT、Sora等大模型的廣泛應用,使得數據中心的計算需求呈指數級增長。單個AI訓練服務器的功率密度已突破千瓦
    的頭像 發表于 09-22 07:30 ?865次閱讀
    氮化硼TIM材料解決AI<b class='flag-5'>數據中心</b>的<b class='flag-5'>能</b><b class='flag-5'>效</b>困境 | 晟鵬科技

    金升陽如何破解數據中心供電難題

    數據中心的龐大能耗版圖中,服務器作為核心業務載體,其電力消耗占比突出且對供電穩定性、持續性有著極高要求。而電源作為能源轉換的關鍵零部件,其表現直接決定著數據中心的能源利用效率。
    的頭像 發表于 09-01 14:42 ?972次閱讀
    金升陽如何破解<b class='flag-5'>數據中心</b>供電難題

    氮化硼有“涼”方,解決AI數據中心困境 | 晟鵬科技

    AI算力爆發的“熱情”與困境人工智能技術的飛速發展推動全球進入智能算力時代。ChatGPT、Sora等大模型的廣泛應用,使得數據中心的計算需求呈指數級增長。單個AI訓練服務器的功率密度已突破千瓦
    的頭像 發表于 08-26 09:42 ?1158次閱讀
    氮化硼有“涼”方,解決AI<b class='flag-5'>數據中心</b>的<b class='flag-5'>能</b><b class='flag-5'>效</b>困境 | 晟鵬科技

    施耐德電氣SmartCool助力數據中心升級

    某能源供應企業的數據中心,生產級別、最高安全要求的機房,承擔著多省核心業務命脈,這里停電1分鐘,意味著多省業務同時陷入癱瘓,“高安全,強監管”為其守住了“安全紅線”,也為其帶來了“不容試錯”的挑戰。
    的頭像 發表于 07-30 09:41 ?726次閱讀

    簡單認識安森美AI數據中心電源解決方案

    面對AI算力需求爆發式增長,數據中心電力系統正面臨前所未有的挑戰。安森美(onsemi)推出的AI數據中心電源解決方案,直擊、尺寸等痛點,助力客戶把握
    的頭像 發表于 07-05 13:03 ?3515次閱讀
    簡單認識安森美AI<b class='flag-5'>數據中心</b>電源解決方案

    西門子G120XA變頻器:數據中心革命的核心引擎

    在數字經濟爆發式增長的今天,數據中心已成為支撐社會運轉的"數字心臟"。然而,其龐大的能耗需求與綠色低碳目標之間的矛盾日益凸顯——尤其是冷卻系統作為數據中心第二大能耗單元(占比約35%),正成為
    的頭像 發表于 07-03 17:44 ?1099次閱讀
    西門子G120XA變頻器:<b class='flag-5'>數據中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>革命的核心引擎

    數據中心機房供配電體系構建與智慧管控方案

    個交叉的系統,涉及到市電供電、防雷接地、防靜電、UPS不間斷供電、柴油發電機等,每個系統互相交叉,互有影響,這就使我們在設計時必須考慮多方面的因素。本文從數據中心的高壓供電系統到末端精密配電系統介紹數據中心供配電及
    的頭像 發表于 05-14 14:52 ?1032次閱讀
    <b class='flag-5'>數據中心</b>機房供配電體系構建與<b class='flag-5'>能</b><b class='flag-5'>效</b>智慧管控方案

    如何破解數據中心難題?該方案提供創新策略

    ,占總能耗的 86% 左右,但傳統管理手段難以追蹤實時。高昂的能源消耗不僅增加了運營成本,也給能源供應帶來了巨大壓力。 政策法規推動: ? ? ? 2021 年 10 月,《數據中心
    的頭像 發表于 04-14 11:38 ?903次閱讀
    如何破解<b class='flag-5'>數據中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>難題?該方案提供創新策略

    數據中心困局怎么解?安科瑞電氣提供解決方案

    非常復雜,能源密度大,容易引發火災等安全問,需要采取安全用電監測,以確保供電系統不受非授權人員干擾。 3、精細管理 數據中心能源消耗大,PUE壓力大,電費成本高,通過搭建能源計量體系,可以實現精細化管理,提升PUE。 4、高
    的頭像 發表于 04-01 14:01 ?793次閱讀
    <b class='flag-5'>數據中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>困局怎么解?安科瑞電氣提供解決方案

    數據中心困局怎么解?這份方案給出妙方

    數據中心困局怎么解?這份方案給出妙方
    的頭像 發表于 03-14 08:05 ?517次閱讀
    <b class='flag-5'>數據中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>困局怎么解?這份方案給出妙方

    解鎖數據中心效能密碼:一站式綜合管理方案

    解鎖數據中心效能密碼:一站式綜合管理方案
    的頭像 發表于 03-08 08:13 ?707次閱讀
    解鎖<b class='flag-5'>數據中心</b>效能密碼:一站式綜合<b class='flag-5'>能</b><b class='flag-5'>效</b>管理方案