AMD首席執行官蘇姿豐出席imec ITF World 2024大會并榮獲創新獎,此項榮譽旨在肯定其卓越創新及引領行業發展之貢獻。先前同樣獲得該獎項的還有戈登·摩爾和比爾·蓋茨。
會議期間,蘇姿豐談論了AMD如何通過實施30x25戰略推動2025年計算節點能效提升30倍的目標。她進一步透露,AMD已找到2026年至2027年間將能效提升100倍以上的解決方案。
隨著生成式AI LLM如ChatGPT的崛起,AI功耗問題日益凸顯。AMD早在2021年便洞察到AI龐大功耗需求所引發的挑戰,并以此為契機啟動30x25戰略,致力于提升數據中心計算節點能效,尤其針對AI和HPC的高能耗問題。
隨著訓練模型所需算力不斷攀升,AI功耗問題愈發嚴峻。蘇姿豐指出,早期圖像和語音識別AI模型體積每兩年翻番,與過去十年計算能力提升速度相當。然而,生成式AI模型規模現今正以每年20倍的速度擴張,遠超計算和存儲進步速度。盡管當前最大模型需借助數萬個GPU進行訓練,耗費數萬兆瓦時電力,但未來模型規模迅速擴大后,或需動用數十萬個GPU,甚至數吉瓦時電力進行訓練。
為了提升能效,AMD采取了全方位策略,涵蓋硅架構升級、先進封裝策略、AI專用架構設計、系統及數據中心級調整,以及軟硬件協同設計等多個層面。
硅材料無疑是基礎。蘇姿豐強調,AMD正在推進3nm GAA晶體管研發,旨在提升功率效率和性能,同時持續關注先進封裝和互聯技術,以實現更高效、經濟的模塊化設計。先進封裝在突破單芯片封裝性能瓶頸方面具有重要意義,AMD采用2.5D和3D封裝混合技術,最大化每平方毫米數據中心硅片的計算能力。
在服務器節點與服務器機架間傳輸數據因距離過長導致額外電力消耗,優化數據局部性可大幅節約能源。AMD MI300X展示了大規模芯片封裝所帶來的效率優勢——該芯片包含1530億個晶體管,分布在12個芯片上,配備24個HBM3芯片,提供192GB存儲容量,均可作為本地內存供GPU使用。此外,封裝內單元間經功率和性能優化的Infinity Fabric互連,使得極高的計算和存儲密度能夠將更多數據保存在接近處理核心的位置,從而降低數據傳輸所需能量。
-
amd
+關注
關注
25文章
5683瀏覽量
139945 -
gpu
+關注
關注
28文章
5194瀏覽量
135434 -
HPC
+關注
關注
0文章
346瀏覽量
24974 -
生成式AI
+關注
關注
0文章
538瀏覽量
1085
發布評論請先 登錄
數據中心液冷監測解決方案:驅動高效冷卻,護航綠色算力
北大團隊最新研究:AI芯片算力提升數倍,能效提升超90倍
人工智能數據中心的光纖布線策略
睿海光電以高效交付與廣泛兼容助力AI數據中心800G光模塊升級
施耐德電氣助力百年學府數據中心改造升級
加速AI未來,睿海光電800G OSFP光模塊重構數據中心互聯標準
西門子G120XA變頻器:數據中心能效革命的核心引擎
流量與壓力傳感:數據中心液冷的″智慧之眼″
如何破解數據中心能效難題?該方案提供創新策略
數據中心能效困局怎么解?安科瑞電氣提供解決方案
AMD披露高效數據中心策略,預計至2027年能效提升超百倍
評論