AI 算力正在以肉眼可見(jiàn)的速度不斷攀升
從大模型訓(xùn)練到推理部署,從單卡性能比拼到整機(jī)柜、整集群的系統(tǒng)能力競(jìng)爭(zhēng),AI 基礎(chǔ)設(shè)施的演進(jìn),早已不再只是“芯片性能”的問(wèn)題。
在實(shí)際工程中,一個(gè)共識(shí)正在形成:
算力越往上走,系統(tǒng)越難做。
當(dāng)功耗邁入千瓦級(jí)、互聯(lián)速率進(jìn)入 800G / 1.6T 時(shí)代,真正制約 AI 服務(wù)器穩(wěn)定運(yùn)行的,往往是兩類被低估的“底層問(wèn)題”。它們不在發(fā)布會(huì)的聚光燈下,卻決定著算力能否被真正釋放。
在最新兩期《科技叨叨叨》中,我們正是從工程視角,圍繞這些底層挑戰(zhàn)展開(kāi)了一次系統(tǒng)討論。
一、數(shù)據(jù)怎么跑得“又快又好”?
隨著 AI 服務(wù)器從通用計(jì)算走向超高密度算力集群,內(nèi)部互聯(lián)發(fā)生了根本變化:
?速率飆升:速率從400G → 800G → 1.6T
?單通道極限:?jiǎn)瓮ǖ浪俾蕪?12Gbps 提升至 224Gbps甚至448Gbps
?集群吞吐:?jiǎn)螜C(jī)柜帶寬突破10TB/s
這意味著:線纜不再只是一條線,而是信號(hào)完整性的關(guān)鍵一環(huán)。
有源線纜,正在成為主角。視頻中,嘉賓系統(tǒng)梳理了當(dāng)前高速線纜的四大類型:
?AOC(有源光纜)
?DAC(無(wú)源銅纜)
?ACC(帶 Re-driver 的有源銅纜)
?AEC(帶 Re-timer 的有源銅纜)
其中,有源銅纜(ACC / AEC)正在成為 AI 服務(wù)器中短距離通信的重要部分。
二、算力越大,服務(wù)器為什么越來(lái)越“熱”?
在 AI 液冷主題視頻中,一組數(shù)字揭示了散熱面臨的嚴(yán)峻挑戰(zhàn):
?單顆 AI 芯片功耗已達(dá) 1200–1400W
?下一代架構(gòu)甚至可能逼近2000W+
?單機(jī)柜功耗,正在向600kW演進(jìn)
而傳統(tǒng)風(fēng)冷的極限,通常只有20–40kW。
結(jié)論只有一個(gè):液冷不是“要不要”,而是“必須要”。AI 液冷,不只是“把熱帶走”那么簡(jiǎn)單,目前主流的液冷方案包括:
?冷板式液冷:改造相對(duì)小,逐步落地
?浸沒(méi)式液冷:效率極高,但對(duì)系統(tǒng)與材料要求更嚴(yán)苛
真正的技術(shù)難點(diǎn),反而藏在“看不見(jiàn)”的地方:
?冷卻液的介電常數(shù)、介質(zhì)損耗
?液體環(huán)境下的高速信號(hào)完整性
?PCIe 5.0 / 6.0、高速鏈路的誤碼與降速風(fēng)險(xiǎn)
也正因如此,液冷技術(shù)的發(fā)展,已經(jīng)從“散熱方案”升級(jí)為材料與電氣性能協(xié)同的工程問(wèn)題。
關(guān)于是德科技
是德科技(NYSE:KEYS)啟迪并賦能創(chuàng)新者,助力他們將改變世界的技術(shù)帶入生活。作為一家標(biāo)準(zhǔn)普爾 500 指數(shù)公司,我們提供先進(jìn)的設(shè)計(jì)、仿真和測(cè)試解決方案,旨在幫助工程師在整個(gè)產(chǎn)品生命周期中更快地完成開(kāi)發(fā)和部署,同時(shí)控制好風(fēng)險(xiǎn)。我們的客戶遍及全球通信、工業(yè)自動(dòng)化、航空航天與國(guó)防、汽車、半導(dǎo)體和通用電子等市場(chǎng)。我們與客戶攜手,加速創(chuàng)新,創(chuàng)造一個(gè)安全互聯(lián)的世界。
-
服務(wù)器
+關(guān)注
關(guān)注
14文章
10251瀏覽量
91478 -
AI
+關(guān)注
關(guān)注
91文章
39755瀏覽量
301354 -
算力
+關(guān)注
關(guān)注
2文章
1528瀏覽量
16740
原文標(biāo)題:AI 算力越往上走,越繞不開(kāi)這兩個(gè)底層問(wèn)題
文章出處:【微信號(hào):是德科技KEYSIGHT,微信公眾號(hào):是德科技KEYSIGHT】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
重磅上線!天數(shù)智算官網(wǎng)煥新出發(fā),AI算力賦能未來(lái)新生態(tài)?
重磅上線!天數(shù)智算官網(wǎng)煥新出發(fā),AI算力賦能未來(lái)新生態(tài)?
將AI算力送上太空,是終極方案還是瘋狂幻想?評(píng)論區(qū)說(shuō)出你的陣營(yíng)!
什么是AI邊緣算力模組??
國(guó)產(chǎn)AI芯片真能扛住“算力內(nèi)卷”?海思昇騰的這波操作藏了多少細(xì)節(jié)?
睿海光電領(lǐng)航AI光模塊:超快交付與全場(chǎng)景兼容賦能智算時(shí)代——以創(chuàng)新實(shí)力助力全球客戶構(gòu)建高效算力底座
算力之后看存力,英韌科技洞庭-N3X SSD推動(dòng)AI和邊緣計(jì)算存儲(chǔ)升級(jí)
算力即國(guó)力,比克電池如何為AI時(shí)代“蓄能
RAKsmart智能算力架構(gòu):異構(gòu)計(jì)算+低時(shí)延網(wǎng)絡(luò)驅(qū)動(dòng)企業(yè)AI訓(xùn)練范式升級(jí)
DeepSeek推動(dòng)AI算力需求:800G光模塊的關(guān)鍵作用
存力接棒算力,慧榮科技以主控技術(shù)突破AI存儲(chǔ)極限
AI算力正在以肉眼可見(jiàn)的速度不斷攀升
評(píng)論