伴隨著人工智能技術(shù)飛躍式的進(jìn)步,對(duì)于計(jì)算機(jī)運(yùn)算能力的需求同樣大幅提升。目前,英偉達(dá)公司的H100芯片銷(xiāo)售火爆。值得關(guān)注的是,單片H100芯片的峰值功率高達(dá)700瓦。隨著此類(lèi)芯片的廣泛使用,預(yù)計(jì)到2024年末,其總體功耗將相當(dāng)于甚至超越某些歐洲小型國(guó)家。
根據(jù)預(yù)測(cè),若H100的年利用率保持在61%,那么單臺(tái)設(shè)備每年將耗電3740千瓦小時(shí)左右。如果英偉達(dá)在2023年售出150萬(wàn)塊H100,2024年再增加至200萬(wàn)塊,那么到2024年底,將有350萬(wàn)塊H100芯片投入使用,其總年用電量將高達(dá)130.91億千瓦小時(shí)(13091.82GWh)。相對(duì)而言,一些國(guó)家的年平均發(fā)電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個(gè)數(shù)量級(jí)。
盡管H100的電力消耗數(shù)字讓人瞠目結(jié)舌,但我們可以看到,AI以及高性能計(jì)算GPU的能效正逐步改善。英偉達(dá)下一代Blackwell架構(gòu)的B100芯片不僅可能擁有超過(guò)H100的功耗,而且還能實(shí)現(xiàn)更高的性能表現(xiàn),從而在相同能耗下完成更多任務(wù)。
很明顯,隨著AI技術(shù)的持續(xù)發(fā)展,如何妥善處理算力與能耗之間的矛盾,成為了未來(lái)亟待解決的重大問(wèn)題。
-
芯片
+關(guān)注
關(guān)注
463文章
54010瀏覽量
466068 -
人工智能
+關(guān)注
關(guān)注
1817文章
50098瀏覽量
265372 -
英偉達(dá)
+關(guān)注
關(guān)注
23文章
4087瀏覽量
99182
發(fā)布評(píng)論請(qǐng)先 登錄
AI推理需求井噴!英偉達(dá)Q1營(yíng)收大漲,H20禁售難擋增長(zhǎng)步伐
從英偉達(dá)電話會(huì)看Agentic AI推理與FPGA價(jià)值
美對(duì)華芯片出口“松綁”:英偉達(dá)H200獲準(zhǔn)進(jìn)入中國(guó)市場(chǎng)#AI芯片#英偉達(dá)#H200芯片
英偉達(dá) Q3 狂攬 308 億
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)
英偉達(dá) H100 GPU 掉卡?做好這五點(diǎn),讓算力穩(wěn)如泰山!
英偉達(dá)被傳暫停生產(chǎn)H20芯片 外交部回應(yīng)
搞定英偉達(dá) H100 ECC 報(bào)錯(cuò):從原理到維修,一步到位解煩憂
H20中國(guó)區(qū)賣(mài)爆!英偉達(dá)緊急向臺(tái)積電加訂30萬(wàn)塊
AI服務(wù)器電源技術(shù)研討會(huì)部分演講嘉賓確認(rèn)
總功率超198kW,AI服務(wù)器電源對(duì)元器件提出了哪些要求?
GPU 維修干貨 | 英偉達(dá) GPU H100 常見(jiàn)故障有哪些?
AI計(jì)算需求激增,英偉達(dá)H100功耗成挑戰(zhàn)
評(píng)論