電子發(fā)燒友網(wǎng)報道(文/李彎彎)最近,ChatGPT持續(xù)火爆,隨著微軟在其搜索引擎必應(yīng)中使用ChatGPT,谷歌、百度、阿里等都在計劃推出類似ChatGPT的聊天機(jī)器人。谷歌母公司Alphabet Inc.于2月6日宣布推出聊天機(jī)器人“巴德(Bard)”;百度2月7日確認(rèn)正在研發(fā)“文心一言”;阿里2月9日透露類ChatGPT的對話機(jī)器人正在研發(fā)。
而無論是ChatGPT,還是巴德(Bard)、文心一言、阿里的對話機(jī)器人,它們要運行,都需要大量的算力,數(shù)據(jù)中心、算力芯片業(yè)因此成為熱門。
對數(shù)據(jù)中心需求量大
ChatGPT背后有著巨額的算力成本,數(shù)據(jù)顯示,ChatGPT的總算力消耗約為3640PF-days(即每秒一千萬億次計算,運行3640個整日)。隨著更多ChatGPT同類產(chǎn)品出現(xiàn),且在相關(guān)服務(wù)不斷升級和更新的情況下,未來數(shù)據(jù)中心的負(fù)擔(dān)會越來越重,對數(shù)據(jù)中心數(shù)量的需求也更大。
另外,數(shù)據(jù)中心在龐大的增量面前也透露出一個問題,便是網(wǎng)絡(luò)設(shè)備的巨額能耗。數(shù)據(jù)中心是耗能大戶。因此國家在去年11月1日在全國范圍內(nèi)強(qiáng)制實施了《數(shù)據(jù)中心能效限定值和能效等級》,決定在2025年實現(xiàn)節(jié)能量超過2143億千瓦時。
近日工信部等七部門同樣發(fā)布了《信息通信行業(yè)綠色低碳發(fā)展計劃(2022-2025年)》,按照最新的國標(biāo)要求到2025年,新建大型、超大型數(shù)據(jù)中心電能利用效率(PUE)降到1.3以下。
而在ChatGPT等AI技術(shù)發(fā)展的同時,降低能耗成了數(shù)據(jù)中心產(chǎn)業(yè)的趨勢。對于數(shù)據(jù)中心而言,能耗主要來自三個方面:決定交換機(jī)性能的交換芯片、承載網(wǎng)絡(luò)通信帶寬的光模塊、提高傳輸速率的SerDes。因此相關(guān)技術(shù)和芯片將會成為需求的重點。
事實上,在數(shù)據(jù)中心能耗問題方面,早在2020年,亞馬遜、微軟、谷歌等云計算巨頭,思科、IBM、英特爾、英偉達(dá)等網(wǎng)絡(luò)設(shè)備及芯片龍頭,就已在投入研發(fā)一項名為CPO的技術(shù)。CPO是通過將交換芯片和光模塊整合,形成芯片和模組的共封裝,可降低原來功耗的50%。
據(jù)LightCounting預(yù)測,按照端口數(shù)量統(tǒng)計,CPO的出貨量將從2023年的5萬件增加到2027年的450萬件,以800G和1.6T CPO為主。目前我國已有不少企業(yè)在進(jìn)行相關(guān)技術(shù)研發(fā),包括新易盛、銳捷網(wǎng)絡(luò)、聯(lián)特科技、光迅科技等。
帶動AI芯片需求增長
ChatGPT橫空出世,意味著一系列AI應(yīng)用進(jìn)入大規(guī)模的落地階段。業(yè)內(nèi)人士認(rèn)為,這將對AI芯片在訓(xùn)練和推理等環(huán)節(jié)支撐大量數(shù)據(jù)高效處理提出新的挑戰(zhàn),芯片算力、存儲容量、帶寬、軟件棧等多個維度上的技術(shù)要求將提高,并推動AI芯片市場增長。
首先是GPU,GPU可以支撐強(qiáng)大的算力需求。以ChatGPT為例,具體來看,從AI模型構(gòu)建的角度:第一階段是用超大算力和數(shù)據(jù)構(gòu)建預(yù)訓(xùn)練模型;第二階段是在預(yù)訓(xùn)練模型上進(jìn)行針對性訓(xùn)練。而GPU由于具備并行計算能力,可兼容訓(xùn)練和推理,所以目前被廣泛應(yīng)用。
ChatGPT訓(xùn)練模型中就已導(dǎo)入至少1萬顆英偉達(dá)GPU,曾經(jīng)風(fēng)靡一時的AlphaGO也只需要8塊GPU。ChatGPT推理部分使用微軟的Azure云服務(wù),也需要GPU進(jìn)行運作。所以,ChatGPT的火熱興起對GPU的需求可見一斑。
在ChatGPT火熱的浪潮中,英偉達(dá)是主要受益者。英偉達(dá)是全球GPU和AI計算平臺的領(lǐng)軍者,其高端GPU占據(jù)了AI算法訓(xùn)練市場絕大部分的份額,ChatGPT之前,AlphaGo、GPT-3等明星AI產(chǎn)品都在英偉達(dá)的硬件上運行。花旗集團(tuán)預(yù)估,ChatGPT可能會在未來12個月內(nèi)為英偉達(dá)帶來30億美元至110億美元的銷售額。
英偉達(dá)之外,Intel和AMD也占據(jù)全球GPU主要市場。國內(nèi)市場,目前在人工智能用GPU領(lǐng)域有所布局,包括摩爾線程、壁仞科技、沐曦、天數(shù)智芯、燧原科技等,不過整體產(chǎn)品應(yīng)用情況仍不及英偉達(dá)等國際廠商。
隨著AI應(yīng)用進(jìn)入大規(guī)模落地,可想而知除了GPU之外,其他AI訓(xùn)練、推理芯片也有很大的市場空間,像百度、阿里自己研發(fā)類ChatGPT的對話機(jī)器人,其本身也有在做訓(xùn)練芯片,另外還有寒武紀(jì)、鯤云科技、墨芯人工智能、瀚博半導(dǎo)體等廠商。
另外,從深度學(xué)習(xí)的角度來看,雖然GPU是最適合深度學(xué)習(xí)應(yīng)用的芯片,但 CPU和FPGA也能發(fā)揮其重要性。本身ChatGPT的運行需要大量的服務(wù)器支撐,而其中少不了對CPU的需求。FPGA作為可編程芯片,可以針對特定功能進(jìn)行擴(kuò)展,在AI模型構(gòu)建第二階段具有一定的發(fā)揮空間。FPGA與CPU結(jié)合,也可以共同用于深度學(xué)習(xí)模型,實現(xiàn)對大算力的需求。
小結(jié)
ChatGPT的爆火預(yù)示著人工智能的大規(guī)模落地應(yīng)用成為可能,隨著微軟、谷歌、百度、阿里的入局,人工智能大模型的技術(shù)和應(yīng)用也將更快向前推進(jìn)。這必然造成對數(shù)據(jù)中心、服務(wù)器的大量需求,在“低碳”目標(biāo)下,低能耗數(shù)據(jù)中心建設(shè)將會是未來發(fā)展重點。
同時,在ChatGPT等技術(shù)和應(yīng)用的加速發(fā)展下,AI訓(xùn)練芯片、推理芯片的市場需求也將大幅提升,相關(guān)企業(yè)需要做好準(zhǔn)備。
發(fā)布評論請先 登錄
Labubu帶火!消費級3D打印產(chǎn)業(yè)鏈起飛
芯導(dǎo)科技助力功率半導(dǎo)體產(chǎn)業(yè)鏈自主可控加速
進(jìn)迭時空榮膺中移物聯(lián)網(wǎng)產(chǎn)業(yè)鏈 “鏈核企業(yè)”
芯盛智能亮相2025移動信息現(xiàn)代產(chǎn)業(yè)鏈共鏈大會
合創(chuàng)智行亮相2025移動信息現(xiàn)代產(chǎn)業(yè)鏈共鏈大會
2025第五屆中國BLDC電機(jī)產(chǎn)業(yè)鏈優(yōu)秀企業(yè)年度評選
2025電機(jī)產(chǎn)業(yè)鏈交流會圓滿收官,技術(shù)分享與供需對接雙驅(qū)動
華正新材AI產(chǎn)業(yè)鏈技術(shù)論壇精彩回顧
我國為什么要發(fā)展半導(dǎo)體全產(chǎn)業(yè)鏈
2025年4月工業(yè)機(jī)器人相關(guān)產(chǎn)業(yè)鏈新品發(fā)布情況
智能戒指爆火!Oura領(lǐng)跑,國內(nèi)產(chǎn)業(yè)鏈突破實現(xiàn)研發(fā)成本大降
福田汽車助力景德鎮(zhèn)汽車產(chǎn)業(yè)鏈協(xié)同發(fā)展
漢威科技亮相2024高端儀器儀表產(chǎn)業(yè)鏈創(chuàng)新發(fā)展大會
華為汽車產(chǎn)業(yè)鏈的技術(shù)解析與未來展望
解讀低空經(jīng)濟(jì)熱潮背后的產(chǎn)業(yè)鏈格局

ChatGPT爆火背后的硬件產(chǎn)業(yè)鏈
評論