ChatGPT需要多少算力支持?
據(jù)中信建投研報(bào)數(shù)據(jù),此前用于AI訓(xùn)練的算力增長符合摩爾定律,大約每20個(gè)月翻一番;深度學(xué)習(xí)的出現(xiàn)加速了性能的擴(kuò)展,用于AI訓(xùn)練的算力大約每6個(gè)月翻一番;而目前大規(guī)模模型出現(xiàn),其訓(xùn)練算力是原來的10到100倍。
“算力、算法、數(shù)據(jù)作為人工智能的三要素,在數(shù)字經(jīng)濟(jì)發(fā)展、產(chǎn)業(yè)智能化升級(jí)的進(jìn)程中發(fā)揮巨大作用,數(shù)據(jù)可以看作生產(chǎn)資料,算法代表新的生產(chǎn)關(guān)系,算力則是新型生產(chǎn)力支撐著算法和數(shù)據(jù),算力水平?jīng)Q定數(shù)據(jù)處理能力的強(qiáng)弱。在AI模型訓(xùn)練和推理運(yùn)算過程中需要強(qiáng)大的算力支撐,隨著訓(xùn)練強(qiáng)度和運(yùn)算復(fù)雜程度的增加,算力精度的要求也在逐漸提高。”賽迪顧問人工智能產(chǎn)業(yè)研究中心常務(wù)副總經(jīng)理鄒德寶稱。
根據(jù)國家數(shù)據(jù)資源調(diào)查報(bào)告,2021年全球數(shù)據(jù)總產(chǎn)量67ZB,近三年平均增速超過26%。基礎(chǔ)算力、智能算力、超算算力都呈現(xiàn)穩(wěn)定增長態(tài)勢。
根據(jù)早些時(shí)候OpenAI發(fā)表了一份研究成果表明,AI訓(xùn)練所需算力指數(shù)增長,增長速度超越硬件的摩爾定律。
其實(shí)ChatGPT需要的算力取決于應(yīng)用場景,一般來說,GPT需要大量的算力來完成復(fù)雜的任務(wù)。例如,在自然語言處理任務(wù)中,GPT需要大量的算力來處理大量的文本數(shù)據(jù),以及處理復(fù)雜的語義關(guān)系。此外,GPT還需要大量的算力來處理復(fù)雜的圖像和視頻數(shù)據(jù)。
數(shù)據(jù)顯示,自2012年至2018年,用于訓(xùn)練AI所需要的算力大約每隔3~4個(gè)月翻倍,整體呈現(xiàn)指數(shù)級(jí)上漲(而摩爾定律僅僅是18個(gè)月翻一倍)1。從2012年到2018年,訓(xùn)練AI所耗費(fèi)的算力增長了30萬倍,而摩爾定律在相同時(shí)間只有7倍的增長。
ChatGPT熱度不減的背后,是人工智能內(nèi)容自動(dòng)生成技術(shù)所需要的算力需求也水漲船高。數(shù)據(jù)顯示,ChatGPT的總算力消耗約為3640PF-days(即假如每秒計(jì)算一千萬億次,需要計(jì)算3640天),需要7~8個(gè)投資規(guī)模30億、算力500P的數(shù)據(jù)中心才能支撐運(yùn)行。
中國的算力情況正在迅速發(fā)展。根據(jù)最新的數(shù)據(jù),中國的計(jì)算機(jī)算力已經(jīng)超過美國,成為全球最大的計(jì)算機(jī)算力擁有國。中國的算力發(fā)展受到政府的大力支持,政府投入了大量資金用于研發(fā)新技術(shù),推動(dòng)算力的發(fā)展。此外,中國的科技公司也在積極投資算力,以滿足市場需求。
ChatGPT大火面臨的挑戰(zhàn)
自ChatGPT發(fā)布以來,它的能力也不斷被人們解鎖,但人們在試用中慢慢發(fā)現(xiàn),數(shù)學(xué)能力是ChatGPT的一大短板,連簡單的“雞兔同籠”題都能算錯(cuò)。大概是考慮到這一點(diǎn),ChatGPT近日宣布了一次重要更新:提升了真實(shí)性和數(shù)學(xué)能力。
據(jù)了解,ChatGPT較上一代產(chǎn)品提升明顯,對話模式具備更好的交互體驗(yàn)。但對比Google等搜索引擎,ChatGPT尚不具備替代搜索引擎的能力。ChatGPT的數(shù)據(jù)來自訓(xùn)練數(shù)據(jù)庫,目前數(shù)據(jù)庫僅更新至2021年,可用信息有限,同時(shí)真實(shí)性也無法得到保障。
主要來自于大量的文本數(shù)據(jù),包括新聞文章、社交媒體帖子、書籍等。這些文本數(shù)據(jù)可以幫助ChatGPT學(xué)習(xí)語言,從而更好地理解人類語言。此外,從商業(yè)模式來看,ChatGPT目前采用免費(fèi)的模式。
根據(jù)OpenAI的CEO SamAltman披露,ChatGPT每次聊天成本約為幾美分,其中一部分來自Azure云服務(wù),未來公司在持續(xù)優(yōu)化成本的同時(shí),會(huì)考慮通過收費(fèi)獲利,預(yù)計(jì)的收費(fèi)模式包括訂閱制、按條收費(fèi)等。
文章綜合選股寶、第一財(cái)經(jīng)、中國科技網(wǎng)
-
摩爾定律
+關(guān)注
關(guān)注
4文章
640瀏覽量
80936 -
算力
+關(guān)注
關(guān)注
2文章
1536瀏覽量
16754 -
OpenAI
+關(guān)注
關(guān)注
9文章
1245瀏覽量
10104 -
ChatGPT
+關(guān)注
關(guān)注
31文章
1598瀏覽量
10281
發(fā)布評(píng)論請先 登錄
巨頭競逐AI醫(yī)療健康:OpenAI推出ChatGPT Health,螞蟻阿福國內(nèi)領(lǐng)跑
AI算力中心的能耗挑戰(zhàn):CM5A 2000 H01霍爾閉環(huán)電流傳感器在AI算力中心(AIDC)的應(yīng)用分析
ChatGPT 智能體發(fā)布的觀點(diǎn)解析及對科義相關(guān)系統(tǒng)的現(xiàn)實(shí)意義
大家都在用什么AI軟件?有沒有好用的免費(fèi)的AI軟件推薦一下?
邊緣生成式AI面臨哪些工程挑戰(zhàn)?
AI真會(huì)人格分裂!OpenAI最新發(fā)現(xiàn),ChatGPT善惡開關(guān)已開啟
樹莓派與EthernetHat:用ChatGPT實(shí)現(xiàn)的MQTT智能家居項(xiàng)目!
樹莓派遇上ChatGPT,魔法熱線就此誕生!
智慧路燈的推廣面臨哪些挑戰(zhàn)?
模型原生操作系統(tǒng):機(jī)遇、挑戰(zhàn)與展望 CCCF精選
能和Ai-M61模組對話了?手搓一個(gè)ChatGPT 語音助手
智慧路燈在數(shù)據(jù)采集與分析方面面臨的挑戰(zhàn)
ChatGPT需要多少算力支持? ChatGPT面臨的挑戰(zhàn)
評(píng)論