OpenAI Sora模型需大量AI加速卡及電力支持
據(jù)報道，基準(zhǔn)測試機(jī)構(gòu)Factorial Funds近日公布研究報告，指出OpenAI在最繁忙時期需啟用72萬片NVIDIA H100 AI加速卡來支持其Sora文本轉(zhuǎn)視頻模型的運(yùn)作。
若以每片H100加速卡3萬美元市價估算，總花費(fèi)將高達(dá)216億美元（相當(dāng)于1561.68億元人民幣），這僅是H100加速卡采購費(fèi)用。該模型在運(yùn)營時還會產(chǎn)生極高的能耗，每片H100能耗達(dá)到700瓦，72萬片則意味著能耗高達(dá)50.4億瓦。
此外，評估小組預(yù)計，訓(xùn)練Sora所需的英偉達(dá)H100 AI加速卡數(shù)量從每月4200片至10500片不等。如果單啟用一片H100加速卡，生成一分鐘視頻就需要進(jìn)行長達(dá)12分鐘的渲染過程。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
模型
+關(guān)注
關(guān)注
1文章
3752瀏覽量
52109 -
英偉達(dá)
+關(guān)注
關(guān)注
23文章
4087瀏覽量
99182 -
OpenAI
+關(guān)注
關(guān)注
9文章
1245瀏覽量
10070
發(fā)布評論請先 登錄
相關(guān)推薦
熱點(diǎn)推薦
Hailo-8算力卡 + RK3588實(shí)測！26TOPS加持，助力AI視覺升級！
近年來，AI視覺在邊緣端應(yīng)用廣泛，行業(yè)對AI推理硬件的要求也日益提升。傳統(tǒng)CPU在CNN等視覺模型推理任務(wù)中逐漸顯露瓶頸，而專用AI加速器成
FPGA硬件加速卡設(shè)計原理圖：1-基于Xilinx XCKU115的半高PCIe x8 硬件加速卡 PCIe半高 XCKU115-3-FLVF1924-E芯片
FPGA硬件加速, PCIe半高卡, XCKU115, 光纖采集卡, 信號計算板, 硬件加速卡
推理＜2ms！Ultralytics最新YOLO26+樹莓派+國產(chǎn)AI加速卡實(shí)現(xiàn) 500 FPS 端側(cè) AI 性能巔峰！
關(guān)鍵詞：YOLO26、樹莓派、國產(chǎn)AI加速卡、M5Stack、邊緣AI速度快、功耗低、純國產(chǎn)，樹莓派終于有了真正實(shí)用的AI加速方案近年來，隨
新品 | LLM-8850 Kit，高性能AI加速卡套件 DinMeter v1.1，1/32DIN標(biāo)準(zhǔn)嵌入式開發(fā)板
LLM-8850KitLLM-8850Kit是一款面向邊緣AI與嵌入式計算場景的高性能AI加速卡套件，由LLM-8850CardAI加速卡與LLM-8850PiHat轉(zhuǎn)接板組成。核心
高速信號處理設(shè)計方案：413-基于雙XCVU9P+C6678的100G光纖加速卡
C6678, XCVU9P, ZU19EG開發(fā)板,, 高速信號處理, 光纖加速卡, XCVU9P光纖加速卡
昆侖芯R200 AI加速卡技術(shù)規(guī)格解析
昆侖芯R200加速卡基于7nm XPU-R架構(gòu)，在150W功耗下提供256 TOPS INT8算力，側(cè)重高性能推理。配備最高32GB GDDR6內(nèi)存（512GB/s帶寬）及108路視頻解碼能力，支持
邁向云端算力巔峰：昆侖芯K200 AI加速卡全面解讀
昆侖芯K200作為云端AI加速卡，在K100架構(gòu)基礎(chǔ)上全面升級。其INT8算力達(dá)256 TOPS，配備16GB HBM內(nèi)存與512GB/s帶寬，專為千億參數(shù)大模型訓(xùn)練與高并發(fā)推理優(yōu)化。采用全高全長雙
算力密度翻倍！江原D20加速卡發(fā)布，一卡雙芯重構(gòu)AI推理標(biāo)桿
的關(guān)鍵技術(shù)瓶頸。 ? 在此背景下，江原科技推出采用自研AI芯片的AI加速卡江原D10，并在今年5月實(shí)現(xiàn)量產(chǎn)交付。在大算力AI芯片全流程國產(chǎn)化產(chǎn)業(yè)鏈實(shí)現(xiàn)首次突破后，11月11日，江原科技
OpenAI Sora 2模型上線微軟Azure AI Foundry國際版
我們非常激動地宣布，OpenAI 的新一代多模態(tài)視頻生成模型 Sora 2 現(xiàn)已在 Azure AI Foundry（國際版）上線，進(jìn)入公共預(yù)覽階段。
新品 | LLM-8850 Card, AX8850邊緣設(shè)備AI加速卡
LLM?8850?Card是一款面向邊緣設(shè)備的M.2M-KEY2242?AI加速卡，把42?mm的袖珍體積與AxeraAX8850?SoC的24?TOPS?@?INT8算力結(jié)合起來，為
智算加速卡是什么東西？它真能在AI戰(zhàn)場上干掉GPU和TPU！
隨著AI技術(shù)火得一塌糊涂，大家都在談"大模型"、"AI加速"、"智能計算"，可真到了落地環(huán)節(jié)，算力才是硬通貨。你有沒有發(fā)現(xiàn)，現(xiàn)在越來越多的AI
邊緣AI運(yùn)算革新 DeepX DX-M1 AI加速卡結(jié)合Rockchip RK3588多路物體檢測解決方案
DeepX 推出了一款革命性的產(chǎn)品 DeepX DX-M1 AI 推理加速卡 采用 PCIe Gen3 M.2 M-Key 接口，具備高達(dá) 25 TOPS 的卓越運(yùn)算性能，以及高準(zhǔn)確度、低功耗、低溫
寒武紀(jì)基于思元370芯片的MLU370-X8 智能加速卡產(chǎn)品手冊詳解
MLU370-X8智能加速卡是全面升級的數(shù)據(jù)中心訓(xùn)推一體AI加速卡，基于寒武紀(jì)全新一代思元370芯片，接口為PCIe 4.0 X16，是全高全長雙寬（FHFL-Dual-Slot）的標(biāo)準(zhǔn)PCIe
RK3588核心板在邊緣AI計算中的顛覆性優(yōu)勢與場景落地
推理任務(wù)，需額外部署GPU加速卡，導(dǎo)致成本與功耗飆升。
擴(kuò)展性受限：老舊接口（如USB 2.0、百兆網(wǎng)口）無法支持5G模組、高速存儲等現(xiàn)代外設(shè)，升級困難。
開發(fā)周期長：BSP適配不完善，跨平臺
發(fā)表于 04-15 10:48
工商網(wǎng)監(jiān)
評論