大模型訓(xùn)練,英偉達(dá)Turing、Ampere和Hopper算力分析
GPU 架構(gòu)升級(jí)過(guò)程計(jì)算能力不斷強(qiáng)化,Hopper 架構(gòu)適用于高性能計(jì)算(HPC)和 AI 工作負(fù)載....
一顆Jericho3-AI芯片,用來(lái)替代InfiniBand?
在推動(dòng)人工智能革命的超大規(guī)模和云構(gòu)建巨頭中,博通在交換和路由半導(dǎo)體領(lǐng)域占據(jù)主導(dǎo)市場(chǎng)份額,它希望在人工....
英特爾CPU安全漏洞,攻擊者可竊取大量數(shù)據(jù)
EFLAGS 寄存器是一個(gè) CPU 寄存器,保存著與處理器狀態(tài)相關(guān)的各種標(biāo)志,而 JCC 指令是一個(gè)....
深度:構(gòu)建GPT-4模型,如何商業(yè)落地?
GPT-4引發(fā)海量算力需求,把握算力產(chǎn)業(yè)鏈機(jī)會(huì)。根據(jù)測(cè)算,我們認(rèn)為,在中性假設(shè)下,ChatGPT一年....
大模型引發(fā)技術(shù)變革, AI芯片公司面臨新挑戰(zhàn)
昆侖芯科技在努力進(jìn)一步擴(kuò)大生態(tài)影響力:首先要深刻理解客戶(hù)的使用習(xí)慣,滿(mǎn)足客戶(hù)需求,踏踏實(shí)實(shí)把軟硬件從....
深度:國(guó)內(nèi)4家AI大模型分析
百度由于多年在AI領(lǐng)域的深耕,其文心大模型涵蓋基礎(chǔ)大模型、任務(wù)大模型、行業(yè)大模型的三級(jí)體系,打造大模....
深度:國(guó)內(nèi)AI大模型分析概覽
百度由于多年在AI領(lǐng)域的深耕,其文心大模型涵蓋基礎(chǔ)大模型、任務(wù)大模型、行業(yè)大模型的三級(jí)體系,打造大模....
萬(wàn)能芯片之FPGA詳解
FPGA是在PAL(可編程邏輯陣列)、GAL(通用陣列邏輯)、CPLD(復(fù)雜可編程邏輯器件)等傳統(tǒng)邏....
計(jì)算機(jī)視覺(jué)研究方向與發(fā)展趨勢(shì)
首先,學(xué)術(shù)研究通常是以理論分析和實(shí)驗(yàn)驗(yàn)證為主,注重創(chuàng)新,追求技術(shù)的極致。工業(yè)界則更注重實(shí)際應(yīng)用,傾向....
從M6到“通義千問(wèn)”,阿里大模型的迭代之路
十萬(wàn)億模型階段:2021 年 10 月,M6 進(jìn)一步升級(jí)成為全球首個(gè) 10 萬(wàn)億參數(shù)的多模態(tài)大模型,....
Auto GPT橫空出世,力推算力設(shè)施
Auto GPT 區(qū)別于傳統(tǒng) GPT,可在沒(méi)有任何用戶(hù)指導(dǎo)的情況下搜索互聯(lián)網(wǎng)和執(zhí)行保存文件等操作的能....
ChatGPT大模型,引領(lǐng)海內(nèi)外巨頭競(jìng)品發(fā)布
昆侖芯 2 代 AI芯片:“文心一言”的芯片層核心能力,采用自研 XPU-R 架構(gòu),通用性和性能顯著....
大算力模型,HBM、Chiplet和CPO等技術(shù)打破技術(shù)瓶頸
HBM 使用多根數(shù)據(jù)線(xiàn)實(shí)現(xiàn)高帶寬,完美解決傳統(tǒng)存儲(chǔ)效率低的問(wèn)題。HBM 的核心原理和普通的 DDR、....
以昇思為基,盤(pán)古生態(tài)引領(lǐng)中國(guó)AI未來(lái)
目前,尚不清楚 Twitter 采購(gòu)了哪些具體硬件。然而,據(jù)報(bào)道,盡管 Twitter 一直存在財(cái)務(wù)....
ChatGPT AI興起,芯片、服務(wù)器、智能算力浪潮來(lái)襲
英偉達(dá)占據(jù) 80%以上中國(guó)加速卡市場(chǎng)份額,國(guó)產(chǎn) AI 芯片亟待發(fā)展。根據(jù) IDC 的數(shù)據(jù)顯示,202....
走進(jìn)芯時(shí)代:AI算力GPU行業(yè)深度報(bào)告
GPU方面, 在英?偉達(dá)的推動(dòng)下,其從最初的顯卡發(fā)展到如今的高性能并行計(jì)算,海外大廠已經(jīng)具備了超過(guò)2....
從2023 GTC談NVIDIA硬核技術(shù)
用于大語(yǔ)言模型(LLM)推理的 H100 NVL。H100 NVLGPU 適用于大規(guī)模部署 Chat....
CPU技術(shù)路線(xiàn)、分類(lèi)及全球市場(chǎng)競(jìng)爭(zhēng)狀態(tài)
CPU按照指令集可分為CISC(復(fù)雜指令集)和RISC(精簡(jiǎn)指令集)兩大類(lèi)。CISC指令豐富、尋址方....
GPT-4多模態(tài)模型發(fā)布,對(duì)ChatGPT的升級(jí)和斷崖式領(lǐng)先
而且 GPT-4 是多模態(tài)的,同時(shí)支持文本和圖像輸入功能。此外,GPT-4 比以前的版本“更大”,這....
一文詳解CPU渲染和GPU渲染之間的優(yōu)劣
CPU 渲染利用計(jì)算機(jī)的 CPU 來(lái)執(zhí)行場(chǎng)景并將其渲染到接近完美。這也是執(zhí)行渲染的更傳統(tǒng)方式。然而,....
AMD RDNA2 GPU架構(gòu)詳解
每個(gè) SIMD 都有 32 個(gè)寬度的執(zhí)行單元用于最常見(jiàn)的操作,一個(gè) 128 KB 的矢量寄存器文件,....
詳解ChatGPT數(shù)據(jù)集之謎
隨著新型 AI 技術(shù)的快速發(fā)展,模型訓(xùn)練數(shù)據(jù)集的相關(guān)文檔質(zhì)量有所下降。模型內(nèi)部到底有什么秘密?它們又....
ChatGPT對(duì)GPU算力的需求測(cè)算與分析
雖然目前國(guó)內(nèi)產(chǎn)品的計(jì)算性能和軟件生態(tài)實(shí)力與國(guó)際廠商還有差距,但是,國(guó)內(nèi)廠商依然在奮起直追,努力實(shí)現(xiàn)G....
DeepFlow AutoTagging 10x性能提升實(shí)戰(zhàn)
我們認(rèn)為應(yīng)用開(kāi)發(fā)團(tuán)隊(duì)花了一半的時(shí)間用于可觀測(cè)性的建設(shè)。這張圖里面可以看到,開(kāi)發(fā)者通常需要考慮在不同的....
ChatGPT研究框架:生成式AI拐點(diǎn)來(lái)臨,商用落地前景分析
從市場(chǎng)概況看,ChatGPT已能覆蓋較多能力域,被視為AI平民化的里程碑,將帶動(dòng)新一輪AI發(fā)展浪潮;....
如何在模擬芯片設(shè)計(jì)的不同階段幫助工程師完成吟唱施法
假如我們想要錄制一段聲音,模擬信號(hào)的做法是把所有的聲音信息用一段連續(xù)變化的電磁波或電壓信號(hào)原原本本地....
全面分析特斯拉機(jī)器人“超算”芯片
特斯拉展示了機(jī)器人在辦公室周?chē)肮ぷ鳌钡囊曨l。名為擎天柱的機(jī)器人搬運(yùn)物品,給植物澆水,甚至自主的在工....
AIGC技術(shù)和產(chǎn)業(yè)生態(tài)迎來(lái)發(fā)展快車(chē)道
第二,預(yù)訓(xùn)練模型,也即基礎(chǔ)模型、大模型,引發(fā)了AIGC技術(shù)能力的質(zhì)變。雖然過(guò)去各類(lèi)生成模型層出不窮,....
異構(gòu)計(jì)算:邁向智能計(jì)算世界
操作系統(tǒng)作為計(jì)算產(chǎn)業(yè)中最基礎(chǔ)的軟件,承擔(dān)著抽象底層硬件,向上層應(yīng)用提供統(tǒng)一接口的核心功能,是計(jì)算產(chǎn)業(yè)....