全流程演示：如何從0到1構(gòu)建分布式GPU計(jì)算環(huán)境

本文將從硬件選型，到服務(wù)器側(cè)的基礎(chǔ)配置、GPU驅(qū)動(dòng)安裝和集合通訊庫(kù)配置，以及無(wú)損以太網(wǎng)的啟用，直至大模型導(dǎo)入和訓(xùn)練測(cè)試，帶您跑通搭建分布式計(jì)算環(huán)境的全流程。

2024-11-15 標(biāo)簽：gpuAI分布式計(jì)算 3.1k 0

影響離線語(yǔ)音識(shí)別靈敏度的因素

有用戶反饋離線語(yǔ)音識(shí)別不靈敏，跟著筆者一起分析原因吧。筆者知識(shí)能力有限，難免會(huì)誤，還請(qǐng)大家批評(píng)指正。

2024-10-25 標(biāo)簽：mcugpu語(yǔ)音識(shí)別 3.1k 0

面向未來(lái)的AI加速， ACAP可編程器件具有突破性意義

數(shù)字化的生活方式和新興的物聯(lián)網(wǎng)與云端計(jì)算及數(shù)據(jù)服務(wù)的快速增長(zhǎng)密不可分。云是全新的生活與工作方式的中心。

2020-09-28 標(biāo)簽：fpga神經(jīng)網(wǎng)絡(luò)賽靈思 3.1k 0

關(guān)于基于RISC-V架構(gòu)的開源GPU開發(fā)方案

開源GPU的時(shí)代可能會(huì)到來(lái)。眾所周知，RISC-V架構(gòu)使小型公司無(wú)需支付專利使用費(fèi)即可開發(fā)專用的處理器和微控制器。基于RISC-V的片上系統(tǒng)（SoC），...

2021-02-02 標(biāo)簽：微控制器amdgpu 3.1k 0

GTC 2023：多模態(tài)短視頻模型推理優(yōu)化方案解析

　　多卡推理--流水線并行：將模型和數(shù)據(jù)切分，以流水線形式計(jì)算，提高GPU利用率。模型切分策略：依照各部分的計(jì)算時(shí)間和參數(shù)量設(shè)計(jì)。

2023-03-23 標(biāo)簽：gpu英偉達(dá)gtc 3.1k 0

CPU、GPU和內(nèi)存知識(shí)科普

本文內(nèi)容包括CPU、內(nèi)存和GPU知識(shí)，本期重點(diǎn)更新GPU和CPU部分知識(shí)。比如：GPU更新包括架構(gòu)演進(jìn)，最新產(chǎn)品A100、選型策略、架構(gòu)分析、散熱和規(guī)格分類等。

2023-11-13 標(biāo)簽：處理器cpugpu 3.1k 0

一文解析CPU概念、運(yùn)作原理、指令集架構(gòu)生態(tài)

CPU指令集（Instruction Set）是CPU中計(jì)算和控制計(jì)算機(jī)系統(tǒng)所有指令的集合。計(jì)算機(jī)的程序最終需要轉(zhuǎn)化為“指令”才能在CPU上運(yùn)行。

2023-06-16 標(biāo)簽：cpugpu嵌入式工控機(jī) 3.1k 0

深度學(xué)習(xí)模型部署與優(yōu)化：策略與實(shí)踐；L40S與A100、H100的對(duì)比分析

隨著生成式AI應(yīng)用的迅猛發(fā)展，我們正處在前所未有的大爆發(fā)時(shí)代。在這個(gè)時(shí)代，深度學(xué)習(xí)模型的部署成為一個(gè)亟待解決的問(wèn)題。盡管GPU在訓(xùn)練和推理中扮演著關(guān)鍵角...

2023-10-07 標(biāo)簽：gpuAI深度學(xué)習(xí) 3.1k 0

一個(gè)GPU訓(xùn)練一個(gè)130億參數(shù)的模型

現(xiàn)在的模型動(dòng)輒數(shù)百、數(shù)千億參數(shù)，普通人訓(xùn)不動(dòng)怎么辦？ 前不久，谷歌發(fā)布了參數(shù)量為 1.6 萬(wàn)億的語(yǔ)言模型Swith Transformer，將 GPT-...

2021-02-11 標(biāo)簽：gpu模型模擬訓(xùn)練系統(tǒng) 3.1k 0

集成顯卡、核芯顯卡和獨(dú)立顯卡的區(qū)別分析

顯卡行業(yè)是計(jì)算機(jī)硬件產(chǎn)業(yè)中的一個(gè)重要分支，主要涉及圖形處理器（GPU）的研發(fā)、生產(chǎn)和銷售。顯卡行業(yè)的競(jìng)爭(zhēng)極為激烈，主要廠商包括英偉達(dá)、AMD、英特爾等。

2023-10-26 標(biāo)簽：英特爾gpu顯卡 3k 0

英偉達(dá)最強(qiáng)芯片性能公布，比H100 GPU高出17%

大多數(shù)推理繼續(xù)在 CPU 上執(zhí)行，隨著更大的模型變得越來(lái)越普遍，這種情況在未來(lái)可能會(huì)發(fā)生變化；對(duì)于 Nvidia 來(lái)說(shuō)，用 L4 等小型低功耗 GPU ...

2023-09-13 標(biāo)簽：cpugpu人工智能 3k 0

揭秘英偉達(dá)A100、A800、H100、H800 GPU如何實(shí)現(xiàn)高性能大模型的百倍訓(xùn)練加速

摘要：本文主要介紹大模型的內(nèi)部運(yùn)行原理、我國(guó)算力發(fā)展現(xiàn)狀。大模型指具有巨大參數(shù)量的深度學(xué)習(xí)模型，如GPT-4。其通過(guò)在大規(guī)模數(shù)據(jù)集上進(jìn)行訓(xùn)練，能夠產(chǎn)生更...

2023-09-09 標(biāo)簽：NVIDIAgpu英偉達(dá) 3k 0

2023R2 Speos新功能介紹

第二種方法使用optiSLang及其強(qiáng)大的優(yōu)化功能，在optiSLang種直接調(diào)用Ansys Speos求解器，訪問(wèn)發(fā)布的參數(shù)，設(shè)計(jì)識(shí)別最重要的輸入?yún)?shù)...

2023-07-16 標(biāo)簽：傳感器gpu參數(shù) 3k 0