国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI芯片全面發(fā)展!從訓(xùn)練到推理、從云端到邊緣、從GPU到ASIC

Carol Li ? 來源:電子發(fā)燒友原創(chuàng) ? 作者:李彎彎 ? 2021-11-13 09:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)在過去接近10年時(shí)間里,AI產(chǎn)業(yè)經(jīng)歷了幾個(gè)重要節(jié)點(diǎn),2012年深度學(xué)習(xí)的研究突破,給AI產(chǎn)業(yè)帶來新的起點(diǎn),2016年Alphago打敗李世石,正式引爆市場(chǎng),一時(shí)間涌現(xiàn)出大量AI創(chuàng)業(yè)企業(yè),資本也大量投進(jìn)這個(gè)賽道。

在短時(shí)間火熱之后,湊熱鬧的人逐漸退出,AI產(chǎn)業(yè)繼續(xù)穩(wěn)步向前發(fā)展,最近幾年AI技術(shù)快速發(fā)展,應(yīng)用場(chǎng)景不斷浮現(xiàn),AI產(chǎn)業(yè)也進(jìn)入到爆發(fā)式增長(zhǎng)階段,巨大的市場(chǎng)潛力逐漸顯現(xiàn)出來。據(jù)艾媒咨詢數(shù)據(jù)顯示,2020年中國AI芯片市場(chǎng)規(guī)模達(dá)183.8億元,預(yù)計(jì)2023年將突破千億級(jí)別。

同時(shí)AI芯片也逐漸呈現(xiàn)出多元化趨勢(shì),主要體現(xiàn)在幾個(gè)方面:一是早期AI芯片更多集中在訓(xùn)練上,如今除了AI訓(xùn)練芯片持續(xù)增長(zhǎng),AI推理芯片的市場(chǎng)規(guī)模也在快速擴(kuò)大,預(yù)計(jì)將超過訓(xùn)練芯片;二是AI芯片過去主要部署在云端,如今已經(jīng)向邊緣端/終端方向發(fā)展;第三,AI芯片有各種類型,其中多數(shù)是GPU,不過很明顯,ASICFPGA等非GPU芯片市場(chǎng)規(guī)模也在逐步提升。

AI推理芯片市場(chǎng)規(guī)模逐步擴(kuò)大

AI芯片可分為訓(xùn)練和推理兩個(gè)環(huán)節(jié),訓(xùn)練環(huán)節(jié)通常需要通過大量的數(shù)據(jù)輸入,或采取增強(qiáng)學(xué)習(xí)等非監(jiān)督學(xué)習(xí)方法,訓(xùn)練出一個(gè)復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)模型。推理環(huán)節(jié)指利用訓(xùn)練好的模型,使用新的數(shù)據(jù)去推理出各種結(jié)論,比如,視頻監(jiān)控設(shè)備通過后臺(tái)的深度神經(jīng)網(wǎng)絡(luò)模型,判斷一張抓拍到的人臉是否屬于黑名單。

也因此通常也會(huì)有AI訓(xùn)練芯片和AI推理芯片,另外還會(huì)根據(jù)是部署在云端數(shù)據(jù)中心、邊緣端、還是終端,更細(xì)化的分為云端AI訓(xùn)練、云端AI推理、邊緣/終端AI推理芯片。

因?yàn)锳I訓(xùn)練需要大量的數(shù)據(jù),基本被部署在云端,過去幾年地方政府加快建設(shè)公有云、私有云、數(shù)據(jù)中心,也因此AI訓(xùn)練芯片市場(chǎng)大增,在2018年的時(shí)候中國云端AI訓(xùn)練芯片市場(chǎng)份額達(dá)到51.3%,中國AI芯片市場(chǎng)規(guī)模也以云端訓(xùn)練芯片為主。

不過隨著大規(guī)模地方性數(shù)據(jù)中心建設(shè)陸續(xù)完成,云端訓(xùn)練芯片增長(zhǎng)速度逐步放緩,而隨著各領(lǐng)域市場(chǎng)需求的釋放,云端推理芯片、終端推理芯片市場(chǎng)增長(zhǎng)速度呈現(xiàn)上升趨勢(shì),根據(jù)IDC研究發(fā)現(xiàn),2020年中國數(shù)據(jù)中心用于推理的芯片的市場(chǎng)份額已經(jīng)超過50%,預(yù)計(jì)到2025年,用于推理的工作負(fù)載的芯片將達(dá)到60.8%。

邊緣AI芯片市場(chǎng)規(guī)模將超過云端芯片

同時(shí)AI芯片正在從云端向邊緣端發(fā)展,IDC&浪潮日前發(fā)布的《2021-2022中國人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》顯示,在新技術(shù)的驅(qū)動(dòng)下,5G 等連接技術(shù)降低了數(shù)據(jù)的傳輸和處理速度,為了分擔(dān)數(shù)據(jù)中心的計(jì)算壓力并且也能提高實(shí)時(shí)響應(yīng)速度,人工智能在邊緣側(cè)的處理將成為企業(yè)的一個(gè)關(guān)鍵增長(zhǎng)領(lǐng)域。

人工智能在邊緣以及端側(cè)將有廣泛的應(yīng)用場(chǎng)景,從自動(dòng)駕駛到工業(yè)制造,再到消費(fèi)者智能家居和可穿戴設(shè)備。據(jù)市場(chǎng)咨詢公司ABI Research的數(shù)據(jù)顯示,預(yù)計(jì)到2025年,邊緣AI芯片市場(chǎng)的收入將達(dá)到122億美元,云AI芯片市場(chǎng)的收入將達(dá)到119億美元,邊緣AI芯片市場(chǎng)將超過云AI芯片組市場(chǎng)。


GPU芯片占比增加,將超過20%

目前AI芯片有3種主流技術(shù)路線,分別是GPU、ASIC以及FPGA。其中GPU芯片被認(rèn)為更適合用于承擔(dān)訓(xùn)練負(fù)載,有分析人士指出,目前GPU已經(jīng)發(fā)展到較為成熟的階段。根據(jù)IDC數(shù)據(jù),2021年上半年AI芯片中,GPU依然是實(shí)現(xiàn)數(shù)據(jù)中心加速的首選,占有90%以上市場(chǎng)份額。

英偉達(dá)是GPU領(lǐng)域的絕對(duì)龍頭,占據(jù)了絕大部分市場(chǎng)份額,近幾年國內(nèi)也有多家GPU廠商逐漸成長(zhǎng)起來,將其用于AI訓(xùn)練和推理,包括天數(shù)智芯、摩爾線程、沐曦集成、壁仞科技、登臨科技等。

雖然目前GPU仍然占據(jù)主要的市場(chǎng)份額,不過ASIC、FPGA等其他非GPU芯片在各個(gè)領(lǐng)域越來越多的被使用,整體市場(chǎng)份額接近10%,預(yù)計(jì)到2025年其占比將超過20%,主要原因:一是越來越多的AI初創(chuàng)企業(yè)成長(zhǎng)起來,它們很多采用ASIC芯片進(jìn)行訓(xùn)練和推理;二是GPU較多的被用于云端訓(xùn)練,而隨著云端、邊緣推理芯片市場(chǎng)規(guī)模逐漸擴(kuò)大,F(xiàn)PGA和ASIC芯片的價(jià)值更容易得到體現(xiàn)。

小結(jié)

整體而言,經(jīng)過多年的發(fā)展,AI芯片市場(chǎng)規(guī)模正在快速增長(zhǎng),同時(shí)AI芯片也逐漸走向更加多元化,從功能上來看,逐漸從云端AI訓(xùn)練拓展到云端和邊緣端推理,從芯片類型來看,GPU芯片仍然占據(jù)重要位置,而FPGA和ASIC等芯片的價(jià)值也得到更多體現(xiàn)。

我們也明顯看到,不少AI芯片企業(yè)開始全面推出產(chǎn)品,或者包括云端訓(xùn)練和推理,或者同時(shí)進(jìn)行云端和邊緣端芯片產(chǎn)品布局,比如寒武紀(jì)推出同時(shí)支持訓(xùn)練和推理的芯片,燧原在推出云端訓(xùn)練芯片之后,也推出了云端推理芯片,鯤云科技基于CAISA芯片的產(chǎn)品可應(yīng)用于云端和邊緣端推理。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • asic
    +關(guān)注

    關(guān)注

    34

    文章

    1274

    瀏覽量

    124604
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5194

    瀏覽量

    135494
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39794

    瀏覽量

    301456
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    訓(xùn)練到推理:大模型算力需求的新拐點(diǎn)已至

    在大模型產(chǎn)業(yè)發(fā)展的早期階段,行業(yè)焦點(diǎn)主要集中在大模型訓(xùn)練所需的算力投入。一個(gè)萬億參數(shù)大模型的訓(xùn)練可能需要數(shù)千張GPU芯片連續(xù)運(yùn)行數(shù)月,成本高
    的頭像 發(fā)表于 02-05 16:07 ?814次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>訓(xùn)練到</b><b class='flag-5'>推理</b>:大模型算力需求的新拐點(diǎn)已至

    模型產(chǎn)品:Qwen2.5-VL在BM1684X邊緣計(jì)算部署全攻略

    前言:部署意義與應(yīng)用場(chǎng)景1.1Qwen-2-5-VL與BM1684X的組合行業(yè)意義:?邊緣AI革命:大模型云端下沉
    的頭像 發(fā)表于 01-13 14:17 ?4639次閱讀
    <b class='flag-5'>從</b>模型<b class='flag-5'>到</b>產(chǎn)品:Qwen2.5-VL在BM1684X<b class='flag-5'>邊緣</b>計(jì)算部署全攻略

    云端集中邊緣分布:邊緣智算如何重塑算力網(wǎng)絡(luò)布局

    隨著大模型推理延遲進(jìn)入毫秒級(jí)時(shí)代,整個(gè)科技行業(yè)都意識(shí):算力網(wǎng)絡(luò)的規(guī)則正在被改寫。這場(chǎng)變革的核心,正是云端集中式計(jì)算向邊緣分布式智能的范式
    的頭像 發(fā)表于 12-25 11:34 ?440次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>云端</b>集中<b class='flag-5'>到</b><b class='flag-5'>邊緣</b>分布:<b class='flag-5'>邊緣</b>智算如何重塑算力網(wǎng)絡(luò)布局

    AI硬件全景解析:CPU、GPU、NPU、TPU的差異化之路,一文看懂!?

    CPU作為“通用基石”,支撐所有設(shè)備的基礎(chǔ)運(yùn)行;GPU憑借并行算力,成為AI訓(xùn)練與圖形處理的“主力”;TPU在Google生態(tài)中深耕云端大模型訓(xùn)練
    的頭像 發(fā)表于 12-17 17:13 ?1751次閱讀
    <b class='flag-5'>AI</b>硬件全景解析:CPU、<b class='flag-5'>GPU</b>、NPU、TPU的差異化之路,一文看懂!?

    RA8P1部署ai模型指南:訓(xùn)練模型部署?|?本周六

    在嵌入式邊緣AI中,如何把“訓(xùn)練好的模型”穩(wěn)定地“跑在板子上”,決定了項(xiàng)目能否落地。我們帶你基于RA8P1平臺(tái),跑通數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、量
    的頭像 發(fā)表于 11-20 18:06 ?2087次閱讀
    RA8P1部署<b class='flag-5'>ai</b>模型指南:<b class='flag-5'>從</b><b class='flag-5'>訓(xùn)練</b>模型<b class='flag-5'>到</b>部署?|?本周六

    游戲引擎AI動(dòng)力核心

    顯卡技術(shù)演進(jìn):游戲引擎AI動(dòng)力核心 曾經(jīng)專為圖形渲染而生的顯卡,如今正成為推動(dòng)人工智能、邊緣計(jì)算和科學(xué)模擬的關(guān)鍵驅(qū)動(dòng)力。 近年來,顯卡技術(shù)已從單純的圖形處理單元演變?yōu)橥ㄓ糜?jì)算加速器
    的頭像 發(fā)表于 10-30 11:08 ?323次閱讀

    需求落地:RISC-V如何重塑下一代AI硬件生態(tài)?

    本文由TechSugar編譯自SemiWiki人工智能(AI)正重塑計(jì)算領(lǐng)域的每一個(gè)層面,訓(xùn)練萬億參數(shù)模型的超大規(guī)模數(shù)據(jù)中心,運(yùn)行實(shí)時(shí)推理
    的頭像 發(fā)表于 10-16 09:06 ?707次閱讀
    <b class='flag-5'>從</b>需求<b class='flag-5'>到</b>落地:RISC-V如何重塑下一代<b class='flag-5'>AI</b>硬件生態(tài)?

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片AGI芯片

    、分布式群體智能 1)物聯(lián)網(wǎng)AGI系統(tǒng) 優(yōu)勢(shì): 組成部分: 2)分布式AI訓(xùn)練 7、發(fā)展重點(diǎn):基于強(qiáng)化學(xué)習(xí)的后訓(xùn)練推理 8、超越大模型:神
    發(fā)表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)

    的工作嗎? 從書中也了解到了AI芯片都有哪些?像CPU、GPU、FPGA、ASIC都是AI芯片
    發(fā)表于 09-12 16:07

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+可期之變:AI硬件AI濕件

    想到,除了研究大腦的抽象數(shù)學(xué)模型外,能否拋棄傳統(tǒng)的芯片實(shí)現(xiàn)方式,以化學(xué)物質(zhì)和生物組件、材料及相關(guān)現(xiàn)象來構(gòu)建人工神經(jīng)網(wǎng)絡(luò)或提取其功能來用于AI處理,甚至直接用生物體來實(shí)現(xiàn)AI功能,這就是
    發(fā)表于 09-06 19:12

    CPU GPU,渲染技術(shù)如何重塑游戲、影視與設(shè)計(jì)?

    渲染技術(shù)是計(jì)算機(jī)圖形學(xué)的核心內(nèi)容之一,它是將三維場(chǎng)景轉(zhuǎn)換為二維圖像的過程。渲染技術(shù)一直在不斷演進(jìn),最初的CPU渲染后來的GPU渲染,性能和質(zhì)量都有了顯著提升。CPU
    的頭像 發(fā)表于 09-01 12:16 ?990次閱讀
    <b class='flag-5'>從</b> CPU <b class='flag-5'>到</b> <b class='flag-5'>GPU</b>,渲染技術(shù)如何重塑游戲、影視與設(shè)計(jì)?

    芯片主板,科技創(chuàng)新實(shí)現(xiàn)高質(zhì)量發(fā)展

    數(shù)字化時(shí)代,科技的迅猛發(fā)展深刻影響著各個(gè)領(lǐng)域。芯片主板的集成,生動(dòng)展現(xiàn)了科技創(chuàng)新如何成為推動(dòng)高質(zhì)量發(fā)展的核心動(dòng)力。
    的頭像 發(fā)表于 07-26 16:26 ?837次閱讀

    邊緣AI盒子技術(shù)解析:ASIC/FPGA/GPU芯片邊緣-云端協(xié)同與自適應(yīng)推理

    ? 電子發(fā)燒友網(wǎng)綜合報(bào)道 邊緣AI盒子是一種集成了高性能芯片AI算法和數(shù)據(jù)處理能力的硬件設(shè)備,部署在數(shù)據(jù)源的邊緣側(cè),如工廠、商場(chǎng)、交通路口
    的頭像 發(fā)表于 07-13 08:25 ?4563次閱讀

    陣列云訓(xùn)練到推理

    在云場(chǎng)景下,陣列云(分布式計(jì)算集群)模型訓(xùn)練到推理的完整技術(shù)流程可結(jié)構(gòu)化分解如下: 一、訓(xùn)練階段技術(shù)實(shí)現(xiàn) 1,資源動(dòng)態(tài)編排? 基于Kubernetes集群或云廠商彈性計(jì)算服務(wù)(如AW
    的頭像 發(fā)表于 03-28 08:32 ?673次閱讀

    邊緣計(jì)算 云端計(jì)算

    處理數(shù)據(jù),需通過互聯(lián)網(wǎng)傳輸原始數(shù)據(jù)?。 延遲與實(shí)時(shí)性? 邊緣計(jì)算?:毫秒級(jí)響應(yīng),適用于自動(dòng)駕駛、工業(yè)控制等實(shí)時(shí)場(chǎng)景?。 云端計(jì)算?:因網(wǎng)絡(luò)傳輸和集中處理,延遲較高(通常秒級(jí)),適合非實(shí)時(shí)任務(wù)(如數(shù)據(jù)分析、模型訓(xùn)練)?。
    的頭像 發(fā)表于 03-27 08:30 ?950次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>邊緣</b>計(jì)算 <b class='flag-5'>到</b><b class='flag-5'>云端</b>計(jì)算