国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

從SmartNIC走向DPU,專用加速器的崛起

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚(yáng) ? 2022-06-25 01:17 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在計(jì)算架構(gòu)和負(fù)載變得愈發(fā)復(fù)雜和多樣的情況下,處理器廠商紛紛開始了自己的造詞之路。要想體現(xiàn)產(chǎn)品定位,又要讓大家對(duì)其縮寫印象深刻,所以PU成了最常見的后綴。現(xiàn)在的處理器家族中已經(jīng)有了不少成員,除了常見的CPUGPU、APU之外,按照處理對(duì)象的不同,在人工智能深度學(xué)習(xí)的崛起下,NPU和TPU也紛紛出現(xiàn)。
DPU模糊的定義
不過這些已經(jīng)定義明確的處理單元并不是我們今天的主角,而是找到了全新定義的xPU。什么是xPU,其實(shí)很難定義,這其中有DPU(數(shù)據(jù)處理單元)、IPU(基礎(chǔ)設(shè)施處理單元)和FAC(功能加速卡),這些剛冒頭的產(chǎn)品就是xPU,它們代表了從SmartNIC演化過來并超越其定位的新時(shí)代加速器硬件。除了SmartNIC以外,這些xPU雖然命名不同,但其實(shí)很多時(shí)候,它們是完全重合的,現(xiàn)在為了方便,很多時(shí)候也以DPU統(tǒng)稱。
BlueField-3 DPU / 英偉達(dá)
這樣說DPU的定義還是很模糊,我們就從其特點(diǎn)來看。SmartNIC往往需要主CPU來完成管理工作,DPU雖然往往也屬于一個(gè)主系統(tǒng)中的部件,但卻可以做到完全獨(dú)立,可以部署到邊緣、JBOF存儲(chǔ)和網(wǎng)關(guān)上,并為它們提供網(wǎng)絡(luò)接口和虛擬功能。它的另一項(xiàng)職責(zé)就是幫CPU減輕負(fù)擔(dān),節(jié)省服務(wù)器上有限的處理器核心。
因此,盡管DPU看起來和一些PCIe智能網(wǎng)卡或GPU差不多,但它本質(zhì)上就是一個(gè)為數(shù)據(jù)流和數(shù)據(jù)包處理提供加速、卸載和本地服務(wù)的微型服務(wù)器,在服務(wù)器中提供一個(gè)獨(dú)立單元的同時(shí),又不乏協(xié)助其他單元的處理能力。
什么樣的任務(wù)需要DPU?
至于為什么要用到DPU,這就不得不談到日益增加的數(shù)據(jù)密集型任務(wù)了,短視頻、實(shí)時(shí)金融交易的興起,高帶寬的數(shù)據(jù)流要求數(shù)據(jù)中心對(duì)網(wǎng)絡(luò)、存儲(chǔ)、安全和AI/ML進(jìn)行高效的處理。比如谷歌在數(shù)年前就提到,在他們的數(shù)據(jù)中心里,有三分之一的任務(wù)都是數(shù)據(jù)密集型的,這些都是交由底層基礎(chǔ)設(shè)施完成的,而且這類任務(wù)的占比是在逐步增加的。因?yàn)镃PU和GPU這樣的通用計(jì)算單元并不擅長(zhǎng),所以專門針對(duì)這類任務(wù)優(yōu)化的DPU就得出來擔(dān)此大任了。其次就是企業(yè)數(shù)據(jù)中心和公共數(shù)據(jù)中心也想獲得超大規(guī)模巨頭廠商那樣的效率,做到這一點(diǎn)就必須解聚那些昂貴的硬件資源,比如SSD、GPU等,DPU為數(shù)據(jù)中心的解聚提供了極高的效率,優(yōu)化了擁有成本、占用面積和安全性。
DPU可以完成各個(gè)方面的卸載與加速,尤其是在網(wǎng)絡(luò)、安全和存儲(chǔ)這三大塊。在網(wǎng)絡(luò)端,DPU可以有效實(shí)現(xiàn)虛擬路由器,輔助數(shù)據(jù)包交換、定義交換規(guī)則等工作,減少延遲的同時(shí)還能夠提高吞吐量;在安全上,DPU可以用于下一代防火墻(NGFW)的加速,完成數(shù)據(jù)包過濾、內(nèi)容檢測(cè)和報(bào)頭檢測(cè)與重寫,將性能提高數(shù)倍以上;在存儲(chǔ)上,DPU可以卸載高速NVMe/TCP,進(jìn)一步提升存儲(chǔ)性能。最關(guān)鍵的是,這三者都能有效地接管CPU控制面的負(fù)載,節(jié)省CPU本身的計(jì)算核心。

基于DPU的服務(wù)器存儲(chǔ)方案 / Fungible
以上是DPU為服務(wù)器提供的加強(qiáng),主要以PCIe加速卡的形式來提供,此外,還有單獨(dú)的DPU存儲(chǔ)產(chǎn)品。傳統(tǒng)的CPU存儲(chǔ)方案中,整個(gè)系統(tǒng)由DRAM、x86 CPU、SmartNIC、加速器和PCIe接口組成,而在未來的存儲(chǔ)方案,比如高性能存儲(chǔ)、計(jì)算型存儲(chǔ)和軟件定義網(wǎng)絡(luò)應(yīng)用的存儲(chǔ)中,單片集成的方案更能滿足要求,這就是與DRAM結(jié)合的DPU存儲(chǔ)產(chǎn)品。這種方案不僅可以提升IOPS,也能進(jìn)一步降低能耗。
正因如此,數(shù)據(jù)中心會(huì)用DPU來完成數(shù)據(jù)密集型任務(wù),從而減少功耗、擁有成本和占用空間。此外,他們也會(huì)用到基于DPU的存儲(chǔ)、GPU/TPU資源池和主機(jī)卡,來高效地完成高成本硬件資源的解聚。
DPU市場(chǎng)混戰(zhàn)
在不少廠商對(duì)DPU的宣傳中,往往都會(huì)提到這將是除了CPU和GPU之外的第三大硬件。大家可能覺得類似的承諾,好像一些AI處理器也有提到,但市面上還是GPU占據(jù)主導(dǎo)地位,DPU又會(huì)有何不同呢?事實(shí)證明,市場(chǎng)對(duì)DPU的信心很足,這我們從入局DPU的廠商就能看出。
云霄DPU / 云豹智能
如今制造DPU的企業(yè)分為三種,一是初創(chuàng)公司,比如:云豹智能、星云智聯(lián)、中科馭數(shù)、云脈芯聯(lián)、芯啟源、大禹智芯、Fungible等;二是市面上一些已有的服務(wù)器巨頭,比如AMD/Xilinx、英特爾、Marvel、英偉達(dá);三是CSP(云服務(wù)供應(yīng)商)廠商,比如亞馬遜AWS、微軟Azure、阿里云等等。后者更多是負(fù)責(zé)設(shè)計(jì)或者聯(lián)合設(shè)計(jì)這些xPU,好專用于自己的云服務(wù)器。最終售賣這些DPU的除了DPU廠商外,還有基礎(chǔ)設(shè)施的OEM和ODM,增值分銷商和集成方案廠商,CSP廠商在售賣服務(wù)器的時(shí)候,自然也會(huì)以間接的方式來體現(xiàn)DPU的價(jià)值。
隨著Mellanox被英偉達(dá)收購,Pensando被AMD收購,而Fungible的DPU主要針對(duì)存儲(chǔ)加速和卸載,雖然沒有被收購,但也收獲了軟銀的主導(dǎo)的融資。國(guó)內(nèi)的DPU廠商同樣備受青睞,比如騰訊屢次投資的云豹智能,字節(jié)跳動(dòng)投資的云脈芯聯(lián),美團(tuán)和百度投資的星云智聯(lián)等,這些投資方要么是CSP,要么擁有超大規(guī)模的數(shù)據(jù)中心,他們不像其他CSP大廠,硬件設(shè)計(jì)能力缺乏或有限,卻也看到了DPU的前景。
DPU并不完美
即便大廠看好,但從現(xiàn)狀來看,部署DPU對(duì)某些中小企業(yè)來說依然是雙刃劍。固然,DPU可以卸載基礎(chǔ)設(shè)施的任務(wù),減輕其負(fù)擔(dān),讓服務(wù)器的CPU空出來專注在應(yīng)用本身,更高的效率、更低的擁有成本和更高的安全性也都隨之而來,這些優(yōu)點(diǎn)是幾乎每個(gè)服務(wù)器都能享受到的。
但在部分服務(wù)器中,引入DPU不免增加了服務(wù)器的資本投入,而且相較于CPU、GPU這類硬件來說,它只能卸載和加速特定的負(fù)載,并不是一個(gè)通用加速單元。此外,部分服務(wù)器在增加DPU的情況下還是會(huì)導(dǎo)致功耗提升,在服務(wù)器、數(shù)據(jù)中心紛紛開始節(jié)能減排的當(dāng)下,如何權(quán)衡各個(gè)組件的功耗無疑會(huì)是一個(gè)大問題。還有就是相關(guān)的開發(fā),DPU的靈活性體現(xiàn)在可編程上,但這需要進(jìn)行一定的編程能力,加上目前每家廠商都在單干,也沒有一個(gè)標(biāo)準(zhǔn)的接口,所以在適配上絕對(duì)不輕松,這也是不少DPU選擇Arm作為核心架構(gòu)的原因,就是為了減少其編程的難度。
也正是因?yàn)橐陨线@些理由,從市場(chǎng)滲透率上來看,DPU主要是還是大規(guī)模的CSP廠商用的更多一點(diǎn),加上托管應(yīng)用的增加,這一塊未來也會(huì)驅(qū)動(dòng)DPU產(chǎn)品的銷售。對(duì)于自研DPU的CSP來說,他們肯定會(huì)繼續(xù)加大這方面的投入,進(jìn)一步降低成本,而對(duì)于第三方廠商來說,英偉達(dá)、AMD和英特爾這些服務(wù)器CPU、GPU廠商無疑會(huì)更有優(yōu)勢(shì),因?yàn)樗麄兲峁└?jìng)爭(zhēng)力更強(qiáng)的集成方案。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    14

    文章

    10253

    瀏覽量

    91487
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    414

    瀏覽量

    26971
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    23

    文章

    4087

    瀏覽量

    99182
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AMD Alveo MA35D加速器:開啟大規(guī)模交互式流媒體新時(shí)代

    AMD Alveo MA35D加速器:開啟大規(guī)模交互式流媒體新時(shí)代 在當(dāng)今全球視頻市場(chǎng)被直播主導(dǎo)的背景下,低延遲應(yīng)用不斷涌現(xiàn),對(duì)基礎(chǔ)設(shè)施和視頻處理技術(shù)的成本結(jié)構(gòu)及部署策略產(chǎn)生了深遠(yuǎn)影響。AMD推出
    的頭像 發(fā)表于 12-15 14:35 ?377次閱讀

    工業(yè)級(jí)-專業(yè)液晶圖形顯示加速器RA8889ML3N簡(jiǎn)介+顯示方案選型參考表

    本帖最后由 MTCN2013 于 2025-11-17 15:23 編輯 專業(yè)液晶圖形顯示加速器能夠有效減少對(duì)MCU運(yùn)算資源的占用,對(duì)于只需普通單片機(jī)運(yùn)算資源的儀器儀表來說,專業(yè)圖形顯示加速器
    發(fā)表于 11-14 16:03

    邊緣計(jì)算中的AI加速器類型與應(yīng)用

    人工智能正在推動(dòng)對(duì)更快速、更智能、更高效計(jì)算的需求。然而,隨著每秒產(chǎn)生海量數(shù)據(jù),將所有數(shù)據(jù)發(fā)送至云端處理已變得不切實(shí)際。這正是邊緣計(jì)算中AI加速器變得不可或缺的原因。這種專用硬件能夠直接在邊緣設(shè)備上
    的頭像 發(fā)表于 11-06 13:42 ?816次閱讀
    邊緣計(jì)算中的AI<b class='flag-5'>加速器</b>類型與應(yīng)用

    亞馬遜云科技第三期創(chuàng)業(yè)加速器圓滿收官 助力初創(chuàng)釋放Agentic AI潛力 加速全球化進(jìn)程

    北京——2025年10月28日 ,亞馬遜云科技第三期創(chuàng)業(yè)加速器項(xiàng)目圓滿收官。35家入營(yíng)企業(yè)齊聚一堂,分享了各自的業(yè)務(wù)發(fā)展情況,以及參與本期加速器的收獲及體驗(yàn)。第三期創(chuàng)業(yè)加速器持續(xù)聚焦AI,特別是前沿
    的頭像 發(fā)表于 10-29 15:18 ?927次閱讀

    航裕電源以大電流技術(shù)為國(guó)內(nèi)外超導(dǎo)加速器項(xiàng)目提供優(yōu)質(zhì)方案

    航裕電源:以大電流技術(shù),護(hù)航尖端科技 大科學(xué)裝置建設(shè)熱潮中,超導(dǎo)加速器作為探索微觀世界、推動(dòng)前沿科研的 “國(guó)之重”,對(duì)供電系統(tǒng)的穩(wěn)定性、精度及功率提出極致要求。航裕電源以31.5kA、80kA萬安
    的頭像 發(fā)表于 10-12 15:02 ?1565次閱讀

    英特爾Gaudi 2E AI加速器為DeepSeek-V3.1提供加速支持

    英特爾? Gaudi 2EAI加速器現(xiàn)已為DeepSeek-V3.1提供深度優(yōu)化支持。憑借出色的性能和成本效益,英特爾Gaudi 2E以更低的投入、更高的效率,實(shí)現(xiàn)從模型訓(xùn)練的深度突破到推理部署的實(shí)時(shí)響應(yīng),為大模型的加速落地提供新選擇。
    的頭像 發(fā)表于 08-26 19:18 ?3027次閱讀
    英特爾Gaudi 2E AI<b class='flag-5'>加速器</b>為DeepSeek-V3.1提供<b class='flag-5'>加速</b>支持

    創(chuàng)客總部加入MathWorks加速器計(jì)劃

    全球領(lǐng)先的數(shù)學(xué)計(jì)算軟件開發(fā)商 MathWorks 日前宣布,創(chuàng)客總部已加入 MathWorks 加速器計(jì)劃。作為中關(guān)村科創(chuàng)孵化,創(chuàng)客總部致力于為人工智能創(chuàng)業(yè)企業(yè)、高校院所技術(shù)精英搭建推動(dòng)與實(shí)體經(jīng)濟(jì)
    的頭像 發(fā)表于 08-22 10:00 ?1144次閱讀

    Andes晶心科技推出新一代深度學(xué)習(xí)加速器

    高效能、低功耗 32/64 位 RISC-V 處理核與 AI 加速解決方案的領(lǐng)導(dǎo)供貨商—Andes晶心科技(Andes Technology)今日正式發(fā)表最新深度學(xué)習(xí)加速器 AndesAIRE AnDLA I370。此產(chǎn)品專為
    的頭像 發(fā)表于 08-20 17:43 ?2342次閱讀

    Arm神經(jīng)技術(shù)是業(yè)界首創(chuàng)在 Arm GPU 上增添專用神經(jīng)加速器的技術(shù),移動(dòng)設(shè)備上實(shí)現(xiàn)PC級(jí)別的AI圖形性能

    Arm 神經(jīng)技術(shù)是業(yè)界首創(chuàng)在 Arm GPU 上增添專用神經(jīng)加速器的技術(shù),首次在移動(dòng)設(shè)備上實(shí)現(xiàn) PC 級(jí)別的 AI 圖形性能,為未來的端側(cè) AI 創(chuàng)新奠定基礎(chǔ) 神經(jīng)超級(jí)采樣是 Arm 神經(jīng)技術(shù)的首款
    的頭像 發(fā)表于 08-14 17:59 ?2763次閱讀

    【免費(fèi)送書】AI芯片,過去走向未來:《AI芯片:前沿技術(shù)與創(chuàng)新未來》

    最重大的技術(shù)變革無疑就是大模型的橫空出世,人類的時(shí)間仿佛被裝上了加速器ChatGPT到DeepSeek,大模型應(yīng)用密集出現(xiàn)、頻繁升級(jí),這讓作者意識(shí)到有必要撰寫一本新的AI芯片圖書,以緊跟時(shí)代
    的頭像 發(fā)表于 07-29 08:06 ?1156次閱讀
    【免費(fèi)送書】AI芯片,<b class='flag-5'>從</b>過去<b class='flag-5'>走向</b>未來:《AI芯片:前沿技術(shù)與創(chuàng)新未來》

    高壓放大器在粒子加速器研究中的應(yīng)用

    粒子加速器是現(xiàn)代科學(xué)研究中不可或缺的大型實(shí)驗(yàn)裝置,廣泛應(yīng)用于物理學(xué)、化學(xué)、材料科學(xué)、生物學(xué)等多個(gè)領(lǐng)域。其核心原理是利用電場(chǎng)和磁場(chǎng)對(duì)帶電粒子進(jìn)行加速和約束,使粒子達(dá)到極高的能量,從而為研究微觀世界
    的頭像 發(fā)表于 06-19 17:09 ?588次閱讀
    高壓放大器在粒子<b class='flag-5'>加速器</b>研究中的應(yīng)用

    粒子加速器?——?科技前沿的核心裝置

    粒子加速器全稱“荷電粒子加速器”,是一種利用電磁場(chǎng)在高真空環(huán)境中對(duì)帶電粒子(如電子、質(zhì)子、離子)進(jìn)行加速和控制,使其獲得高能量的特種裝置。粒子加速器技術(shù)現(xiàn)已發(fā)展成為集高能物理、核物理、
    的頭像 發(fā)表于 06-19 12:05 ?3593次閱讀
    粒子<b class='flag-5'>加速器</b>?——?科技前沿的核心裝置

    基于雙向塊浮點(diǎn)量化的大語言模型高效加速器設(shè)計(jì)

    本文提出雙向塊浮點(diǎn)(BBFP)量化格式及基于其的LLMs加速器BBAL,通過雙向移位與重疊位設(shè)計(jì)顯著降低量化誤差,提升非線性計(jì)算效率,實(shí)現(xiàn)精度、吞吐量和能效的顯著優(yōu)化,相關(guān)成果被國(guó)際頂級(jí)會(huì)議 DAC 2025 接收。
    的頭像 發(fā)表于 05-14 13:40 ?2370次閱讀
    基于雙向塊浮點(diǎn)量化的大語言模型高效<b class='flag-5'>加速器</b>設(shè)計(jì)

    第三期 “亞馬遜云科技創(chuàng)業(yè)加速器” 正式啟動(dòng)

    新 助力生成式 AI 初創(chuàng)企業(yè)釋放潛能,加速全球化進(jìn)程 ? 北京 ——2025 年 4 月 18 日 亞馬遜云科技今日宣布,第三期 "亞馬遜云科技創(chuàng)業(yè)加速器" 正式啟動(dòng)。亞馬遜云科技將聯(lián)合包括啟明創(chuàng)
    發(fā)表于 04-18 10:46 ?1260次閱讀

    小型加速器中子源監(jiān)測(cè)系統(tǒng)解決方案

    小型加速器中子源是一種基于先進(jìn)加速器技術(shù)的中子產(chǎn)生裝置,憑借體積小、成本低、安全性高的優(yōu)勢(shì),在醫(yī)學(xué)、工業(yè)、科研、安全、能源等多個(gè)領(lǐng)域展現(xiàn)出巨大的應(yīng)用潛力和價(jià)值。無論是用于醫(yī)學(xué)領(lǐng)域的精準(zhǔn)放療,還是工業(yè)
    的頭像 發(fā)表于 03-13 11:19 ?1394次閱讀
    小型<b class='flag-5'>加速器</b>中子源監(jiān)測(cè)系統(tǒng)解決方案