国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

搜索歷史

清空
搜索熱詞
      0
      • 聊天消息
      • 系統(tǒng)消息
      • 評論與回復(fù)
      VIP于 到期 續(xù)費
      登錄后你可以
      • 下載海量資料
      • 學習在線課程
      • 觀看技術(shù)視頻
      • 寫文章/發(fā)帖/加入社區(qū)
      會員中心
      創(chuàng)作中心
      發(fā)布
      創(chuàng)作活動

      完善資料讓更多小伙伴認識你，還能領(lǐng)取20積分哦，立即完善>

      3天內(nèi)不再提示

      始于硬件卻也被硬件所限的深度學習

      lPCU_elecfans ? 來源：未知 ? 2022-12-05 07:10 ? 次閱讀
      加入交流群
      微信小助手二維碼

      掃碼添加小助手

      加入工程師交流群

      電子發(fā)燒友網(wǎng)報道（文/周凱揚）深度學習硬件在AI時代已經(jīng)引領(lǐng)了不少設(shè)計創(chuàng)新，無論是簡單的邊緣推理，還是大規(guī)模自然語言模型的訓練，都有了性能上的突破。作為業(yè)內(nèi)在深度學習上投入最多的公司之一，英偉達無疑是這類硬件的領(lǐng)軍者。
      近日，在伯克利大學的電子工程與電腦科學學院研討會上，英偉達的首席科學家、研究部門高級副總裁同時兼任該校副教授的Bill Dally，分享了從他這個從業(yè)人士看來，發(fā)生在深度學習硬件上的一些趨勢。

      硬件成為限制

      AI的浪潮其實早在20世紀就被多次掀起過，但真正成為人們不可忽視的巨浪，還是這十幾年的事，因為這時候AI有了天時地利人和：算法與模型，大到足夠訓練這些模型的數(shù)據(jù)集，以及能在合理的時間內(nèi)訓練出這些模型的硬件。
      但從帶起第一波深度學習的AlexNet，到如今的GPT-3和Turing NLG等，人們不斷在打造更大的數(shù)據(jù)集和更大的模型，加上大語言模型的興起，對訓練的要求也就越來越高。可在摩爾定律已經(jīng)放緩的當下，訓練時間也在被拉長。

      基于Hopper架構(gòu)的H100 GPU / 英偉達
      以英偉達為例，到了帕斯卡這一代，他們才真正開始考慮單芯片的深度學習性能，并結(jié)合到GPU的設(shè)計中去，所以才有了Hopper這樣超高規(guī)格的AI硬件出現(xiàn)。但我們在訓練這些模型的時候，并沒有在硬件規(guī)模上有所減少，仍然需要用到集成了數(shù)塊Hopper GPU的DGX系統(tǒng)，甚至打造一個超算。很明顯，單從硬件這一個方向出發(fā)已經(jīng)有些不夠了，至少不是一個“高性價比”的方案。

      軟硬件全棧投入

      硬件推出后，仍要針對特定的模型進行進一步的軟件優(yōu)化，因此即便是同樣的硬件，其AI性能也會在未來呈現(xiàn)數(shù)倍的飛躍。從上個月的MLPerf的測試結(jié)果就可以看出，在A100 GPU推出的2.5年內(nèi)，英偉達就靠軟件優(yōu)化實現(xiàn)了最高2.5倍的訓練性能提升，當然了最大的性能提升還是得靠H100這樣的新硬件來實現(xiàn)。
      Bill Dally表示這就是英偉達的優(yōu)勢所在，雖然這幾年投入進深度學習硬件的資本不少，但隨著經(jīng)濟下行，不少投資者已經(jīng)喪失了信心，所以不少AI硬件初創(chuàng)公司都沒能撐下去，他自己也在這段時間看到了不少向英偉達投遞過來的簡歷。
      他認為不少這些公司都已經(jīng)打造出了自己的矩陣乘法器，但他們并沒有在軟件上有足夠的投入，所以即便他們一開始給出的指標很好看，也經(jīng)常拿英偉達的產(chǎn)品作為對比，未來的性能甚至比不過英偉達的上一代硬件，更別說Hopper這類新產(chǎn)品了。

      加速器

      相較傳統(tǒng)的通用計算硬件，加速器在深度學習上明顯要高效多了，因為加速器往往都是作為一種專用單元存在的，比如針對特定的數(shù)據(jù)類型和運算。加速器可以在一個運算周期內(nèi)就完成通常需要花上10秒或100秒才能完成的工作量，效率最高可提升1000倍。

      A100和H100的MLPerf跑分 / 英偉達
      當然了要追求純粹的性能提升，而不是效率提升的話，這些加速器也可以采用大規(guī)模并行設(shè)計，比如典型的32x32矩陣乘法單元，同時運行的運算有了千百倍的提升。加速器在內(nèi)存設(shè)計上也更具有優(yōu)勢，比如針對特定的數(shù)據(jù)結(jié)構(gòu)和運算，選擇優(yōu)化過的高帶寬低能耗內(nèi)存，同時盡可能使用本地內(nèi)存，減少數(shù)據(jù)搬運來控制開銷。
      對于英偉達來說，他們在加速器上的研究更像是為GPU準備的試驗田，一旦有優(yōu)秀的成果出現(xiàn)，這些加速器就會成為GPU上的新核心。

      小結(jié)

      從Bill Dally的分享中，我們可以看出英偉達這樣的巨頭在深度學習上選擇的技術(shù)路線，以及他們?yōu)楹文茉诒姸喑鮿?chuàng)公司涌現(xiàn)、大廠入局的當下巋然不動的底氣。這并不是說深度學習硬件的道路只有這一條，類腦芯片等技術(shù)的出現(xiàn)也提供了新的破局機會，但有了前人經(jīng)驗的借鑒后，在兼顧性能、數(shù)值精度、模型的同時，還是得在軟件上下大功夫才行。

      聲明：本文由電子發(fā)燒友原創(chuàng)，轉(zhuǎn)載請注明以上來源。如需入群交流，請?zhí)砑游⑿舉lecfans999，投稿爆料采訪需求，請發(fā)郵箱huangjingjing@elecfans.com。


      更多熱點文章閱讀

      • 最高漲幅25%，AMD宣布上調(diào)Xilinx FPGA售價，供應(yīng)短缺讓TOP 2廠商受益
      • 時隔20年，莫斯科人汽車再次復(fù)產(chǎn)，背后全是中國車企的影子
      • 歐盟超430億歐元投向芯片領(lǐng)域，對上游半導體設(shè)備有何影響？
      • 24W以下電源，新型自供電BJT方案將全面取代其他方案？
      • 車用芯片不再缺？芯片大廠表示有所緩解，真實情況究竟如何呢？

      原文標題：始于硬件卻也被硬件所限的深度學習

      文章出處：【微信公眾號：電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

      聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。 舉報投訴

      原文標題：始于硬件卻也被硬件所限的深度學習

      文章出處：【微信號：elecfans，微信公眾號：電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

      收藏 人收藏
      加入交流群
      微信小助手二維碼

      掃碼添加小助手

      加入工程師交流群

        評論

        相關(guān)推薦
        熱點推薦

        深度解析LM81：硬件監(jiān)控的得力助手

        深度解析LM81：硬件監(jiān)控的得力助手 在硬件設(shè)計的領(lǐng)域中，對服務(wù)器、個人計算機等微處理器系統(tǒng)進行硬件監(jiān)控是確保系統(tǒng)穩(wěn)定運行的關(guān)鍵環(huán)節(jié)。TI推出的LM81便是一款高度集成的數(shù)據(jù)采集系統(tǒng)，
        的頭像 發(fā)表于 02-26 14:25 ?178次閱讀

        請問UART硬件FIFO深度是多少？如何避免數(shù)據(jù)溢出？

        UART 硬件 FIFO 深度是多少？如何避免數(shù)據(jù)溢出？
        發(fā)表于 11-21 06:59

        廣凌智慧教室建設(shè)內(nèi)容：硬件與軟件介紹

        廣凌科技（廣凌股份）憑借“硬件+平臺+數(shù)據(jù)”的深度融合，推出智慧教室整體解決方案，全面覆蓋智慧教室建設(shè)的硬件配置、軟件平臺、數(shù)據(jù)驅(qū)動及場景適配需求，一起來看看廣凌智慧教室建設(shè)需要搭建什么硬件
        的頭像 發(fā)表于 11-11 16:17 ?1198次閱讀
        廣凌智慧教室建設(shè)內(nèi)容：<b class='flag-5'>硬件</b>與軟件介紹

        深度剖析Nios II 處理器的硬件抽象層

        硬件抽象層（Hardware Abstraction Layer, HAL）是一個輕量級嵌入式運行時環(huán)境，它為用戶應(yīng)用程序和底層硬件提供了一個簡單的設(shè)備驅(qū)動程序接口。HAL應(yīng)用程序接口（API
        的頭像 發(fā)表于 10-31 15:25 ?4997次閱讀
        <b class='flag-5'>深度</b>剖析Nios II 處理器的<b class='flag-5'>硬件</b>抽象層

        電子硬件工程師如何從零開始學習？（文末免費分享從零開始學習資料）

        經(jīng)常有用戶咨詢，如何學習和提升電子硬件能力，有沒有適合小白學習的資料等等；電子硬件工程師是一個結(jié)合理論、實踐和創(chuàng)新能力的職業(yè)，需要掌握電路設(shè)計、元器件選型、PCB設(shè)計、嵌入式系統(tǒng)、測試
        的頭像 發(fā)表于 06-04 07:36 ?2177次閱讀
        電子<b class='flag-5'>硬件</b>工程師如何從零開始<b class='flag-5'>學習</b>？（文末免費分享從零開始<b class='flag-5'>學習</b>資料）

        硬件：我就說還得靠我

        硬件
        揚興科技
        發(fā)布于 :2025年05月26日 18:27:09

        硬件原理圖學習筆記

        這一個星期認真學習了硬件原理圖的知識，做了一些筆記，方便以后查找。硬件原理圖分為三類1.管腳類(gpio)和門電路類輸入輸出引腳，上拉電阻，三極管與門，或門，非門上拉電阻：正向標志作用,給懸空的引腳
        的頭像 發(fā)表于 04-30 18:40 ?1452次閱讀
        <b class='flag-5'>硬件</b>原理圖<b class='flag-5'>學習</b>筆記

        硬件工程師學習路線，不吹牛規(guī)劃

        心理，才能觸發(fā)你的好奇心，去學下去，這也是成為工程師的首要條件，但這是遠遠不夠，還需要一條可供參考的學習路線，再加上99%的汗水和1%的靈感才可以。硬件設(shè)計，可以
        的頭像 發(fā)表于 04-16 19:33 ?1879次閱讀
        <b class='flag-5'>硬件</b>工程師<b class='flag-5'>學習</b>路線，不吹牛規(guī)劃

        學硬件好還是學軟件好？

        學硬件好還是學軟件好？ 選擇學習硬件還是軟件取決于個人興趣、職業(yè)目標以及對不同工作方式的偏好。以下是兩者的一些比較，幫助你做出更合適的選擇。 學習硬
        發(fā)表于 04-07 15:27

        擁有一顆熱愛學習硬件開發(fā)的決心！

        有沒有大佬能教教硬件開發(fā)設(shè)計和pcb，目前轉(zhuǎn)行在，想學習硬件工程師這塊！
        發(fā)表于 04-02 14:46

        移遠通信×扣子：AI與硬件深度融合，加速AI智能體高效開發(fā)新生態(tài)

        3月22日，由扣子Coze與火山引擎聯(lián)合主辦的“扣子AI工坊·硬件專場”在深圳、北京、杭州、成都四城圓滿落幕。作為Coze與火山引擎的重要合作伙伴，移遠通信受邀全程深度參與本次活動，攜兩大AI創(chuàng)新
        的頭像 發(fā)表于 03-22 20:37 ?1160次閱讀
        移遠通信×扣子：AI與<b class='flag-5'>硬件</b><b class='flag-5'>深度</b>融合，加速AI智能體高效開發(fā)新生態(tài)