国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

通過平衡傳播獲得更好的AI芯片

倩倩 ? 來源:文財網 ? 2020-09-25 10:48 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

AI專業人員一直在追求一種AI,它肯定會降低做普通AI事情所需的能量,例如感知單詞和圖片。這種機器學習模擬類型利用電路的物理原理而不是數字原理來完成神經網絡的一項重要數學任務。但是,限制該方法的主要因素之一是深度學習的訓練算法(反向傳播)必須由GPU或其他單獨的數字框架來完成。

神經形態芯片初創公司Rain Neuromorphics與加拿大研究院Mila之間的研究合作表明,可以想象使用完全模擬的硬件來訓練神經網絡,這為端到端的模擬神經網絡提供了機會。這對神經形態處理和AI硬件整體具有重大影響-它保證了完全可用于訓練和推理的模擬AI芯片,從而顯著節省了計算,功耗,等待時間和大小。這項進步將工程學和深度學習的紐帶聯系在一起,為AI動力機器人打開了入口之門,這種機器人可以在現場獨自學習,就像人類一樣。

在由“人工智能的教父”之一,獲獎者Yoshua Bengio共同創建的題為“具有均衡傳播的端到端模擬神經網絡訓練”的論文中,分析家們表明,可以訓練神經網絡來利用交叉開關憶阻器的展示,就像在當今使用內存中處理器方法的商業AI加速器芯片中使用的安排一樣,卻沒有在網絡的每一層之間使用相關的ADCDAC。結果為潛力更大的高能效AI硬件提供了潛力

Rain Neuromorphics首席執行官戈登·威爾遜(Gordon Wilson)表示:“如今,能源利用和成本是最大的制約因素,使我們無法交付新型人工智能。我們確實需要找到一種無可否認地更有效的計算基礎,一種本質上可以提高能源效率的基礎,一種允許我們不將培訓局限于大型數據中心的基礎,但除此之外,我們還可以進入一個可以設想免費,自主的世界,能源無限的設備,獨自學習。同樣,這是我們認為這一新進展正在打開通向的大門?!?/p>

分析人員已經對MNIST分類(改良的美國國家標準與技術研究院手寫數字數據庫)的端到端模擬神經網絡進行了模擬訓練,其性能與相同大小的基于軟件的神經網絡相似或更好。

模擬電路可以在某種程度上節省神經網絡的功率,因為??它們可以熟練地進行稱為乘法和累加的關鍵計算。該估計值會根據不同的負載乘以貢獻值,然后匯總這些值中的每一個。電氣工程的兩個基本定律也可以從根本上做到這一點。歐姆定律將電壓和電導相乘以提供電流,基爾霍夫的“電流定律”將輸入點的電流相加。通過將神經網絡的權重存儲在電阻式存儲小部件(例如憶阻器)中,乘法和累加可以完全以模擬方式發生,可以將功耗降低幾個數量級。

如今,模擬AI系統無法訓練自己的原因與零件的可變性息息相關。與真實神經元非常相似,模擬神經網絡中的神經元并非完全無法區分。要對模擬段進行反向傳播,您應該制造兩條單獨的電路路徑。一個人繼續思考一個答案(稱為推理),另一個人反過來進行學習,因此適當的回答變得更加準確。但是由于模擬成分的可變性,這些途徑無法協調。

平衡傳播(EqProp),由Bengio和Scellier在2017年設計的一種方法。這種訓練算法只有一條數據路徑,因此可以避免模擬硬件中的反向傳播問題。但是有一個警告。EqProp僅適用于基于能源的網絡。

結果是,盡管EqProp自2017年以來就已經存在,但這項新工作已將抽象思想轉變為可以通過電路物理識別的事物。這將使端到端的模擬計算成為可能,而無需在每個步驟都切換到數字域或從數字域切換。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    463

    文章

    54024

    瀏覽量

    466364
  • 機器學習
    +關注

    關注

    66

    文章

    8554

    瀏覽量

    136986
  • 深度學習
    +關注

    關注

    73

    文章

    5599

    瀏覽量

    124414
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    特斯拉AI芯片戰略升級,“史詩級”芯片接棒Dojo

    最好的AI芯片。 ? 就在8月份,特斯拉宣布關閉自研超級計算機Dojo團隊,原負責人Peter Bannon離職。馬斯克解釋稱,同時開發訓練與推理芯片導致資源分散,集中力量開發單一架構更高效。
    的頭像 發表于 09-09 09:01 ?7422次閱讀

    算力并購狂歡下的隱秘戰場:AI芯片如何通過“燒錄大考”?

    挑戰。行業通過高速接口、并行架構等技術創新,深化設計與測試協同,采用風險分級與自適應策略平衡質量成本。相關企業正依托技術積淀助力客戶提升量產競爭力,測試創新成釋放 AI 芯片潛力關鍵。
    的頭像 發表于 12-29 17:31 ?603次閱讀
    算力并購狂歡下的隱秘戰場:<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>如何<b class='flag-5'>通過</b>“燒錄大考”?

    AI接手,微博正在重寫廣告的傳播邏輯

    正在被AI改寫為品牌與用戶對話的起點。 微博通過AI原生評論、智能評論引導、微博商搜話題詞、視頻語義套裝等廣告產品,分別切入評論、話題與視頻三大核心場景,為品牌打開了傳播的“后半場”。
    的頭像 發表于 11-21 10:03 ?351次閱讀
    <b class='flag-5'>AI</b>接手,微博正在重寫廣告的<b class='flag-5'>傳播</b>邏輯

    Achronix亮相2025全球AI芯片峰會

    在近日舉行的2025全球AI芯片峰會上,Achronix Speedster7t FPGA的大模型推理平臺展示獲得眾多業界人士的積極反響。
    的頭像 發表于 09-23 18:01 ?1313次閱讀

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片

    、分布式群體智能 1)物聯網AGI系統 優勢: 組成部分: 2)分布式AI訓練 7、發展重點:基于強化學習的后訓練與推理 8、超越大模型:神經符號計算 三、AGI芯片的實現 1、技術需求 AI取得成功
    發表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+具身智能芯片

    ,誰來彌補呢,目前是使用AI來彌補圖像處理技術的差距。 AI圖像技術通過調整色彩和補充像素,可以再現物體的質感和圖像表現力,并更加準確的區分主體和北京,以及模糊的背景。 將AI功能直接
    發表于 09-18 11:45

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+神經形態計算、類腦芯片

    AI芯片不僅包括深度學細AI加速器,還有另外一個主要列別:類腦芯片。類腦芯片是模擬人腦神經網絡架構的芯片
    發表于 09-17 16:43

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用

    是一種快速反應能力,是直接的感知;靈感是一種通過思考和探索獲得的創造性想法,是一種創意。 AI怎么模擬直覺與靈感呢?四、AI代替人類的假說 這可能嗎? 用機器來生成假說: 1、直接生成
    發表于 09-17 11:45

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+化學或生物方法實現AI

    21世紀是生命科學的世紀,生物技術的潛力將比電子技術更深遠----- 里卡多-戈蒂爾 半導體實現AI應該沒什么疑問了吧?化學、生物怎么實現AI呢? 生物大腦是一個由無數神經元通過突觸連接而成的復雜
    發表于 09-15 17:29

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+第二章 實現深度學習AI芯片的創新方法與架構

    連接定義了神經網絡的拓撲結構。 不同神經網絡的DNN: 一、基于大模型的AI芯片 1、Transformer 模型與引擎 1.1 Transformer 模型概述 Transformer 模型的出現
    發表于 09-12 17:30

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰

    的工作嗎? 從書中也了解到了AI芯片都有哪些?像CPU、GPU、FPGA、ASIC都是AI芯片。 其他的還是知道的,FPGA屬于AI
    發表于 09-12 16:07

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+可期之變:從AI硬件到AI濕件

    的不同。隨著AI熱潮的興起,大腦的抽象模型已被提煉成各種的AI算法,并使用半導體芯片技術加以實現。 而大腦是一個由無數神經元通過突觸連接而成的復雜網絡,是極其復雜和精密的。大腦在本質上
    發表于 09-06 19:12

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+內容總覽

    AI芯片:科技探索與AGI愿景》這本書是張臣雄所著,由人民郵電出版社出版,它與《AI芯片:前沿技術與創新未來》一書是姊妹篇,由此可見作者在AI
    發表于 09-05 15:10

    AI 芯片浪潮下,職場晉升新契機?

    申報人員提供繼續教育證明 。關注行業前沿動態,參加各類專業培訓、學術研討會,不僅有助于提升自身專業水平,還能為職稱申報積累必要的學分。 通過閱讀最新的學術論文、行業報告,了解 AI 芯片領域的最新研究成果
    發表于 08-19 08:58

    【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》

    》,講述了AI芯片的基礎知識,包括原理、種類、廠商、產業等概況,展望新技術與研究應用。 《AI芯片:前沿技術與創新未來》出版后獲得了“憶阻器
    發表于 07-28 13:54