国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

淺析三種主流深度神經網絡

Dbwd_Imgtec ? 來源:未知 ? 2023-05-15 14:20 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

來源:青榴實驗室


1、引子

深度神經網絡(DNNs)最近在圖像分類或語音識別等復雜機器學習任務中表現出的優異性能令人印象深刻。

在本文中,我們將了解深度神經網絡的基礎知識和三個最流行神經網絡:多層神經網絡(MLP),卷積神經網絡(CNN)和遞歸神經網絡(RNN)。


2、什么是深度神經網絡

機器學習是一門多領域交叉學科,專門研究計算機怎樣模擬或實現人類的學習行為,以獲取新的知識或技能,重新組織已有的知識結構使之不斷改善自身的性能。它是人工智能的核心,是使計算機具有智能的根本途徑。如果論及哪一個機器學習的領域最為熱門,非人工智能莫屬,這就是深度學習。深度學習框架又名深度神經網絡,一個復雜的模式識別系統,在過去的幾十年里,機器學習給我們的日常生活帶來了巨大的影響,包括高效的網絡搜索、自動駕駛系統、計算機視覺光學字符識別。

深度神經網絡模型已經成為機器學習和人工智能的有力工具。深度神經網絡(DNN)的輸入層和輸出層之間有多層的人工神經網絡(ANN)。

深層神經網絡的迅速發展應用致使語音識別錯誤率上較傳統語音識別方法錯誤率減少30%(20年來最大降幅),同時也大幅削減了圖像識別的錯誤率,自2011年以來深度學習圖像識別的錯誤率從26%到3.5%,而人類是5%。


3、深度神經網絡的基本原理

深度神經網絡模型最初基于神經生物學的啟發。生物神經元通過與樹突的突觸接觸接收多個信號,并通過軸突發送單一的動作電位流。通過對輸入模式進行分類,可以降低多個輸入的復雜性。受這種輸入輸出方式的啟發,人工神經網絡模型由組合多個輸入和單一的輸出單元組成。神經網絡以模擬人類大腦的功能為目標,并基于一個簡單的人工神經元:輸入信號的加權和的非線性函數(如max(0, value))。這些偽神經元被聚合成層,一層的輸出成為序列中下一層的輸入。

4、深度神經網絡的“深”

深度神經網絡在神經網絡中采用了深度結構。“深”是指在層次數和單層單元數的深兼具較高復雜性的功能。云計算中的大型數據集可以通過使用額外的和更大的層來捕獲更高級數據模式來構建更精確的模型。神經網絡的兩個階段被稱為訓練(或學習)和推斷(或預測),它們指的是發展和生產。開發人員選擇神經網絡的層數和類型,訓練確定權值。

5、目前流行的深度神經網絡有三種

5.1 多層感知器(MLP)

多層感知器(MLP)是一類前饋人工神經網絡(ANN)。MLPs模型是最基本的深度神經網絡,其將輸入的多個數據集映射到單一的輸出的數據集上,由一系列全連接層組成。每一層都是一組非線性函數,它們是前一層所有輸出(完全連通)的加權和。功能函數:wKgZomTnn3yACyMvAAAMi5_-pmo603.png

wKgaomTpvqGAE8MbAAHnnrXL7LM054.png

5.2 卷積神經網絡(CNN)

卷積神經網絡(CNN,或ConvNet)是另一類深度神經網絡。CNN最常用于計算機視覺。給定一系列來自現實世界的圖像或視頻,AI系統利用CNN學習自動提取這些輸入的特征來完成特定的任務,如圖像分類、人臉認證、圖像語義分割等。

與MLP中的完全連接層不同,在CNN模型中,一個或多個卷積層通過執行卷積操作從輸入中提取簡單特征。每一層都是一組非線性函數,這些函數的加權和位于前一層輸出的空間附近子集的不同坐標上,允許權重被重用。

wKgZomTpvo6AG7xWAAEKdrNexL8911.png

應用各種卷積濾波器,CNN模型可以高水平準確地捕獲輸入數據,使其成為最受歡迎的計算機視覺應用技術,如圖像分類(例如,AlexNet, VGG網絡,ResNet, MobileNet)和目標檢測(例如,Fast R-CNN, Mask R-CNN, YOLO, SSD)。AlexNet。在圖像分類方面,作為2012年第一個贏得ImageNet挑戰賽的CNN, AlexNet由5個卷積層和3個全連接層組成。AlexNet需要6100萬個權重和7.24億個mac(乘法加法計算)來對大小為227×227的圖像進行分類。

VGG-16。為了達到更高的精度,vg -16被訓練為一個更深層次的16層結構,由13個卷積層和3個全連通層組成,需要1.38億權值和15.5G mac對大小為224×224的圖像進行分類。

GoogleNet。為了提高準確性,同時減少DNN推理的計算,GoogleNet引入了一個由不同大小的過濾器組成的初始模塊。google et比vg -16具有更好的精度性能,而處理相同大小的圖像只需要700萬權重和1.43G mac。

ResNet。最新的研究成果ResNet使用了“快捷”結構,達到了人類平均水平的準確率,前5名的錯誤率低于5%。“捷徑”模塊用于解決訓練過程中的梯度消失問題,使訓練具有更深結構的DNN模型成為可能。

近年來CNN的準確率和性能逐漸提高,應用于人們人工智能視覺任務的,超過了人類視覺的平均水平錯誤率低于5%。wKgZomTnn3yAX8_6AAOa_bw0Zwk001.png5.3遞歸神經網絡(RNN)遞歸神經網絡(RNN)是另一類使用順序數據輸入的人工神經網絡。RNN是用來解決序列輸入數據的時間序列問題的。RNN的輸入由當前輸入和之前的樣本組成。因此,節點之間的連接沿時間序列形成有向圖。RNN中的每個神經元都有一個內部存儲器,它保存著來自前一個樣本的計算信息。wKgZomTnn3yAdN0DAAFa0t3z7-k216.pngRNN模型在處理輸入長度不固定的數據方面具有優勢,因此在自然語言處理中得到了廣泛的應用。人工智能的任務是建立一個能夠理解人類說的自然語言的系統,例如自然語言建模、單詞嵌入和機器翻譯。

在RNN中,每一層都是輸出和前一層狀態的加權和的非線性函數集合。RNN的基本單元稱為“Cell”,每個Cell層由一系列的Cell組成,層層傳遞處理使RNN模型能夠進行順序處理。


6、深度神經網絡應用

深度學習現在已經應用到生活各領域:

1.深度學習應用在音視頻的識別上,幾乎所有的商用語音識別都是深度學習來完成的,如自然語言理解方面,主要是使用一種叫做LSTM的深度學習方法。

2.深度學習應用于圖像識別,目前識別準確率已經超越人類,深度學習成了圖像識別的標配。其中圖像識別中,應用最廣的是人臉識別。

總之深度神經網絡已經深入便捷了人們生活,各類自動駕駛車輛,各種類型的人工智能機器人,智能回答,智能翻譯,天氣預報,股票預測,人臉比對,聲紋比對,等其他許多有趣的應用,比如智能插畫,自動作詩,自動寫作文,等都可以通過深度學習來完成深度神經網絡。

END

歡迎加入Imagination GPU與人工智能交流2群

wKgZomTnn32ATq_bAABN8aBfIqc717.jpg

入群請加小編微信:eetrend89

(添加請備注公司名和職稱)

推薦閱讀 對話Imagination中國區董事長:以GPU為支點加強軟硬件協同,助力數字化轉型

Imagination攜手飛槳等多家伙伴聯合發布 AI Studio硬件生態專區

wKgZomTnn32ANuTYAAGo5T4MzkM492.jpg

Imagination Technologies是一家總部位于英國的公司,致力于研發芯片和軟件知識產權(IP),基于Imagination IP的產品已在全球數十億人的電話、汽車、家庭和工作 場所中使用。獲取更多物聯網、智能穿戴、通信汽車電子、圖形圖像開發等前沿技術信息,歡迎關注 Imagination Tech!


原文標題:淺析三種主流深度神經網絡

文章出處:【微信公眾號:Imagination Tech】歡迎添加關注!文章轉載請注明出處。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • imagination
    +關注

    關注

    1

    文章

    620

    瀏覽量

    63358
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    神經網絡的初步認識

    日常生活中的智能應用都離不開深度學習,而深度學習則依賴于神經網絡的實現。什么是神經網絡神經網絡的核心思想是模仿生物
    的頭像 發表于 12-17 15:05 ?323次閱讀
    <b class='flag-5'>神經網絡</b>的初步認識

    自動駕駛中常提的卷積神經網絡是個啥?

    在自動駕駛領域,經常會聽到卷積神經網絡技術。卷積神經網絡,簡稱為CNN,是一專門用來處理網格狀數據(比如圖像)的深度學習模型。CNN在圖像處理中尤其常見,因為圖像本身就可以看作是由像
    的頭像 發表于 11-19 18:15 ?2072次閱讀
    自動駕駛中常提的卷積<b class='flag-5'>神經網絡</b>是個啥?

    NMSIS神經網絡庫使用介紹

    NMSIS NN 軟件庫是一組高效的神經網絡內核,旨在最大限度地提高 Nuclei N 處理器內核上的神經網絡的性能并最??大限度地減少其內存占用。 該庫分為多個功能,每個功能涵蓋特定類別
    發表于 10-29 06:08

    在Ubuntu20.04系統中訓練神經網絡模型的一些經驗

    本帖欲分享在Ubuntu20.04系統中訓練神經網絡模型的一些經驗。我們采用jupyter notebook作為開發IDE,以TensorFlow2為訓練框架,目標是訓練一個手寫數字識別的神經網絡
    發表于 10-22 07:03

    CICC2033神經網絡部署相關操作

    在完成神經網絡量化后,需要將神經網絡部署到硬件加速器上。首先需要將所有權重數據以及輸入數據導入到存儲器內。 在仿真環境下,可將其存于一個文件,并在 Verilog 代碼中通過 readmemh 函數
    發表于 10-20 08:00

    液態神經網絡(LNN):時間連續性與動態適應性的神經網絡

    1.算法簡介液態神經網絡(LiquidNeuralNetworks,LNN)是一新型的神經網絡架構,其設計理念借鑒自生物神經系統,特別是秀麗隱桿線蟲的
    的頭像 發表于 09-28 10:03 ?1197次閱讀
    液態<b class='flag-5'>神經網絡</b>(LNN):時間連續性與動態適應性的<b class='flag-5'>神經網絡</b>

    神經網絡的并行計算與加速技術

    隨著人工智能技術的飛速發展,神經網絡在眾多領域展現出了巨大的潛力和廣泛的應用前景。然而,神經網絡模型的復雜度和規模也在不斷增加,這使得傳統的串行計算方式面臨著巨大的挑戰,如計算速度慢、訓練時間長等
    的頭像 發表于 09-17 13:31 ?1122次閱讀
    <b class='flag-5'>神經網絡</b>的并行計算與加速技術

    如何在機器視覺中部署深度學習神經網絡

    圖 1:基于深度學習的目標檢測可定位已訓練的目標類別,并通過矩形框(邊界框)對其進行標識。 在討論人工智能(AI)或深度學習時,經常會出現“神經網絡”、“黑箱”、“標注”等術語。這些概念對非專業
    的頭像 發表于 09-10 17:38 ?900次閱讀
    如何在機器視覺中部署<b class='flag-5'>深度</b>學習<b class='flag-5'>神經網絡</b>

    基于神經網絡的數字預失真模型解決方案

    在基于神經網絡的數字預失真(DPD)模型中,使用不同的激活函數對整個系統性能和能效有何影響?
    的頭像 發表于 08-29 14:01 ?3470次閱讀

    無刷電機小波神經網絡轉子位置檢測方法的研究

    摘要:論文通過對無刷電機數學模型的推導,得出轉角:與相相電壓之間存在映射關系,因此構建了一個以相相電壓為輸人,轉角為輸出的小波神經網絡來實現轉角預測,并采用改進遺傳算法來訓練網絡
    發表于 06-25 13:06

    神經網絡專家系統在電機故障診斷中的應用

    摘要:針對傳統專家系統不能進行自學習、自適應的問題,本文提出了基于網絡專家系統的并步電機故障診斷方法。本文將小波神經網絡和專家系統相結合,充分發揮了二者故障診斷的優點,很大程度上降低了對電機
    發表于 06-16 22:09

    神經網絡RAS在異步電機轉速估計中的仿真研究

    眾多方法中,由于其結構簡單,穩定性好廣泛受到人們的重視,且已被用于產品開發。但是MRAS仍存在在低速區速度估計精度下降和對電動機參數變化非常敏感的問題。本文利用神經網絡的特點,使估計更為簡單、快速
    發表于 06-16 21:54

    基于FPGA搭建神經網絡的步驟解析

    本文的目的是在一個神經網絡已經通過python或者MATLAB訓練好的神經網絡模型,將訓練好的模型的權重和偏置文件以TXT文件格式導出,然后通過python程序將txt文件轉化為coe文件,(coe
    的頭像 發表于 06-03 15:51 ?1190次閱讀
    基于FPGA搭建<b class='flag-5'>神經網絡</b>的步驟解析

    NVIDIA實現神經網絡渲染技術的突破性增強功能

    近日,NVIDIA 宣布了 NVIDIA RTX 神經網絡渲染技術的突破性增強功能。NVIDIA 與微軟合作,將在 4 月的 Microsoft DirectX 預覽版中增加神經網絡著色技術,讓開
    的頭像 發表于 04-07 11:33 ?1162次閱讀

    神經網絡壓縮框架 (NNCF) 中的過濾器修剪統計數據怎么查看?

    無法觀察神經網絡壓縮框架 (NNCF) 中的過濾器修剪統計數據
    發表于 03-06 07:10