**1 **問題
我們在深度學習的過程中,開始對模型進行在測試集的精度進行預測時,最開始是全連接網(wǎng)絡進行模型的精度預測,最后發(fā)現(xiàn)測試集的精度預測值不是很理想,就在想能不能換一種網(wǎng)絡層提高測試集的精度?
**2 **方法
在后續(xù)的學習中,我們學習和了解了卷積網(wǎng)絡,卷積神經(jīng)網(wǎng)絡也是通過一層一層的節(jié)點組織起來的。和全連接神經(jīng)網(wǎng)絡一樣,卷積神經(jīng)網(wǎng)絡中的每一個節(jié)點就是一個神經(jīng)元。在全連接神經(jīng)網(wǎng)絡中,每相鄰兩層之間的節(jié)點都有邊相連,于是會將每一層的全連接層中的節(jié)點組織成一列,這樣方便顯示連接結構。而對于卷積神經(jīng)網(wǎng)絡,相鄰兩層之間只有部分節(jié)點相連,為了展示每一層神經(jīng)元的維度,一般會將每一層卷積層的節(jié)點組織成一個三維矩陣。
全連接層的參數(shù)太多,對于MNIST數(shù)據(jù),每一張圖片的大小是28281,其中28*28代表的是圖片的大小,*1表示圖像是黑白的,有一個色彩通道。有的圖片會更大或者是彩色的圖片,這時候參數(shù)將會更多。參數(shù)增多除了導致計算速度減慢,還很容易導致過擬合的問題。所以需要一個合理的神經(jīng)網(wǎng)絡結構來有效的減少神經(jīng)網(wǎng)絡中參數(shù)的個數(shù)。卷積神經(jīng)網(wǎng)絡就可以更好的達到這個目的。于是我們就用卷積神經(jīng)網(wǎng)絡替代了全連接神經(jīng)網(wǎng)絡進行測試,發(fā)現(xiàn)確實提高了測試集的精度。
這是全連接網(wǎng)絡的網(wǎng)絡層

這是卷積網(wǎng)絡的網(wǎng)絡層:

最后我們訓練了五十個周期,得出對比:
這是卷積網(wǎng)絡測試集的精度

這是全連接網(wǎng)絡測試集的精度

**3 **結語
我們通過訓練發(fā)現(xiàn)卷積網(wǎng)絡確實提高了網(wǎng)絡測試集的精度,而從中也發(fā)現(xiàn)了卷積神經(jīng)網(wǎng)絡的輸入輸出以及訓練的流程和全連接神經(jīng)網(wǎng)絡基本一致,而他們兩種網(wǎng)絡唯一區(qū)別就是神經(jīng)網(wǎng)絡相鄰兩層的連接方式。
-
深度學習
+關注
關注
73文章
5598瀏覽量
124396 -
MNIST
+關注
關注
0文章
10瀏覽量
3718 -
卷積網(wǎng)絡
+關注
關注
0文章
43瀏覽量
3205
發(fā)布評論請先 登錄
全連接神經(jīng)網(wǎng)絡和卷積神經(jīng)網(wǎng)絡有什么區(qū)別
全卷積網(wǎng)絡FCN進行圖像分割
卷積神經(jīng)網(wǎng)絡中全連接層作用理解總結
如何區(qū)分卷積網(wǎng)絡與全連接網(wǎng)絡
PyTorch教程14.11之全卷積網(wǎng)絡
卷積網(wǎng)絡和全連接網(wǎng)絡的比較
評論