深度神經網絡的工作方式深度學習與機器學習有什么區別

作者丨Thomas Viehmann

編譯丨錢磊 ?

今天我想要與大家分享的是深度神經網絡的工作方式，以及深度神經與“傳統”機器學習模型的不同之處。我的計劃具體如下：

首先簡單地思考一下如何將問題設置成分類的形式；

接下來回顧偏差-方差分解，并在偏差-方差權衡的背景下，在VC-維數和非參數上進行探討；

研究一些關于插值神經網絡和雙下降的文獻；

在文末做一個非常簡單的實驗，用圖形直觀地講解為什么雙下降現象會發生。

1 ? 正式設置一個機器學習問題 為了有些趣味，讓我們先設置一個問題。首先從數據開始。假設我們標記了數據，即是滿足Px,y分布的輸入數據x（比如圖片）和標簽y。如此一來我們得到：

分布Px,y固定且未知。對于i = 1……N來說，可獲得樣本,。

數學分析通常假設樣本是獨立的。

通常來說，我們需要假設標簽y和輸入x間有y=?的函數關系，即是說，標簽是精確的、沒有歧義的，但并非總是如此。

我們想要“訓練”的是某些函數f:x?y?，或者說是更普遍地估計條件分布P(y∣x)。我們的候選函數來自于參數集F={fθ∣θ∈Θ}，在這里θ?代表參數。為了達成目標，我們設定了損失函數（或風險函數），從概念上講，我們希望將預期損失最小化。第一次嘗試通常是將經驗風險或者經驗損失

最小化。如果我們的損失函數是負對數似然，將最最小化就意味著計算最大相似估計。

對偏差-方差分解和偏差-方差平衡的簡單介紹??

對于最小二乘損失L=(f(x)?y)2（最基本的回歸估計量）來說，把預期損失分解成幾個部分是很容易的。其訣竅在于，我們需要意識到我們的訓練數據本身是一個從n次乘積分布

中采得的隨機變量，且我們訓練的模型?f依賴于D，記作。通過巧妙地添加并利用??(x,y)?和D的獨立性，我們可以將預測的期望平方誤差分解為：

最后一項噪音并不依賴于我們的模型。現在為了得到我們預測的良好的預期平方誤差，我們必須注意到模型輸出的偏差(第一項)和方差(第二項)的和很小。注意這里所有的項都是非負的。針對二元分類器的預期精度，其實存在著類似但更復雜的分解，但其他損失函數通常很難分解，盡管我們可以想象那樣的模型選擇的工作也是類似的。因為讓偏差/方差等于0或非常接近0都相對容易，這樣分解會讓我們在偏差和方差間做出權衡：通過使用D中每個數據點的樣本均值作為估計，偏差可以非常小，且能巧妙地給出正則性論證來假設函數是Lipschitz函數或至少是一致連續。這就是極端的過擬合。通過預測不依賴于D的函數，比如，我們可以讓方差為0，這樣則是極端的欠擬合。請注意，均方誤差的偏差-方差分解是一個根據數學定理(或至少一個引理)成立的方程，所以是普遍適用的，不需要任何條件。

2 ? 從僵化中解脫出來，帶來自由的結構 從某種程度上說，從上述極端情況轉向更溫和的條件也表明了我們在實踐中可以做些什么。

增加候選函數的集合

一種方法是，以一組非常嚴格的函數作為候選函數，然后有意義地擴大候選函數的空間，以獲得(假設是嵌套的)序列F0?F1?…. 關鍵想法是，進一步研究可以讓模型更好地適應數據，而我們則須知道何時停止這種深入。Vapnik和Chervonenkis 的結構風險最小化原理就是這么做的，盡管該原理沒有使用偏差-方差分解，而是使用了預期損失(風險)與D上的觀察損失(經驗風險)的邊界，和一個依賴于訓練數據集大小N?和函數集的大小或其VC維的項。此處的典型情況是，一個人想要N≥VC-dim個樣本，卻可能有N≤20VC-dim個樣本。但請注意，這里參數的數量不是標準的一部分(但可能會影響VC維)。最后，傳統標準比如赤池信息量準則嘗試告訴你應該“投資”多少參數來達到低的負對數可能性。但是Bishop在其引言中發現，這些方法并不是很有效。

非參數估計:正則化

經典的非參數估計從另一個極端開始。如果我們取某個函數空間,如在里有弱導數的索伯列夫函數空間?(無論采用何種測度，是x的分布抑或是包含輸入的的勒貝格測度)，我們可以匹配任意有限樣本D上每一點的樣本均值，從而可以獲得0點態偏差, 但是最小化經驗風險是病態的，有無限多的解。接下來要做的就是正則化。最著名的例子可能是增加一個規范項從而導致Tikhonov正則化，所以我們的損失看起來會是這樣

如果我們從偏差-方差的角度來看，我們能夠平衡偏差（當λ→0沒有偏差，但會導致病態）與方差（當λ→∞，我們處于?

。我們并不想讓方差為0，因為我們的正則化項僅僅是一個半范數）。當然了，Grace Wahba有關正則化回歸的研究尤其與保持偏差-方差間的良好平衡相關，特別是與如何尋找到一個合適的λ值相關。通過觀察給定的λ，的極小值會有半范數值，該值必然能在

中將經驗最小二乘損失(第一項) 最小化，就可以將前一節中的ansatz函數與嵌套空間Fi聯系起來。因此來自遞增權重序列的遞減范數序列就給到了我們嵌套的Ansatz空間。許多流行的正則回歸方法(例如Lasso)適合這種類型的框架。

贊美VC界

讓我們講回VC 界，正式一點以便增強直覺。關鍵的概率界限是為了準確性(或者說0-1的風險)

我們來分析一下。外面部分稱“概率大于等于1?η”（我們還得更精確一點），此處我們覺得概率η太小了，這意味著我們所有的只是一個概率界限，而不是一個“幾乎肯定”的保證。內部的部分基本上是說，在全概率分布上的精度非常接近于在訓練集上的精度，也就是說在N變得非常大的時候，我們有一個差值趨于零的精確邊界。從表面上看，這告訴了我們關于風險或準確性的信息，但是關于模型又說明了什么呢? 在我看來，關鍵的信息是，我們的模型是如此嚴格，以至于我們可以看到測試集上發生的一切(或者更精確地說，在完整的Px,y分布上發生的一切)已經在訓練集中發生了。

貝葉斯放一邊

在貝葉斯環境下，正則化可以被解釋為最大后驗(MAP)估計，或者——如果我們經歷了定義先驗的麻煩——我們也可以對所有f∈F的估計進行積分。

3 ? 這告訴了我們深度學習的什么? 當我們將model.parameters()（這里我用的是PyTorch）傳遞給優化器時，深度學習看起來好像是參數化的。但其實它不是! 看起來這種正則化方法正是深度學習運作的理論框架——有時人們對此知之甚少。我們的模型足夠大，從“道德上看來”足以成為非參數，盡管我們還沒有完全理解，但我們所做的大多數事情(比如augmentation, norm layers和 dropout)其實都是正則化。這也是M. Belkin等人所寫的《協調現代機器學習實踐和偏差-方差權衡》(Reconciling modern machine learning practice and the bias-variance trade-off)的主題和他們早期研究的主題，即泛化性能的關鍵是由某個特定函數空間范數衡量的函數的規律性或平滑性。? 我們有必要仔細看看M. Belkin等人(我認為這是首次)對雙下降現象的描述:

這里有幾點需要注意:

M. Belkin等人把條件中的“傳統(classical)”和“現代(modern)”等限定詞用引號括了起來。“現代”條件是一種十分之非參數的學習，具有一種我們還需要更加深入理解的正則化。

在多參數的條件下，偏差-方差思維似乎仍然是完全適用的，但非參數回歸可能是比“限制容量”的候選集更好的參考框架。

對于雙重下降現象的普遍理解似乎都是基于P. Nakkiran等人的文章:《雙重下降》(Deep Double Descent)，這證明了這篇論文的優秀，也證明了OpenAI能夠將這些選題推介給更廣泛的受眾。他們用更真實的網絡進行了系統的實驗(M. Belkin等人則引用了更淺層的網絡)。對我來說，一個重要的結論是，雙重下降現象在標簽損壞的兩種實驗條件中存在“凹凸”，他們的報告稱，在標簽干凈的實驗中，所得到的結果則要平緩得多，沒有那么“凹凸”。他們給出了一張圖，這張圖顯示了對于固定次數的epoch，用損壞標簽將一個修改過的ResNet18訓練成CIFAR10這個過程中的測試錯誤。修改是指信道數量降到原數量的k分之一（k在64到1這個范圍）（意思是他們會從原ResNet18的64分之一開始做實驗，逐漸增加，最后達到原數量）。標簽損壞發生在數據集中(在某一次epoch，而不是每個epoch中)，15%的標簽被切換到一個隨機錯誤的類。這被解釋為一種概略的誤設。

4 ? VC理論對于用噪聲標簽擬合模型有什么啟示? 通過上面的討論，我們了解到當一個模型處于VC界有用的限定條件中（比如當小模型處于“傳統”條件中)，如果訓練數據?D來自與原始數據相同的分布?Px,y，測試集的測試精度（很可能)接近訓練精度。換句話說，這個條件意味著我們假設Px,y有相同的損壞程度（和損壞種類)。但這意味著如果模型學習了，且學會了不被損壞的訓練數據分散太多注意力，也就是說，在訓練數據上，正確標簽會擠出損壞標簽。

5 ? 特征和學習 讓對深度學習的直覺化變得困難的原因之一是Ansatz領域的自適應特性。我這么說的意思是，我們沒有一個固定的特征提取器（由手動構造，并由核機中使用的核家族給出)將學習應用到特征上。通常，我們將最后一層的輸入視為特征（通過word2vet式損失、原型網絡、基準無監督學習等方式學習的向量表示方法)，或者我們可能在MLP分類器頭之前的卷積層末尾分割卷積網絡。傳統的做法是將學習后的分類器放在固定的特征提取器上，E. Hoffer等人的想法卻相反，他們甚至建議對分類器進行固定，即只對特征提取器進行訓練。因此，我們可能會試圖通過假裝提取特征來簡化我們的直覺。在P. Nakkiran等人的標題圖片實驗中，當使用t-SNE等降維機制將通過無噪聲數據學習到的特征可視化時，添加標簽噪聲相當于在每個類對應的點的blob上添加噪聲。考慮到這一點，我們可以進行一個類似的實驗，這個實驗甚至比M. Belkin等人的人工數據實驗更簡單，那就是：理解深度學習。

6 ? 對標簽噪聲、容量、雙下降和實驗測試誤差的直覺

撇開統計數據不談:下文推測了一些可能發生的情況，通過想象我們可以在原型網絡中得到與P. Nakkiran等人圖中所描述的相同的現象，且容量由我們所能擁有的原型數量來表示:

在最左邊width(參數)值1到5附近，我們的原型比類少，模型擬合程度不高（欠擬合），因為模型不能代表所有的類。

在width5附近，我們有10個（或者適當地更多）原形，但是，在每一個原型的訓練中損壞標簽都被擠出了，所以這些損壞標簽沒有發揮作用。

在width5到10這個范圍，原型收集損壞的標簽。由于每個原型都有一個用在推斷階段的“影響范圍”，所以存在一個相當大的空間，在這個空間中損壞原型與測試是非常相關的。

在width10以外的范圍，我們增加了更多的原形。原型之間變得更近，在推斷階段中損壞的標簽原型也被“擠出”，因此它們的“影響范圍”就會變得更小(因為比起擁有3個損壞原形，同一個類擁有5個非損壞原型中的3個的概率更大)。

這對偏差-方差分解意味著什么? 回想一下，分解在空間上是逐點的，并像之前一樣要對各種訓練數據集進行方差和偏差處理。假設你只有兩個類，那么預測和標簽要么是0要么是1。接下來原型收集已損壞的標簽，就會產生偏差（因為你將以某種概率預測錯誤的事情)和方差（因為糟糕預測的區域取決于哪些標簽已損壞，也就是取決于我們在哪個數據集D上繪制)，并使錯誤預測的區域更小，從而減少方差和偏差。在這種直覺中，早期停止的作用是檢測模型何時開始收集已損壞的標簽。所以看起來現代神經網絡本質上是非參數的，其工作方式依賴于各種正則化。為了使用M. Belkin等人的公式，我們希望更加了解，我們對于各種技術如何對某些函數空間范數作用的理解到了什么程度。似乎很難得出“傳統”統計數據表明現代學習不起作用的結論。 Hastie等人的《高維無脊最小二乘插值中的驚喜》(Surprises in High-Dimensional Ridgeless Least Squares Interpolation)一文將最小二乘作為模型問題，提供了非常全面的分析，這也可能為深度學習現象提供直覺。

在插值條件中擠出錯誤標記的數據??

我們可以做一個非常簡單的插值條件的模擬。我們來思考一個由2d標準單位法線提取并沿著水平軸移動±2的點的二分類問題，并從每個類別的分配中抽取25%的點。為了得到一個插值條件，我們使用一個具有明顯峰值的核。為了有一個易分析處理的質量并將其標準化為1，我們使用核 ?

這個核有單位質量，在x=0時趨于無窮，且從原點衰減：

這意味著，如果我們將每一類的密度表示為樣本處核的均值，即：

假設不同類別的點不重合(幾乎肯定如此)，我們可以根據更大的點對每個點進行分類，或者說，如果我們想通過標準化每個點的概率密度來獲取概率

這給了我們一個插值解——在每個訓練點，標簽類有無限密度，所以它被歸類為屬于這個類。那么標簽錯誤發生了什么呢? 標簽錯誤會導致損壞的訓練點附近的某些區域被分配給錯誤的類。然而，附近正確類的點越多，錯誤分類的區域就越小。我們可以交互地嘗試。隨著點數的增加，測試誤差會減少。

這意味著什么呢??這說明對于插值解，在測試時間內，良好的訓練點會擠出標記糟糕的點。?

對抗示例

但是，隨著數據的增加，當壞分類的區域和被隨機抽樣的數據點擊中的概率減小時，隨機抽樣點到下一個壞樣本的距離也減小了。這意味著除了利用模型的不良連續性(即輸入的小變化會導致提取的特征發生大的變化)，插值條件也能使對抗例子更容易產生，因為我們只需要特征的小變化。

特征噪聲類似于標簽噪聲

但是，雙重下降不是也發生在沒有損壞標簽的情況下嗎? 我們“僅僅”需要格外小心地處理我們的訓練數據嗎? 好吧，沒這么簡單。高維特征在本質上可能比低維特征噪聲更多：想象一下在高維空間(比如d)中有一個兩類線性分類。我們有了有向量和偏差的分類器。給定輸入，當x?v+b≥0時，類為1;否則，類為0。如果我們預先知道輸入是有界的，我們可以找到類原型?，并使用距離進行分類。但隨后的線性分類器的d?1維零空間(null-space)中的向量，比如我們可以添加到輸入中而不改變結果的向量空間

，可能對這個距離有很大幫助，從而使得成為對更相關的投影距離

的一個噪聲估計。如果我們想保持在二維空間，我們可以放大噪聲維度。這就將我們引入第二個實驗。我們來繪制獨立的隨機二維點，其在“特征維度”中的標準偏差為0.5，在“噪聲維度”中的標準偏差為5。這兩個類用±1分開。我們使用EM算法來將每個維度的標準偏差為1的K高斯函數的混合值擬合到每個類中。通過比較兩個擬合密度進行分類。我們使用5000個訓練點和1000個測試點。