與人類用雙眼去觀察路面、用手去操控方向盤類似，無人車用一排攝像機去感知環境，用深度學習模型指導駕駛。大體來說，這個過程分為五步:

記錄環境數據

分析并處理數據

構建理解環境的模型

訓練模型

精煉出可以隨時間改進的模型

如果你想了解無人車的原理，那這篇文章不容錯過。

記錄環境數據

一輛無人車首先需要具備記錄環境數據的能力。

具體來說，我們的目標是得到左右轉向角度的均勻分布。這倒也不難操作，可以以順時針和逆時針方向在測試場地內繞圈的方式實現。這種訓練有助于減少轉向偏差，避免長時間駕駛后汽車從道路一邊慢慢漂移到道路另一邊的尷尬情境。

此外，以慢速（例如每小時10英里）行駛也有助于在轉彎時記錄平滑的轉向角，在這里駕駛行為被分類為：

直線行駛:0<=X<0.2

小轉彎：0.2<=X<0.4

急轉：X>=0.4

恢復到中心

其中，X為轉向角，r為旋轉半徑（單位為米），計算轉向角的公式為X=1/r。上面提到的“恢復到中心”在數據記錄過程中很重要，它幫助車輛學會在即將撞上，馬路崖子時回到車道中心。這些記錄數據保存在driving_log.csv中，其中每一行都包含：

文件路徑到鏡頭前中央相機圖像

文件路徑到前左相機圖像

文件路徑到前右相機圖像

轉向角

在記錄環境數據的過程中，我們需要記錄約100000個轉向角的圖像，以便提供足夠的數據訓練模型，避免因樣本數據不足導致的過擬合。通過在數據記錄過程中定期繪制轉向角直方圖，可以檢查轉向角是否為對稱分布。

分析處理數據

第二步是為構建模型分析和準備剛剛記錄的數據，此時的目標是為模型生成更多的訓練樣本。

下面這張圖片由前中央相機拍攝，分辨率為320*160像素，包含紅色、綠色和藍色的channel。在Python中，可以將其表示為一個三維數組，其中每個像素值的范圍在0到255之間。

司機視線以下的區域和兩邊的車道標志一直是自動駕駛技術中研究的重點。這兩部分可以使用Keras中的Cropping2D裁剪圖像，減少輸入到模型中的噪聲。

我們可以用開源的計算機視覺庫OpenCV從文件中讀取圖像，然后沿垂直軸翻轉，生成一個新的樣本。

OpenCV非常適合自動駕駛汽車用例，因為它是用C++語言編寫的。像傾斜和旋轉這樣的其他圖像增強技術，也有助于產生更多的訓練樣本。

此外，還需要通過乘以-1.0翻轉其轉向角。

之后，可以用Numpy開源庫將圖像重新塑造成一個三維數組，方便下一步的建模。

構建理解環境的模型

圖像數據搞定后，我們需要為無人車構建理解環境信息的深度學習模型，從記錄的圖像中提取特征。

具體來說，我們的目標是將包含153600像素的輸入圖像映射到包含單個浮點值的輸出。英偉達之前提出的模型的每一層都提供了特定的功能，作為基礎架構效果應該不錯。

英偉達模型相關論文地址：https://arxiv.org/pdf/1604.07316v1.pdf

之后，我們需要將三維數組規范化為單位長度，防止模型中較大的值偏差。注意我們將其除以255.0，因為這是一個像素的最大可能值。

還要適當減少人類視野以下的車前場景和車前上方圖像的像素，以減少噪音。

之后，我們需要將車道標記等三維數組進行卷積，提取關鍵特征，這些信息對于預測轉向角至關重要。

我們想讓開發的模型能夠駕馭任何道路類型，因此需要用dropout減少過擬合。

最后，我們需要將轉向角輸出為float。