訓練

一個網絡的三要素：結構、算法、權值

網絡模型一旦選定，三要素中結構和算法就確定了，接下來要對權值進行調整。

神經網絡是將一組訓練集（training set）送入網絡，根據網絡的實際輸出與期望輸出間的差別來調整權值。

訓練模型的步驟：

選擇樣本集合的一個樣本（Ai Bi） （數據 標簽）

送入網絡，計算網絡的實際輸出Y（此時網絡中的權重都是隨機的）

計算D=Bi -Y（預測值與實際值的差）

根據誤差D調整權值矩陣W

對每個樣本重復上述過程，直到對整個樣本集來說，誤差不超過規定范圍。

使用

神經網絡框架

Caffe是一種開源的軟件框架，利用這套框架，我們可以實現新的網絡、修改已有的神經網絡、訓練網絡、編寫網絡使用。

實現新的網絡

1 數據打包

2 編寫網絡結構文件

3 編寫網絡求解文件

4 開始訓練

caffe的文件結構

data 用于存放下載的訓練數據

例如安裝后會有 mnist ilsvrc12 cifar10

docs example 使用的幫助文檔和代碼樣例

使用與部署

直接使用caffe神經網絡框架比較復雜，可以使用NVIDIA推出的DIGIST可視化工具進行網絡的訓練。

TensorRT 網絡框架 采取“”精度換速度“”的策略，在精度無明顯下降的前提下，其對inference的加速明顯，往往有1倍以上的性能提升，它能根據prototxt文件和caffemodel權值，轉化為支持半精度的新的模型。其工作流程：

構建：構建一個網絡、進行優化

執行：引擎運行推理任務

使用TensorRT部署神經網絡

訓練對于深度學習來說是為了獲得一個性能優異的模型，其主要的關注點在于模型的準確度等指標。推理則不一樣，其沒有了訓練中的反向迭代過程，是針對新的數據進行預測，而我們日常生活中使用的AI服務都是推理服務。相較于訓練，推理的關注點不一樣，從而也給現在有技術帶來了新的挑戰：

推理更關注的是高吞吐率、低響應時間、低資源消耗以及簡便的部署流程，而TensorRT就是用來解決推理所帶來的挑戰以及影響的部署級的解決方案。