深度學習背景：
今年3月，谷歌AlphaGo橫空出世，并打敗了韓國棋手李世石，使得深度學習乃至機器學習等領域不但在學術領域火得一塌糊涂，在普通大眾中也掀起了一番熱潮。人工智能可謂是多起多落，而現如今最為火熱的是2006年Geoffrey Hinton提出的深度學習，即多層神經網絡。

隨著近年來的發展，神經網絡層次的劇增對訓練速率，功耗提出了極高的要求，因而涌現出一系列神經網絡加速器芯片。在IP/DSP領域，有ChipIntelli、臺積電等公司；在ASIC領域，有Cambricon、地平線科技等公司；在GPU領域，英偉達依然獨占鰲頭；在CPU領域intel當然當仁不讓；當然還有最適用于深度學習等網絡多變性的FPGA廠商如ALTERA、XILINX等。深度學習的網絡結構眾多，諸如DBN、CNN、Pooling、LRN、MLP等多種網絡對加速器的設置提出了更多要求，因而基于FPGA的多可變性加速器更受到設計者的青睞，并得到廣泛認可。

定點數據的應用：
上個月末，Xilinx公司發布了一個基于定點數據的深度學習白皮書，極大的方便了設計者進行基于FPGA的深度學習測試與設計，以下將分析本白皮書的部分內容。

通常來說在AI、機器學習、深度學習領域，深度學習網絡中輸入的數據精度越高所表現出的結果準確率越高。然而本次測設得到了一個違反常規的結論，定點數據相比于浮點數據同樣獲得了較高的推理精度，大大提高性能并且降低了功耗，從而顯著提高了性能。最新的Xilinx白皮書( https://www.xilinx.com/support/documentation/white_papers/wp486-deep-lea... )《在Xilinx器件上使用INT8優化的深度學習》詳細的闡述了相關的技術細節。

研究表明，在深度學習網絡中，并不只有32位浮點輸入數據能獲得最佳精度。對于諸如圖像分類的許多應用，INT8（或甚至更低精度）定點計算與浮點結果相比，能提供相同的精度。下圖是Xilinx白皮書中的表格，呈現了基于定點計算的微調CNN（卷積神經網絡）的精確度，結果佐證了此聲明。（括號中的數字表示未經過微調的準確率）

?

表格1

由表格1可見：在本次的六個CNN常見的網絡結構中，精度降低的定點計算和32位浮點計算的準確性相差無幾。往常具有一定優勢的32位浮點數消耗了更多的功率、更多的資源來實現，尤其是創建大規模并行CNN時，所面對的情況更加嚴峻。而與此同時，八位定點數據的應用卻具有更好性能、更低的功耗以及更好的資源利用率等諸多優勢。

前兩個優點非常淺顯易懂，而Xilinx白皮書將詳細描述第三點：更好的資源利用效率。研究表明，基于FPGA的浮點DSP并不匹配包括機器學習在內的超大規模應用程序。（同時，其他研究表明在CNN訓練優化時，使用GPU優化比使用基于FPGA的浮點DSP結構所呈現的計算效率要高得多）。

Xilinx的UltraScale和UltraScale + FPGA中使用定點DSP48E2架構，針對降低精度的整數計算進行了優化，采用27x18位乘法器、48位累加器和其他增強架構。可以每個時鐘周期在各個DSP48E2中對兩個INT8操作，友商公司FPGA中DSP塊卻無法實現這項功能。 （同樣，關于打包整數操作數以及將CNN性能加倍的技術細節，參見Xilinx白皮書。）

從下圖可見，使用Xilinx UltraScale和UltraScale + FPGA 整型定點數據進行CNN網絡訓練，具有極高的性能和效率。

?

圖1

從這個圖中可以看出，使用Xilinx UltraScale和UltraScale + FPGA定點數據實現CNN網絡可以獲得更高的GOPS /瓦特。與上圖所示的intel Arria 10和Stratix 10器件相比，Xilinx器件能使深度學習訓練效率提升2x至6x(單位：GOPS/瓦)，與32位浮點實現的精度水平基本相同。

有關更多信息請參考Xilinx Acceleration Zone Web page，該網頁詳細討論了使用Xilinx FPGA技術的超大規模云加速的各種方面，也包括基于Xilinx Kintex UltraScale KU115 FPGA的全新Xilinx深度學習加速開發套件。

總結：
深度學習已經成為機器學習領域的突破窗口，關于深度學習的研究和應用已經在學術界和公眾界得到廣大的關注。因而為設計人員提供便捷、適合的加速器件變得尤為重要。本次Xilinx開發了基于FPGA的深度學習套件，極大的推動了深度學習訓練的效率與準確度。相信在Xilinx等公司的持續推動下，人工智能的落地將會越來越快，越來越穩，為現如今的物聯網、智能化時代做出卓越的貢獻。