機器學習與CNN

機器學習（Machine Learning）以及其中的深度學習（Deep Learning）在最近幾年的科技行業非常地吸引眼球，取得了爆發式的發展——僅僅在過去兩年間，機器學習技術所取得的發展成就，就已超越了之前45年的總和，并且依然維持著高速的發展軌跡，而這些方法是實現人工智能應用的重要手段。未來的視覺識別、語音識別和自然語言處理將會大大改變我們的日常生活。在具體的實現過程中，卷積神經網絡（Convolutional Neural Networks，CNN）受到了科學家們的青睞，已成為當前語音分析和圖像識別領域的研究熱點。

CNN采用的權值共享網絡結構使之更類似于生物神經網絡，降低了網絡模型的復雜度，減少了權值的數量。當網絡的輸入是多維圖像時其優點表現得更為明顯，使圖像可以直接作為網絡的輸入，避免了傳統識別算法中復雜的特征提取和數據重建過程。卷積網絡是為識別二維形狀而特殊設計的一個多層感知器，這種網絡結構對平移、比例縮放、傾斜或者共他形式的變形具有高度不變性。

CNN所面臨的挑戰與BNN的問世

當前，CNN技術所面臨的一大挑戰在于如何在高速運轉下降低功耗，以及如何能夠更為易于使用。在最近舉辦的第25屆國際可編程門陣列（FPGA）技術研討會（the 25th International Symposium on Field Programmable Gate Arrays）上的一篇論文就提出了一種快速可擴展的二值神經網絡（Binarized Neural Networks，BNN）框架，其在CNN基礎上進行了優化，不僅降低了功耗而且使得系統運行更快。文中指出：

“大量研究發現傳統的卷積神經網絡（CNN）會產生大量的冗余。這種使用浮點計算的神經網絡要求大存儲空間和大計算量，嚴重阻礙了其在移動端設備上的應用。二值神經網絡（BNN）設法讓計算主要在正1或負1間進行，幾十倍地降低了網絡大小和計算量，但一直以來難以達到高預測準確率。最新的進展大幅提高了二值神經網絡的預測準確率并接近實用水平。相比浮點型計算，FPGA器件更適合這種二值化操作，而且表現出不俗的性能。”

圖1 ：全連接二值化神經網絡（BNN）層示例

該篇論文隨后介紹了作者所開發的用于生成BNN的技術，并且將之實例化應用于FPGA中。論文中所發表的基于Zynq Z-7045 SoC器件所完成的測試結果令人印象深刻：

“從純圖像吞吐量來看，我們的設計相比其它任何已有方案都表現得更為優異。針對MINST數據集，我們的SFC-max設計與LFC-max設計分別實現了超過48倍/6倍FPS于現今最為接近的最高吞吐量設計。相比于Alemdar et al.所執行的網絡，我們的SFC-max design的精度要比之低，但我們的LFC-max design比之最接近的精確設計表現得更為優異：分別是6倍吞吐量以及1.9倍FPS/W之于前者的表現。針對其它數據集，我們的CNV-max design相比TrueNorth更為卓越，分別取得了17倍FPS于CIFAR-10數據集，以及8倍FPS于SVHN數據集的表現。同時，我們的吞吐量9.44倍高于Ovtcharov et al.的設計，2.2倍于Hegde et al.的最快結果。”

從以上可見，對于圖片分類應用，BNN雖然降低了一定精度但是性能顯著提升，功耗也大幅度降低。

PYNQ讓BNN觸手可及

更加令人興奮的是，由于其高度可擴展性，上述二值神經網絡（BNN）目前已經能夠在價廉物美的Digilent PYNQ-Z1開發板上輕松搭建！基于上述論文，位于愛爾蘭的Xilinx研究實驗室（Xilinx Research Labs），聯合挪威科技大學（Norwegian U. of Science and Technology，NTNU），與悉尼大學（U. of Sydney）于近日最新共同發布了面向PYNQ-Z1的開源二值神經網絡（BNN）一直框架，適合更多愛好者以及入門者學習。PYN1-Z1是由迪芝倫（DIGILENT）公司設計開發的ZYNQ 7020開發板卡，國內市場官方定價：?2,478（學術價格：?998）。

正如Xilinx研究實驗室的科學家Giulio Gambardella所述：“PYNQ-Z1不同的機器學習數據集（dataset）的測試結果顯示：對于MNIST數據集PYNQ-Z1能實現每秒168000張圖片的分類，延遲102微妙，準確率達98.4%；對于CIFAR-10、SVHN、GTSRB數據集PYN1-Z1能實現每秒1700張圖片的分類，延遲2.2毫秒，準確率分別為80.1%、96.69%和97.66%，系統功耗均保持在2.5W左右。”

圖2 ：迪芝倫（DIGILENT）PYNQ-Z1板卡，基于Xilinx Zynq Z-7020 SoC