（文章來源：?IT168）

目前，我們在AI計算平臺使用最廣泛的兩種加速部件是GPU和FPGA。GPU可適用于具備計算密集、高并行、SIMD(Single Instruction Multiple Data，單指令多數據流)應用等特點的深度學習訓練模型領域，并且GPU創建了包含CNN、DNN、RNN、LSTM以及強化學習網絡等算法在內的應用加速平臺和生態系統。

但是，最近FPGA又頻頻被各AI領域的巨頭看好，比如微軟、百度、科大訊飛都對FPGA應用前景有所期待。那么如果讓你選擇FPGA作為AI計算系統的主力軍，你會有什么樣的顧慮?首先，深度學習包含兩個計算環節，即訓練和推理環節。GPU在深度學習算法模型訓練上非常高效，但在推理時對于小批量數據，并行計算的優勢不能發揮出來。

而FPGA 同時擁有流水線并行和數據并行，因此處理任務時候延遲更低。例如處理一個數據包有 10 個步驟，FPGA 可以搭建一個 10 級流水線，流水線的不同級在處理不同的數據包，每個數據包流經 10 級之后處理完成。每處理完成一個數據包，就能馬上輸出。通常來說，FPGA 加速只需要微秒級的 PCIe 延遲。當Intel 推出通過 QPI快速通道互聯的 Xeon + FPGA 之后，CPU 和 FPGA 之間的延遲甚至可以降到 100 納秒以下。

其次，FPGA是可編程芯片，算法燒錄更加靈活。目前來看，深度學習算法還未完全成熟，算法還在迭代衍化過程中，若深度學習算法發生大的變化，FPGA是軟件定義硬件，可以靈活切換算法，快速切入市場。據分析，未來至少95%的機器學習計算都是用于推斷，只有不到5%是用于模型訓練，而FPGA正是強在推斷。大幅提升推斷效率的同時，還能最小限度損失精確性，這正是FPGA的強項。

與CPU和GPU不同，FPGA是一種典型的非諾依曼架構，是硬件適配軟件的模式，它能夠根據系統資源和算法特征靈活的調整并行度，達到最優的適配，因此能效比高于CPU和GPU。測試數據顯示，在語音識別應用下，浪潮F10A較CPU性能加速2.87倍，而功耗相當于CPU的15.7%，性能功耗比提升18倍。傳統的FPGA的開發類似于芯片的開發，采用硬件描述語言(HDL)開發，HDL

實測數據顯示，在進行ResNet殘差網絡的圖片識別分類任務時，浪潮F10A加速方案圖片處理速度可達每秒742張，Top-5識別準確率達到99.6%，相比同檔次GPU能效比提升3倍以上。而與通用CPU對比，在處理這種高并行、小計算量的任務時，F10A的優勢將更明顯。

· 數據壓縮加速方案：為解決傳統壓縮架構的弊端，浪潮GZip算法加速方案充分利用板卡硬件流水設計和任務級并行，大幅提升了壓縮任務的吞吐量并有效降低CPU的負載，壓縮率(壓縮率=1-壓縮后文件/壓縮前文件)最高可達94.8%，壓縮速度達到1.2GB/s，10倍于傳統方案的壓縮效率。

FaaS不僅僅是指板卡與軟件算法的一體化服務，同時還可以支持公有云及在線遠程管理和更新。浪潮FPGA解決方案能夠支持動態邏輯的在線可重構、靜態邏輯的遠程更新，并且通過優化的監控管理機制，提升板卡遠程監控管理的可靠性，通過它們可以實時的監控FPGA芯片的溫度、板卡風扇轉速、板卡內存特性等從而調整FPGA的工作頻率。

同時浪潮FPGA也支持虛擬機的直接訪問，板卡本身也加入了很多RAS(可靠性、可用性、可擴展性)特性，如高可靠內存訪問等，支持并行(FPP)和串行(AS)雙加載模式，任何一種模式加載出現故障，都可以快速切換到另一種模式加載，保證了板卡大規模服務的可用性。

有了這些特性，就可以利用浪潮FPGA方案，快速搭建FPGA云所需要的基礎底層計算平臺，不論是對外提供公有云服務，還是對內實現FPGA計算力快速分配都能夠既高效又可靠。對于FPGA這種新興的AI計算設備，“觀望”往往是明智的選擇，畢竟不是每家公司都想要作為新技術的小白鼠，而當有第一個吃螃蟹的人出現后，“跟進”則成為“飛豬”的必然之路。

目前，浪潮FPGA已經在百度、阿里巴巴、騰訊、網易、科大訊飛取得批量的落地應用或深度測試，FPGA在人工智能線上推理的能效優勢已經得到大部分互聯網和AI公司的認可。當FPGA成為一種計算力服務，有著高效的硬件、成熟的IP和云化管理，你還在顧慮什么?

浪潮擁有國內領先的FPGA軟硬件開發團隊，浪潮正聯合Intel及BAT、科大訊飛、網易等AI領先企業深入研發基于FPGA的通用系統方案，包括深度學習、網絡加速、存儲優化等，并將方案推廣到其它應用領域和客戶。未來，CPU+FPGA或許將作為新的異構加速模式，被越來越多的應用領域采用。