（文章來源：安防知識網）

目前，在AI計算平臺使用最廣泛的兩種加速部件是GPU和FPGA。GPU可適用于具備計算密集、高并行、SIMD（SingleInstructionMultipleData，單指令多數據流）應用等特點的深度學習訓練模型領域，并且GPU創建了包含CNN、DNN、RNN、LSTM以及強化學習網絡等算法在內的應用加速平臺和生態系統。

但是，最近FPGA又頻頻被各AI領域的巨頭看好，比如微軟、百度、科大訊飛都對FPGA應用前景有所期待。那么如果讓你選擇FPGA作為AI計算系統的主力軍，你會有什么樣的顧慮？

首先，深度學習包含兩個計算環節，即訓練和推理環節。GPU在深度學習算法模型訓練上非常高效，但在推理時對于小批量數據，并行計算的優勢不能發揮出來。而FPGA同時擁有流水線并行和數據并行，因此處理任務時候延遲更低。

例如處理一個數據包有10個步驟，FPGA可以搭建一個10級流水線，流水線的不同級在處理不同的數據包，每個數據包流經10級之后處理完成。每處理完成一個數據包，就能馬上輸出。通常來說，FPGA加速只需要微秒級的PCIe延遲。當Intel推出通過QPI快速通道互聯的Xeon＋FPGA之后，CPU和FPGA之間的延遲甚至可以降到100納秒以下。

其次，FPGA是可編程芯片，算法燒錄更加靈活。目前來看，深度學習算法還未完全成熟，算法還在迭代衍化過程中，若深度學習算法發生大的變化，FPGA是軟件定義硬件，可以靈活切換算法，快速切入市場。

未來至少95％的機器學習計算都是用于推斷，只有不到5％是用于模型訓練，而FPGA正是強在推斷。大幅提升推斷效率的同時，還能最小限度損失精確性，這正是FPGA的強項。與CPU和GPU不同，FPGA是一種典型的非諾依曼架構，是硬件適配軟件的模式，它能夠根據系統資源和算法特征靈活的調整并行度，達到最優的適配，因此能效比高于CPU和GPU。

以浪潮F10A為例，這是目前業界支持OpenCL的最高密度最高性能的FPGA加速設備，基于Altera的Arria10芯片，單芯片峰值運算能力達到了1．5TFlops，功耗卻只需35W，每瓦特性能達到42GFlops。同時，F10A設計為高密度的半高半長PCI－E插卡，同時具有靈活的板卡內存配置，最大支持32G雙通道內存，是業內同等FPGA卡內存容量的4－8倍。此外，F10A支持2個10Gb光口，可以實現數據直接從網絡到板卡處理，無需經過CPU，大大減低了傳輸延時。

測試數據顯示，在語音識別應用下，浪潮F10A較CPU性能加速2．87倍，而功耗相當于CPU的15．7％，性能功耗比提升18倍。