1.7.1 CPU的實踐和性能

對比測試的項目以每秒鐘jpeg圖片解碼然后重新編碼的性能為準，對單張圖片循環重復計算，單位為張數。CPU計算平臺采用的處理器為至強E3-1270，CPU計算平臺使用的轉碼軟件是imagemagic-6.8.6，多進程并發循環執行。下表給出CPU的性能數據。

1.7.2 GPU的實踐和性能

利用GPU進行圖片解碼和再編碼時，首先遇到了順序執行的問題。JPEG解碼里面的墑解碼器使用的是霍夫曼解碼。霍夫曼解碼在解碼圖像數據時候，依次處理一個個圖像塊，塊之間沒有分割標志，因此存在數據依賴關系，必須把前面圖像塊的數據解碼完成，才能處理下一個圖像塊。這種必須順序執行的計算部分GPU運行效率非常低，如果霍夫曼解碼在GPU里面完成，整體效率甚至不如CPU。我們和Nvidia公司的軟件團隊討論了這個問題，最后確定的方案是將霍夫曼解碼部分由CPU完成。使用GPU的異構編程應當被看做是CPU的計算輔助單元，共同和CPU完成計算任務，由于架構和配套資源的特點，很難把GPU當作完整的解決方案。

第二個重要的問題是內存的分配和管理。以操作系統的角度來看，異構編程其實是對外部設備的編程，軟件代碼可以分成兩部分，一部分在CPU上面執行，另一部分在GPU上執行。GPU的內存分配其實是對設備內存的分配，這種分配操作運行性能很低，嚴重影響整體計算的效率。在實際測試的代碼中，將所有的設備內存分配都在開始時候一次完成，避免實際使用時的內存分配。數據從CPU內存復制到GPU的設備內存后，才能進行高性能計算。因此需要減少內存的復制時間，盡量使復制過程和GPU的計算疊加起來，形成流水式的操作。

使用GPU的異構編程，需要時刻關注GPU的利用率指標。這個指標代表GPU的繁忙程度，如果利用率很低，說明沒有充分利用GPU內部的流處理器，存在流處理器較多時間空閑的情況，就需要調整和優化代碼結構。一般說來，GPU的利用率應該大于80%，這是才比較充分的利用了GPU的性能。

最終的測試是和Nvidia公司的軟件團隊共同完成，實驗性能得到了Nvdia公司的認同。下表給出GPU對JPEG圖像再編碼的性能數據。

1.7.3 FPGA的實踐和性能

FPGA是一個單獨的芯片，為了能在服務器環境使用FPGA芯片，需要設計一張FPGA計算卡，該卡使用PCIE接口和主機連接，卡上安裝一片xilinx v7-690T的芯片，同時具有2GB的DDR內存。FPGA編程沒有操作系統的支持和輔助，因此FPGA內部的資源必須用戶自己管理，比如FPGA訪問DDR內存的數據，必須通過硬件邏輯來實現，FPGA芯片和外部設備之間的數據交換也必須全部由使用者設計硬件邏輯實現功能，比如通過PCIE接口將主機內存復制到FPGA卡內的DDR內存等。

而且FPGA軟件設計的生態環境和CPU的環境不同，通常FPGA設計沒有大量可用的開源軟件。即使有一些公司提供商業的解決方案，費用一般也很昂貴。實際上在硬件設計領域，一般都流行商業授權的模式。商業公司通常將開發的硬件邏輯打包為IP（intelligence property），有購買IP意向的使用者和商業公司談判使用模式和費用，談判完成前一般不提供試用版本。

為了解決FPGA編程困難、生產效率低的問題，我們創建了一個FPGA編程框架，利用框架提供用戶需要的控制和數據，用戶只需要聚焦于算法和功能，而不必關心底層功能的實現。FPGA編程框架彌補了FPGA 沒有操作系統支持的弱點，其實質上類似一個小型的操作系統，實現對資源的管理和使用。如下圖所示：

上圖綠色部分展示了FPGA編程框架的構成，當前編程框架包含對PCIE接口協議的封裝、DDR內存的存取和多路仲裁、DMA功能、郵箱消息接口等。編程框架里面包含了下列的重要部件：

PCI設備配置空間：設置PCIE設備配置空間的信息，包括PCI設備ID，制造廠商和設備IO端口以及IO mem資源
DMA：啟動DMA功能，從主機內存物理地址復制數據到FPGA卡DDR內存的指定地址，或者從FPGA卡DDR內存的指定地址復制到主機內存物理地址。

DDR：從FPGA卡DDR內存指定地址讀數據，每次讀出64bit數據。或者往FPGA卡DDR內存指定地址寫數據，每次寫入64bit數據。

郵箱：郵箱提供主機和FPGA芯片之間的消息接口。

中斷資源：中斷接口管理和控制，通過接口可以觸發一個系統中斷。

在FPGA程序實現時最重要的問題就是資源利用率。FPGA和CPU不同，如果資源沒有限制，FPGA理論上可以部署足夠多的計算單元，性能可以達到無限。在圖片轉碼的實踐中，基于690T的芯片，實際上部署了30路的編解碼核心，這時資源利用率達到70%。下表給出FPGA的性能數據。

1.8 結論和綜述

從整個實踐的過程理解，FPGA&GPU芯片的使用是很復雜的過程。性能和性價比是否具有優勢需要針對業務的計算類型設計程序和優化，并進行實際的驗證得出結論。希望簡單和一致性的結論沒有可能，而廠商的結論多半并不可信，和實際驗證的數據差別巨大。現實是硬件、環境和算法資源都很缺乏，這可能是異構編程應用不廣泛和困難的原因。脫離了CPU的支持，使用GPU&FPGA等芯片的異構編程困難太多，如果像CPU集成GPU一樣，同樣在CPU內部集成FPGA功能，方便用戶的選擇和使用，將大大推動各種場景的實際應用。