人工智能芯片，目前有兩種發展路徑：一種是延續傳統計算架構，加速硬件計算能力，主要以3種類型的芯片為代表，即GPU、FPGA和ASIC，但CPU依舊發揮著不可替代的作用；另一種是顛覆經典的馮諾依曼計算架構，采用人腦神經元的結構來提升計算能力，以IBMTrueNorth芯片為代表。由于人腦神經元芯片距離產業化仍然較遠，我們著重討論在人工智能時代GPU，FPGA和ASIC的應用和未來發展可能性。

按照處理器芯片的效率排序，從低到高依次是CPU、DSP、GPU、FPGA和ASIC。沿著CPU-》ASIC的方向，芯片中晶體管的效率越來越高。因為FPGA&ASIC等芯片實現的算法直接用晶體管門電路實現，比起指令系統，算法直接建筑在物理結構之上，沒有中間層次，因此晶體管的效率最高。CPU&GPU需要軟件支持，而FPGA&ASIC則是軟硬件一體的架構，軟件就是硬件。

而按照晶體管易用性排序是相反的。從ASIC到CPU，芯片的易用性越來越強。CPU&GPU的編程需要編譯系統的支持，編譯系統的作用是把高級軟件語言翻譯成機器可以識別的指令（也叫機器語言）。高級語言帶來了極大的便利性和易用性，因此用CPU&GPU實現同等功能的軟件開發周期要遠低于FPGA&ASIC芯片。

3.1 CPU仍然是最好的通用處理器之一

CPU作為通用處理器，兼顧計算和控制，70%晶體管用來構建Cache還有一部分控制單元，用來處理復雜邏輯和提高指令的執行效率，如圖所示，所以導致計算通用性強，可以處理計算復雜度高，但計算性能一般。

目前，英特爾等芯片制造商主要通過增加CPU核數來增加計算能力，但是因為每個物理核中只有30%的晶體管是計算單元。通過這種方式來增加計算能力并不劃算，還帶來芯片功耗和價格的增加。

此外，英特爾進行CPU架構調整的時間也在放緩。原來英特爾按照“Tick-Tock”二年一個周期進行CPU架構調整，從2016年開始放緩至三年，更新迭代周期較長。

由此可見，CPU仍然最好的通用處理器之一，但是在高性能計算上，CPU越來越無法滿足計算能力提升的需求。

3.2 GPU具有最強大的并行計算能力

GPU主要擅長做類似圖像處理的并行計算，所謂的“粗粒度并行（coarse-grainparallelism）”。圖形處理計算的特征表現為高密度的計算而計算需要的數據之間較少存在相關性，GPU提供大量的計算單元（多達幾千個計算單元）和大量的高速內存，可以同時對很多像素進行并行處理。

GPU的設計出發點就是用于計算強度高、多并行的計算。GPU把晶體管更多用于計算單元，而不像CPU用于數據Cache和流程控制器。GPU中邏輯控制單元不需要能夠快速處理復雜控制。并行計算時，每個數據單元執行相同程序，不需要繁瑣的流程控制而更需要高計算能力，因此也不需要大的cache容量。

GPU同CPU一樣也是指令執行過程：取指令-》指令譯碼-》指令執行，只有在指令執行的時候，計算單元才發揮作用。GPU的邏輯控制單元相比CPU簡單，要想做到指令流水處理，提高指令執行效率，必然要求處理的算法本身復雜度低，處理的數據之間相互獨立，所以算法本身的串行處理會導致GPU浮點計算能力的顯著降低。

GPU具有最強大的并行計算處理能力。以GP100為例，其雙精度運算能力是5.3Teraflops，單精度為10.6Teraflops（AMD雙芯RadeonProDuo是16TeraFLOPs）。而英偉達在開發者大會GTC2017上發布新一代GPU架構Volta，首款核心為GV100據稱其在推理場景下，V100比上一代搭載GP100CPU的P100板卡，圖像處理能力提升了約10倍，延遲也下降了約30%。

3.3 FPGA：萬能芯片

FPGA即現場可編程門陣列，它不采用指令和軟件，是軟硬件合一的器件。FPGA由于算法是定制的，沒有CPU和GPU的取指令和指令譯碼過程，數據流直接根據定制的算法進行固定操作，計算單元在每個時鐘周期上都可以執行，所以可以充分發揮浮點計算能力，計算效率高于CPU和GPU。