人工智能的三大支撐是硬件、算法和數據，其中硬件指的是運行 AI 算法的芯片與相對應的計算平臺。在硬件方面，目前主要是使用 GPU 并行計算神經網絡，同時，還有 FPGA 和 ASIC 也具有未來異軍突起的潛能。GPU （Graphics Processing Unit）稱為圖形處理器，它是顯卡的“心臟”，與 CPU 類似，只不過是一種專門進行圖像運算工作的微處理器。

GPU 是專為執行復雜的數學和幾何計算而設計的，這些計算是圖形渲染所必需的。GPU 在浮點運算、并行計算等部分計算方面可以提供數十倍乃至于上百倍于 CPU 的性能。英偉達公司從 2006 年下半年已經開始陸續推出相關的硬件產品以及軟件開發工具，目前是人工智能硬件市場的主導。

GPU 對海量數據并行運算的能力與深度學習需求不謀而合，因此，被最先引入深度學習。2011 年吳恩達教授率先將其應用于谷歌大腦中便取得驚人效果，結果表明，12 顆英偉達的 GPU 可以提供相當于 2000顆 CPU 的深度學習性能。

GPU 作為圖像處理器，設計初衷是為了應對圖像處理中需要大規模并行計算。因此，其在應用于深度學習算法時，有三個方面的局限性：1.應用過程中無法充分發揮并行計算優勢。2.硬件結構固定不具備可編程性。3.運行深度學習算法能效遠低于 ASIC 及 FPGA。

FPGA（Field－Programmable Gate Array）稱為現場可編程門陣列，用戶可以根據自身的需求進行重復編程。與 GPU、CPU 相比，具有性能高、能耗低、可硬件編程的特點。

FPGA 比GPU 具有更低的功耗，比 ASIC 具有更短的開發時間和更低的成本。自 Xilinx 在 1984 年創造出 FPGA 以來，在通信、醫療、工控和安防等領域占有一席之地，在過去幾年也有極高的增長率。而進入了最近兩年，由于云計算、高性能計算和人工智能的繁榮，擁有先天優勢的 FPGA 的關注度更是到達了前所未有的高度。

就目前市場而言，英特爾、IBM、德州儀器、摩托羅拉、飛利浦、東芝、三星等巨頭紛紛涉足 FPGA，但最成功的是 Xilinx 與 Altera。這兩家公司共占有近 90%的市場份額，專利達到 6000 余項。Intel 在 2015 年以 161 億美元收購了 Altera，也是看中 FPGA 專用計算能力在人工智能領域的發展。從行業巨頭巨頭的動作可以看出，由于 FPGA 在計算能力和靈活性上大大彌補了 CPU 的短板，未來在深度學習領域，CPU+FPGA 的組合將成為重要的發展方向。

FPGA也有三類局限：1、基本單元的計算能力有限；2、速度和功耗有待提升；3、FPGA 價格較為昂貴。ASIC（Application Specific Integrated Circuit）是一種為專門目的而設計的集成電路。無法重新編程，效能高功耗低，但價格昂貴。

近年來涌現出的類似TPU、NPU、VPU、BPU等令人眼花繚亂的各種芯片，本質上都屬于ASIC。ASIC不同于 GPU 和 FPGA 的靈活性，定制化的 ASIC 一旦制造完成將不能更改，所以初期成本高、開發周期長的使得進入門檻高。目前，大多是具備 AI 算法又擅長芯片研發的巨頭參與，如 Google 的 TPU。由于完美適用于神經網絡相關算法，ASIC 在性能和功耗上都要優于 GPU 和 FPGA，TPU1 是傳統 GPU 性能的 14-16 倍，NPU 是 GPU 的 118 倍。寒武紀已發布對外應用指令集，預計 ASIC 將是未來 AI 芯片的核心。

ASIC 的另一個未來發展是類腦芯片。類腦芯片是基于神經形態工程、借鑒人腦信息處理方式，適于實時處理非結構化信息、具有學習能力的超低功耗芯片，更接近人工智能目標，力圖在基本架構上模仿人腦的原理，用神經元和突觸的方式替代傳統“馮諾依曼”架構體系，使芯片能進行異步、并行、低速和分布式處理的能力，同時具備自主感知、識別和學習能力。IBM 的 NorthTrue 即屬于類腦芯片。目前類腦芯片尚處于初期，距離商業化還存在一段距離，這也是各國正在積極布局的地方。