人工智能方興未艾，無數初創公司和老牌公司都在積極開發以人工智能應用為賣點的智能硬件。目前，強大的云端人工智能服務（如谷歌的 Alpha Go）已經初現端倪，同時，人們也希望能把人工智能也帶到移動終端，尤其是能夠結合未來的物聯網應用。

傳統實現移動終端人工智能的方法是通過網絡把終端數據全部傳送到云端，之后在云端計算后再把結果發回移動端，例如蘋果的 Siri 服務。

然而，這樣的方式會遇到幾個問題。第一，使用網絡傳輸數據會產生延遲，很可能數據計算的結果會需要等待數秒甚至數十秒才能傳送回終端（使用過 Prisma app 處理過照片的朋友們應該深有體會）。這樣一來，那些需要立刻得到計算結果的應用就不能用這種方式。例如無人機上使用的深度學習躲避障礙物算法，如果它全部在云端執行恐怕計算結果還沒送回來無人機已經掉下來了。

第二，一旦使用網絡傳送數據，那么數據就有被劫持的風險。因此，那些要求低計算延遲以及對于數據安全性非常敏感的應用就需要把人工智能算法全部在終端實現，或者至少在終端完成一些預處理運算然后再把少量運算結果（而不是大量的原始數據）傳送到云端完成最終計算，這就需要移動終端硬件能夠快速完成這些運算。另一方面，移動端硬件完成這些運算需要的能量又不能太多，否則電池一下就沒電了（想在手機上配功耗 200W+的 Nvidia Pascal 顯卡肯定不行!）。

目前，許多公司正在積極開發能實現移動端人工智能的硬件。對于移動端人工智能硬件的實現方法，有兩大流派，即 FPGA 派和 ASIC 派。FPGA 流派的代表公司如 Xilinx 主推的 Zynq 平臺，而 ASIC 流派的代表公司有 Movidius。兩大流派各有長短，下面讓我來細細分說。

首先講講 FPGA 和 ASIC 的區別。FPGA 全稱「可編輯門陣列」(Field Programmable Gate Array)，其基本原理是在 FPGA 芯片內集成大量的數字電路基本門電路以及存儲器，而用戶可以通過燒入 FPGA 配置文件來來定義這些門電路以及存儲器之間的連線。這種燒入不是一次性的，即用戶今天可以把 FPGA 配置成一個微控制器 MCU，明天可以編輯配置文件把同一個 FPGA 配置成一個音頻編解碼器。ASIC 則是專用集成電路 (Application-Specific Integrated Circuit)，一旦設計制造完成后電路就固定了，無法再改變。

用于深度學習加速器的 FPGA(Xilinx Kintex 7 Ultrascle, 上) 和 ASIC(Movidius Myriad 2, 下)，比較 FPGA 和 ASIC 就像比較樂高積木和模型。舉例來說，如果你發現最近星球大戰里面 Yoda 大師很火，想要做一個 Yoda 大師的玩具賣，你要怎么辦呢？

有兩種辦法，一種是用樂高積木搭，還有一種是找工廠開模定制。用樂高積木搭的話，只要設計完玩具外形后去買一套樂高積木即可。而找工廠開模的話在設計完玩具外形外你還需要做很多事情，比如玩具的材質是否會散發氣味，玩具在高溫下是否會融化等等，所以用樂高積木來做玩具需要的前期工作比起找工廠開模制作來說要少得多，從設計完成到能夠上市所需要的時間用樂高也要快很多。

FPGA 和 ASIC 也是一樣，使用 FPGA 只要寫完 Verilog 代碼就可以用 FPGA 廠商提供的工具實現硬件加速器了，而要設計 ASIC 則還需要做很多驗證和物理設計 (ESD，Package 等等)，需要更多的時間。如果要針對特殊場合（如軍事和工業等對于可靠性要求很高的應用），ASIC 則需要更多時間進行特別設計以滿足需求，但是用 FPGA 的話可以直接買軍工級的高穩定性 FPGA 完全不影響開發時間。但是，雖然設計時間比較短，但是樂高積木做出來的玩具比起工廠定制的玩具要粗糙（性能差）許多（下圖），畢竟工廠開模是量身定制。

另外，如果出貨量大的話，工廠大規模生產玩具的成本會比用樂高積木做便宜許多。FPGA 和 ASIC 也是如此，在同一時間點上用最好的工藝實現的 ASIC 的加速器的速度會比用同樣工藝 FPGA 做的加速器速度快 5-10 倍，而且一旦量產后 ASIC 的成本會遠遠低于 FPGA 方案（便宜 10 到 100 倍）。

當然，FPGA 還有另一大特點，就是可以隨時重新配置，從而在不同的場合實現不同的功能。但是，當把 FPGA 實現的加速器當作一個商品賣給用戶時，要讓用戶自己去重新配置卻要花一番功夫。

回到用樂高積木做玩具的例子，玩具廠商可以宣稱這個 Yoda 大師由積木搭起來，所以玩家可以把這些積木重新組合成其他角色（比如天行者路克）。但是一般玩家根本不會拆裝積木，怎么辦？解決方案要么是把目標市場定為精通積木的專業核心玩家，要么是在玩具后面加一個開關，一般玩家只要按一下就可以讓積木自動重新組裝。很顯然，第二個方案需要很高的技術門檻。

對于 FPGA 加速器來說，如果要把可重配置作為賣點，要么是賣給有能力自己開發 FPGA 的企業用戶（如百度，微軟等公司確實有在開發基于 FPGA 的深度學習加速器并且在不同的應用場合將 FPGA 配置為不同的加速器），要么是開發一套方便易用能將用戶的深度學習網絡轉化為 FPGA 配置文件的編譯器（深鑒等公司正在嘗試）。

從目前來看，即使用高端的服務器來做 FPGA 編譯都會需要數分鐘的時間，如果編譯在計算能力較弱的移動終端做需要的時間就更長了。對于移動終端用戶來說，如何說服他們嘗試重新配置 FPGA 并接受長達數十分鐘的時間來編譯網絡并配置 FPGA 仍然是一個問題。

我把 FPGA 和 ASIC 的比較總結在下面表格里。FPGA 上市速度快，但性能較低。ASIC 上市速度慢，需要大量時間開發，而且一次性成本（光刻掩模制作成本）遠高于 FPGA，但是性能遠高于 FPGA 且量產后平均成本遠低于 FPGA。FPGA 可以完全重配置，但是 ASIC 也有一定的可配置能力，只要在設計的時候就把電路做成某些參數可調的即可。

目標市場方面，FPGA 成本太高，所以適合對價格不是很敏感的地方，比如企業應用，軍事和工業電子等等（在這些領域可重配置可能真的需要）。而 ASIC 由于低成本則適合消費電子類應用，而且在消費電子中可配置是否是一個偽需求還有待商榷。

我們看到的市場現狀也是如此：使用 FPGA 做深度學習加速的多是企業用戶，百度、微軟、IBM 等公司都有專門做 FPGA 的團隊為服務器加速，而做 FPGA 方案的初創公司 Teradeep 的目標市場也是服務器。而 ASIC 則主要瞄準消費電子，如 Movidius。由于移動終端屬于消費電子領域，所以未來使用的方案應當是以 ASIC 為主。