在過去的兩年里，人工智能已經從學術奇跡轉變為全球大趨勢。某種形式的機器學習將徹底改變幾乎所有事物——消費、汽車、工業、電子的每個領域——除此之外，還會以我們還不知道的方式影響社會和我們的生活。

這對行業意味著，幾乎每個處理器供應商都將機器學習視為會下金蛋的鵝。競爭正在將自己的方法定位為正確的解決方案，以加速最具潛力的領域中的特定工作負載：數據中心之外的機器學習，或邊緣的人工智能。

邊緣的人工智能有很大的希望，因為它幾乎可以應用于所有電子設備，從可以看到路上行人的自動駕駛汽車到響應語音命令的咖啡機。需要延遲、數據隱私、低功耗和低成本的任意組合的應用程序最終將遷移到邊緣的 AI 推理（請注意，“邊緣 AI”是 Gartner 圖表上的唯一 AI 點，距今不到 5 年）。

今年的 Gartner 新興技術炒作周期。Edge AI 距離“生產力的高原”還有兩到五年的時間。（圖片：Gartner）

AI 推理的工作負載是特定的：它們需要對大量低精度數據進行大規模并行處理，內存訪問成為瓶頸。大多數（如果不是全部）類型的處理器都試圖彎曲自己以適應這些要求。

現有技術是 GPU——今天實際上是一個公司的細分市場。幸運的是，GPU 的單指令多數據 (SIMD) 架構是為加速計算機圖形而開發的，結果證明它非常適合 AI 工作負載。英偉達正在盡可能地利用這一浪潮，為數據中心和自動駕駛開發人工智能超級計算機，以及用于邊緣設備的縮小版本。

其他人也都想分一杯羹。長期以來一直用于加速數學算法的 FPGA 供應商正在改進他們的產品以適應邊緣 AI 處理。Xilinx 采用域特定架構的概念并與之一起運行，將可編程邏輯與其他計算類型相結合，以允許針對新工作負載定制數據流。與此同時，萊迪思的目標是低功耗設備中的圖像處理。

還有許多初創公司將他們的新穎架構作為下一件大事。它們的范圍從內存處理器技術（Mythic、Syntiant、Gyrfalcon）到處理器近內存技術（Hailo）；從可編程邏輯 (Flex Logix) 到 RISC-V 內核（世界語、GreenWaves）；從非常小的（Eta Compute）到超大規模（Cerebras，Graphcore）。大多數用于邊緣的人工智能。當它們與英偉達和英特爾等公司對抗時，是否有足夠的利基市場來支持它們？時間會證明一切。

還有一些初創公司從另一個方向解決了這個問題：調整人工智能工作負載以在微控制器等傳統硬件上更有效地運行。PicoVoice 和 Xnor 等公司正在尋找新的方法來利用現有設備的指令集來執行矩陣乘法。

結合谷歌在 TensorFlow Lite 上的工作——一種將機器學習模型縮小到可以安裝到微控制器上的編譯器——這無疑將為不需要聯網的聲控設備等東西打開閘門——連接做推理。

面對新型加速器芯片組的嵌入式開發人員將不得不學習如何使用它們。軟件是這個難題的重要組成部分。更傳統的 CPU、MPU 和 MCU 顯然在這方面處于領先地位。

雖然圍繞一個新的軟件平臺建立一個開發者社區并非不可能，但這并不容易。英偉達花了十年時間將其 GPU 軟件平臺 CUDA 打造為今天的成功。任何進入這個領域的人都需要構建庫和工具包，并通過會議和論壇努力教育開發人員。所有這些都會使初創公司的有限資源緊張。

靈活性是成功秘訣的另一個重要因素。雖然今天的圖像處理模型依賴于卷積神經網絡 (CNN)，但不同類型的神經網絡適用于其他應用，例如語音識別，并且學術界一直在提出新的神經網絡概念。高級網絡可能需要更復雜的數據流方案。為加速當今的 CNN 而開發的硬件可能過于專業，無法加速未來的網絡平臺。因此，應將 AI 工作負載的性質視為一個移動目標，在靈活性和性能之間取得適當平衡，這對于面向未來至關重要。

爭奪這個空間的戰斗才剛剛開始。獲勝者將是選擇正確的利基市場并努力追求的公司，投資于軟件堆棧和教育行業，并為這個快速發展的行業保持一定的靈活性。當然，要以合適的價格做這一切。