?

連杰蘇（來源：ABI Research）

AI加速器芯片的機會被大肆宣傳，但市場有多大，今天哪些公司真正在銷售芯片？

ABI Research 的兩份新報告詳細介紹了當今 AI 芯片組市場的發展狀況。EETimes 采訪了報告的作者，首席分析師蘇連杰，以了解哪些公司和技術正在進入這個潛在的利潤豐厚的市場。

云中的人工智能

第一份報告“云 AI 芯片組：市場格局和供應商定位”強調了云 AI 推理和培訓服務如何快速增長。由此產生的人工智能芯片組市場預計將從 2019 年的 42 億美元增長到 2024 年的 100 億美元。該領域的當前領導者英偉達和英特爾正受到寒武紀、Graphcore、Habana Labs 和高通等公司的挑戰。

Su 表示，英偉達在這個市場上仍然是一個明顯的領導者，這主要歸功于其完善的開發者生態系統和先發優勢。

“此外，隨著人工智能模型、庫和工具包的不斷變化和更新，鑒于其作為通用人工智能芯片組的能力，英偉達是一個很好的后備選擇，”蘇說。“誠然，隨著市場的成熟，這些優勢會慢慢減弱，但至少在可預見的未來，英偉達仍將處于強勢地位。”

今天的人工智能芯片組云市場分為三個部分。公共云由云服務提供商托管：AWS、微軟、谷歌、阿里巴巴、百度和騰訊等。然后是企業數據中心，它們實際上是私有云，以及 ABI 所謂的“混合云”，即結合公共云和私有云（VMware、Rackspace、NetApp、HPE、戴爾）的產品。

該報告還確定了一個額外的新興領域——電信云，它指的是電信公司為其核心網絡、IT 和邊緣計算工作負載部署的云基礎設施。

蘇說，這個新的細分市場對人工智能芯片組制造商來說是一個巨大的機會。

“我們已經看到像華為這樣的網絡基礎設施供應商，以及在較小程度上諾基亞推出針對電信網絡功能優化的 ASIC，”Su 說。“這是一個巨大的市場，但英偉達最近一直在努力進入這個市場。”

雖然 Su 沒有看到任何其他公司在短期內取代 Nvidia 在云端 AI 訓練方面的主導地位，但推理更像是一種自由競爭，目前還不是由單一玩家主導。這部分歸因于推理工作量的性質，這在垂直領域之間有所不同。他說，從 2020 年起，ASIC 預計將在該領域實現強勁增長。

當前將人工智能推理轉移到邊緣設備的趨勢將意味著智能手機、自動駕駛汽車和機器人等設備對云的依賴減少。但這并不意味著推理工作量（一些云服務提供商認為大于訓練工作量）將會減少，Su 說。

“一些人工智能永遠不會走向邊緣，例如聊天機器人和對話式人工智能、欺詐監控和網絡安全系統，”他說。“這些系統將從基于規則的人工智能系統演變為基于深度學習的人工智能系統，這實際上增加了推理工作量。[增加] 將足以取代那些移動到邊緣的推理工作負載。”

然后是谷歌。谷歌的 TPU（張量處理單元）可以同時處理云中的訓練和推理，被視為 CPU 和 GPU 技術的有力挑戰者（分別由英特爾和英偉達領導）。正如報告所指出的，谷歌在 TPU 方面的成功為其他云服務提供商 (CSP) 開發自己的 AI 加速器 ASIC 提供了藍圖。華為、AWS和百度已經這樣做了。

如果云服務提供商都在開發他們自己的芯片組，這是否會為該領域的任何其他芯片組供應商留下市場？

“隨著 CSP 開始在自己的芯片組上工作，這條道路對于新來者來說非常具有挑戰性，你當然是對的，”Su 說。“我們甚至預測，到 2024 年，15% 到 18% 的市場將屬于 CSP。機會更多地在于私有數據中心領域。銀行機構、醫療機構、研發實驗室和學術界仍將需要運行 AI，他們將考慮針對 AI 工作負載進行更優化的芯片組，這為 Cerebras、Graphcore、Habana Labs 和 Wave Computing 等新來者提供了一些優勢。”

其他將從這些趨勢中受益的參與者是 IP 內核許可供應商，如 ARM、Cadence 和芯原，他們將負責比以前更多的芯片組開發企業的芯片組設計，Su 說。

邊緣的人工智能

ABI 的第二份報告《Edge AI Chipsets: Technology Outlook and Use Cases》顯示，2018 年邊緣 AI 推理芯片組市場規模為 19 億美元。該報告還確定了一個邊緣訓練市場，令人驚訝的是，該市場位于同年140萬美元。

今天哪些應用程序正在邊緣進行培訓？Su 解釋說，這個數字包括網關（歷史學家或設備集線器）和本地服務器（在私有云中，但地理位置位于生成 AI 數據的位置）。專為在本地服務器上進行訓練任務而設計的芯片組包括 Nvidia 的 DGX、華為的網關和采用 Ascend 910 芯片組的服務器，以及 Cerebras System、Graphcore 和 Habana Labs 等針對本地數據中心的系統級產品。

“這個（邊緣培訓）市場仍然很小，因為云仍然是人工智能培訓的首選地點，”蘇說。

與此同時，邊緣人工智能推理在 2019 年至 2024 年間估計的邊緣人工智能 31% 的復合年增長率占大部分。對于邊緣推理，Su 描述了三個主要市場（智能手機/可穿戴設備、汽車、智能家居/白色家電）以及三個利基市場.

第一個利基市場，機器人技術，通常需要異構計算架構，因為機器人依賴于多種類型的神經網絡，例如用于導航的 SLAM（同時定位和映射）、用于人機界面的對話式 AI 和用于對象檢測的機器視覺等。它們在不同程度上使用 CPU、GPU 和 ASIC。他說，英偉達、英特爾和高通在這一領域競爭激烈。

“第二個利基是智能工業應用，包括制造、智能建筑以及石油和天然氣行業，”他說。“我們看到 FPGA 供應商在這個領域表現出色，不僅是由于傳統設備，還因為 FPGA 的架構，[提供了]靈活性和適應性。”

最后，還有“非常邊緣”，即將超低功耗 AI 芯片組嵌入廣域網上的傳感器和其他小型終端節點的趨勢。鑒于對超低功耗的關注，這一領域由 FPGA 公司、RISC-V 設計和 ASIC 供應商占據。

到目前為止，誰實際上在為邊緣的 AI 推理進行設計？

“令人驚訝或不足為奇的是，由于智能手機的出貨量很大，智能手機 AI ASIC 供應商實際上在邊緣 AI 芯片組市場上處于領先地位，”Su 說。“這指的是蘋果、海思、高通、三星，在較小程度上是指聯發科。但是，如果我們嚴格地談論初創公司，我認為 Hailo、Horizon Robotics 和 Rockchip 似乎在終端設備制造商中獲得了一些動力。”

Su 還表示，軟件對于邊緣 AI 芯片組的商業實施和部署至關重要，將 Nvidia 持續升級其編譯器工具和建立開發者社區的努力與英特爾和賽靈思采取的方法進行了比較，后者是與初創公司合作或收購擁有基于軟件的加速解決方案。

“芯片組公司應考慮向開發人員社區提供工具包和庫，以及開發人員教育計劃、競賽、論壇和會議，因為這些將吸引開發人員與芯片組公司合作并開發相關應用程序。所有這些都是新創業公司不容易實現的，”他說。

該報告得出的結論是，除了為開發者社區提供合適的軟件和支持外，該領域的成功公司還將提供良好的發展路線圖，并得到技術價值鏈的其余部分的支持。他們還需要在各種用例中擴大其芯片的規模，同時保持具有競爭力的價格點。

?

?