隨著聯發科在MWC推出首款導入人工智能技術的中階旗艦處理器Helio P60，智能手機市場競爭焦點開始轉向移動AI。各家芯片供應商競相將神經網絡引擎用于手持設備，以啟動語音UI、人臉辨識解鎖與AR等人工智能體驗…

盡管蘋果(Apple)和三星(Samsung)都擁有自主開發的應用處理器，在高端的智能手機市場形成一定的門坎；但是，聯發科技(MediaTek)最近在全球移動通信大會(MWC)上推出最新的曦力(Helio) P60芯片組，期望藉由移動AI應用重振其智能手機市場。

聯發科的計劃是重新進軍直接與高通展開競爭的中、高階智能手機市場。聯發科將Helio P60視為“首款內建多核心人工智能(AI)處理器(移動APU)和聯發科NeuroPilot AI技術的新一代智能手機SoC平臺。”

此舉突顯了智能手機市場競爭焦點的重大轉變——開始轉移至移動AI。各家芯片供應商正競相將神經網絡引擎用于手持設備上。他們的目標很簡單，希望啟用人工智能體驗——語音用戶接口(UI)、人臉解鎖、增強現實(AR)等——在客戶端設備上處理得更快、更好，無論有沒有網絡連接。

The Linley Group資深分析師Mike Demler說：“光是去年我們就看到第一批搭載嵌入式神經引擎的智能手機處理器，這些幾乎都是旗艦級的處理器，例如Apple All、華為麒麟(Huawei) Kirin 970、高通(Qualcomm)驍龍(Snapdragon) 835以及聯發科的Helio X30等。”Demler表示：“聯發科將在更低層添加神經引擎的作法并不令人意外，但有意思的是，他們打算采用較其旗艦產品X30更強大的核心來實現。”

換句話說，一個主要由中國手機制造商推動的中階智能手機供應商社群，開始顯得蠢蠢欲動。他們盡快出擊移動AI市場。

聯發科將其所謂的“新高階”(new premium)定義為“以中等價格提供優質性能與特性的設備”。聯發科全球銷售總經理Finbarr Moynihan解釋：“這是當今智能手機的動向，包括Oppo、Vivo與聯想(Lenovo)等中到高階業者都渴望能地縮小其與頂級競爭對手的差距，希望在應用程序(app)、特性與AI方面取得重大進展。”

聯發科指出，2017年全球智能手機出貨量的48%來自中國OEM，主要針對新興市場。聯發科引用TrendForce的報告指出，2017年中階消費品牌大幅成長，小米(Xiaomi)智能手機的產量增幅高達76%，而Transsion、OPPO和Vivo也有顯著的成長。Helio P60在八核心CPU中配備4個Arm A73處理器和4個Arm A53處理器。聯發科聲稱，由于采用big.LITTLE八核心設計，Helio P60的CPU性能較其前代產品Helio P23和Hleio P30提升了70%。藉由使用最高800MHz的新型Mali G72 GPU，P60還可將GPU性能提高70%。

神經網絡引擎

然而，Helio P60之所以特別之處在于其內建NeuroPilot AI平臺，橋接CPU、GPU與板載AI加速器。聯發科的AI架構藉由在SoC中協調CPU、GPU與AI加速器之間的運算負載，以管理異質的AI運算架構，并使得性能與能效最大化。

聯發科并證實，P60的AI加速器中整合了Cadence Vision P6核心。

Cadence Vision P6（來源：Cadence）

相較于聯發科技旗艦級Helio X30——采用Cadence Vision P5實現每秒70 GMAC的高性能，Helio P60每秒可處理280 GMAC。Demler表示：“因此，P60的整體處理器性能僅降低一個等級，神經引擎性能則提高了4倍。”相較于Helio P60神經網絡引擎的性能，Demler說：“華為麒麟970可達到?1 TMAC/s(FP16)，因而能以更高分辨率實現較P60更高4倍的神經網絡性能。在280 GMAC/s時，P60可媲美Apple A11的300GMAC/s性能。”

缺乏AI基準

然而，我們所咨詢的大多數分析師都同意，由于缺乏深度學習加速器的基準，在進行比較時幾乎沒有什么意義。Demler稱此為“一個重大的開放問題”，并指稱這一移動AI的困境讓我們很容易就陷入“GOPS/TOPS的市場炒作之戰”。Tirias Research首席分析師Jim McGregor表示贊同。他說：“這是一個令人困惑的話題，因為目前并沒有什么細節和基準可參考。聯發科和其他公司使得這些AI解決方案聽起來就像可以完成任何事情一樣，但這一切通常并不真實。”

例如，Demler說，聯發科P60中使用的Cadence Vision P6核心的優化主要針對計算機視覺應用，而非通用神經網絡。

McGregor解釋，“首先，你必須了解大多數的AI處理器，例如聯發科、Apple和華為稱其解決方案為'專用'的意思——這意味著他們使用單個IP區塊進行AI加速。在大多數情況下，這表示從Cadence或Ceva等其他業者取得授權的IP區塊。” McGregor指出，這種IP區塊“支持有限的可配置神經網絡”，但是“沒人會確切地說出這些限制是什么。”因此，很顯然地，在應用處理器內部放置神經網絡引擎并不是最后的任務。McGregor指出，開發和訓練新的神經網絡，仍然需要在數據中心進行，他們必須依賴更多高精確度、強大的訓練處理器。

如果應用開發人員和OEM要利用智能手機應用程序處理器內部的神經引擎，他們就需要一個連接至底層硬件的軟件架構。根據Demler的觀察，“所有主要的移動處理器設計商(高通、聯發科、華為、Apple)都提供神經網絡SDK。”但他們都需要支持像Caffe和Torch這樣的廣泛訓練架構。

以聯發科而言，Moynihan指出，該公司提供了NeuroPilot AI SDK架構，能讓App開發人員和OEM“直接下探至硬件，看看AI軟件如何在CPU、GPU和專用AI加速器上運行”。同時，隨著Google為Android機器學習開發了Android NNAPI和運行引擎，App開發人員和OEM也需要能夠“查找并察看Android Networks API (Android NNAPI)所說的內容，”Moynihan補充說，“聯發科的NeuroPilot SDK完全符合Android NNAPI。”

Android Neural Networks API系統架構（來源：Google）

在部署讓智能手機處理器執行AI應用程序的各種方法中，高通似乎采取了一個稍微不同的方法。McGregor說，高通的解決方案很不一樣，因為“他們采用已經用于芯片上的多種資源，包括Hexagon DSP、Adreno GPU和Kryo CPU核心。”不過他也補充說：“由于沒有可用的基準，就很難確定哪一種方法比較好，但高通的架構模式確實提供了更大的靈活性。”

AI軟件之爭

無論底層硬件如何，這些軟件最終都能真正區分在任何智能手機上的AI體驗。

McGregor說：“現在，這些應用針對的是手機上的常見功能，例如攝影和數字助理。然而，通常由第三方軟件開發人員來開發和訓練模型供設備使用。”他指出，“在有限的情況下，有些模型或工具庫可用。高通以影像辨識為基礎，開發了一些工具庫，三星則著重于攝影技術，Apple預計也在開發自家的模型。”

其他情況則取決于應用程序開發人員，但這存在明顯的限制，McGregor說：“許多應用開發人員并不習慣深度學習，或者無法存取深度學習所需的大型數據中心。”The Linley Group的Demler則在最近的《微處理器報告》(Microprocessor Report)中對于AI軟件的開發提出了警告。“處理器架構的多樣性為Android App開發人員帶來了挑戰，因為即使是在缺乏專用深度學習加速器的設備上，這些App也必須能夠工作。”另一方面，他指出iOS App的開發人員只需要支持一些專為Apple設計的處理器。

同樣地，Tirias Research首席分析師Kevin Krewell警告道：“我看到最大的問題是每家芯片和IP供應商都以不同的方式耕耘機器學習領域。但Arm可能擁有最佳機會，能在一個IP上為多家供應商提供標準化。”