人工智能（AI）和機器學習（ML）日新月異，在游戲、人類對話、社交媒體甚至燃油泵方面產生的變化備受關注。如果您回顧一下并站在開發者的角度觀察AI的話，可以看到這一過程中有外因，也有內因，并且外因和內因也在迅速變化當中：

???? 外因：ML兩大組成部分——訓練和推理，直到最近才被安排到云端。移動處理器的計算能力在逐步提升，為邊緣設備（如智能手機和無人機）運行推理工作負載（而非在云端運行）打下基礎。

???? 內因：如今，應用程序是否引人注目取決于用戶體驗。在對自拍進行美顏處理既有吸引力又有樂趣，但是，在云端執行這項工作會造成延遲，從而破壞美好的體驗。如果您不在設備端運行分類和跟蹤之類的工作負載，那么造成的不愉快體驗會讓客戶最終離您而去。

???? ?“推手”：移動處理器（CPU、GPU和DSP）每個核心都有自己的電源/性能配置文件。作為開發者，您可以在邊緣設備（如智能手機）上選擇最有效運行工作負載的時間和方式。

也正是因為如此，Qualcomm Technologies，Inc.（QTI）才推出了Qualcomm? 驍龍?神經處理引擎（NPE）SDK。該SDK已經以限定版本發布了數月，現在更是通過Qualcomm開發者網絡提供給更廣泛的開發者社區。該SDK旨在加速驍龍設備神經網絡處理，方便開發者根據特定的用戶體驗選擇最佳核心：Qualcomm Kryo? CPU、Qualcomm Adreno? GPU或Qualcomm Hexagon? DSP。

具有更高性能和更低功耗的AI

在任何邊緣設備上，AI都是性能和功耗平衡的棘手環節。

比方說，您已經在云端訓練了神經網絡模型。下一步是編寫移動應用，利用模型運行推理，識別面部、跟蹤對象、檢測聲音、理解語言，甚至將貓添加到自拍中。您知道，如果在云端運行這一切的話，造成的延遲會徹底毀了用戶體驗，因此，您編寫應用在設備CPU上運行推理工作負載。但是很快您就會認識到，這樣做的結果是，不但耗電量大，而且性能平平。

?“我想不妨嘗試一下其它核心而不是CPU，”您對自己說。

好主意。Snapdragon處理器上的CPU、GPU和DSP以不同的方式處理工作負載。比如，為獲得最佳功耗/性能特性，語音檢測應用最好在Hexagon DSP上運行，而對象檢測或樣式傳輸應用更適合運行在Adreno GPU上。

我們設計NPE SDK就是為了能夠讓您評估各核心執行模型的效率。然后，決定在哪里運行應用。

改善在Caffe / Caffe2和TensorFlow中訓練的神經網絡模型

QTI專注于兩個開源深度學習框架：分別由Facebook和Google開發和發起的Caffe/Caffe2和TensorFlow。另外，如果您擁有Caffe或TensorFlow不支持的專有或自定義網絡層，可以利用NPE SDK靈活添加。

推理工作負載卸載到正確的核心會帶來哪些好處呢？我們在商用手機上的測試顯示，Adreno? GPU的性能和能效提升了4-5倍，而使用向量擴展（HVX）的Hexagon DSP也提升了2倍。

開發者已經在使用NPE，充分發揮驍龍的性能，提升移動應用體驗。例如，Facebook在其開發者大會F8上宣布，將NPE整合到Facebook應用的相機功能中，加速實現Caffe2支持的AR特性，在拍攝照片和直播視頻時，實現更流暢、無縫且逼真的AR特性應用。

接下來

NPE SDK包括運行時軟件、庫、API、離線模型轉換工具、示例代碼、文檔、調試和基準測試工具。目前，NPE SDK兼容驍820, 835, 625, 626, 650, 652, 653 和 660（Android）和驍龍 625和626（Linux）。

如果您擁有訓練神經網絡模型的資源和專有技術，并且希望搭載驍龍的移動設備或邊緣設備獲得最佳性能和功耗，那么NPE SDK就是最佳選擇。您不需要了解異構計算或成為ML專家，但如果您擁有數據、分析和深度神經網絡訓練的經驗，會讓您受益良多。

關注我和Qualcomm AI團隊發布的文章，了解有關NPE SDK的更多詳細信息：

???? 使用NPE SDK的知名應用

???? 入門方法

???? 改善性能和功耗的技巧

同時，現在就訪問我們的驍龍神經處理引擎頁面，下載SDK。

您還可以注冊參加我們于2017年8月1日上午9點舉辦的驍龍和邊緣AI網絡研討會，了解為什么QTI認為移動設備是實現設備端人工智能體驗的理想平臺。

更多Qualcomm開發內容請詳見：Qualcomm開發者社區。