SoC 設計與應用技術領導廠商Socionext Inc.（以下“公司”）宣布成功發開一款集成有量化深度神經網絡（DNN）技術的原型芯片，可為小型、低功耗邊緣計算設備提供先進的AI處理。

受日本新能源與產業技術綜合開發機構（NEDO）委托，Socionext參與了以《先進的低功耗AI-Edge LSI技術開發》為課題的項目研究，成功完成了結合量化DNN技術的芯片測試，并確認了其運行和性能。該測試芯片搭載有“量化DNN引擎”，能以高速、低功耗執行深度學習推理處理。

目前，基于通用GPU的邊緣計算處理器無法滿足日益增長的人工智能處理需求。以搭載有圖像識別和分析功能的邊緣計算設備為例，其系統功耗和發熱量與通用GPU相比有明顯增加，不得不通過提升成本擴容設備等方式滿足AI處理需求。

量化DNN引擎

為提高AI處理性能并減少系統功耗，Socionext開發了一款采用“量化DNN技術”的專有體系架構，它減少了深度學習所需的參數和激活位。該體系架構將1-bit （binary）、2-bit （ternary） 低比特率技術、傳統8-bit技術及公司獨創的參數壓縮技術結合，以較少的計算資源執行大量計算處理，并減少數據量。

除此以外，Socionext還開發了一種新穎的片上存儲技術，可提供高效的數據傳輸，從而減少深度學習通常所需的大容量片上或外部存儲器。

通過結合上述新技術，Socionext將AI芯片及“DNN引擎”原型化，并確認了其功能和性能。 原型化芯片通過“YOLO v3”以不到5W的低功耗及30fps的速度實現了目標檢測，其效率是通用GPU的10倍。 此外，該芯片還配備了高性能、低功耗的Arm Cortex-A系列CPU，無需外部處理器即可以單芯片執行整個AI處理。

深度學習軟件開發環境

除硬件開發外，Socionext還構建了深度學習軟件開發環境，通過結合TensorFlow作為基本框架，允許開發人員用原始低bit位進行量化感知訓練（Quantization Aware Training）和訓練后量化（Post Training Quantization）。 開發新芯片時，用戶可以選擇最佳量化技術并將其應用于各種神經網絡中執行高精度處理，例如在小型低功耗邊緣設備上增設最先進的計算機視覺功能，應用于高級駕駛員輔助系統（ADAS）、監控攝像頭和工廠自動化等場景。

Socionext目前正在通過對該原型芯片進行評估進一步調整電路優化其性能。公司將繼續與合作伙伴一起共同開發并交付AI-Edge LSI最終產品，完成NEDO的委托項目。