深度解析華為NPU/GPU技術演進與進階

01 術? 語

CPU/GPU/NPU 等等都是硬件芯片，簡單來說，晶體管既可以用來實現邏輯控制單元，也可以用來實現運算單元（算力）。在芯片總面積一定的情況下，就看控制和算力怎么分。 ?

CPU：通用目的處理器，重邏輯控制；

GPU：通用目的并行處理器（GPGPU），圖形處理器；

NPU：專用處理器，相比 CPU/GPU，擅長執(zhí)行更具體的計算任務。

CPU

大部分芯片面積都用在了邏輯單元，因此邏輯控制能力強，算力弱（相對）。 ?

GPU

大部分芯片面積用在了計算單元，因此并行計算能力強，但邏輯控制弱。適合圖像渲染、矩陣計算之類的并行計算場景。作為協處理器，需要在 CPU 的指揮下工作。

Image Source [8] ?

NPU / TPU

也是協處理器。在 wikipedia 中沒有專門的 NPU (Neural Processing Unit) 頁面，而是歸到 AI Processors 大類里面，指的是一類特殊目的硬件加速器，更接近 ASIC，硬件實現神經網絡運算，比如張量運算、卷積、點積、激活函數、多維矩陣運算等等[7]。 ? 如果還不清楚什么是神經網絡，可以看看?以圖像識別為例，關于卷積神經網絡（CNN）的直觀解釋（2016）。 ? 在這些特殊任務上，比 CPU/GPU 這種通用處理器效率更高，功耗更小，響應更快?（比如一個時鐘周期內可以完成幾十萬個乘法運算），因此適合用在手機、邊緣計算、物聯網等等場景。 ? TPU：這里特制 Google 的 Tensor Processing Unit，目的跟 NPU 差不多。[11] 對 TPU 和 GPU 的使用場景區(qū)別有一個非常形象的比喻： ? 如果外面下雨了，你其實并不需要知道每秒到底有多少滴雨，而只要知道雨是大還是小。與此類似，神經網絡通常不需要 16/32bit 浮點數做精確計算，可能 8bit 整型預測的精度就足以滿足需求了。

Floor Plan of Google TPU die(yellow = compute, blue = data, green = I/O, red = control) [11] ?

小? 結

GPU 已經從最初的圖像渲染和通用并行計算，逐步引入越來越多的神經網絡功能（比如 Tensor Cores、Transformer）；另一方面，NPU 也在神經網絡的基礎上，開始引入越來越強大的通用計算功能，所以這倆有雙向奔赴的趨勢。 ? ? 02 華為 DaVinci 架構：一種方案覆蓋所有算力場景

場景、算力需求和解決方案

不同算力場景下，算力需求（TFLOPS）和內存大?。℅B）的對應關系 [1]

華為的解決方案：一種架構（DaVinci），覆蓋所有場景?[1] ? 用在幾個不同產品方向上，手機處理器，自動駕駛芯片等等，專門的 AI 處理器，使用場景類似于 GPU。 ?

Ascend NPU 設計

2017 年發(fā)布了自己的 NPU 架構，[2] 詳細介紹了 DaVinci 架構的設計。除了支持傳統(tǒng)標量運算、矢量運行，還引入了 3D Cube 來加速矩陣運算。 ?

Image Source [2] ? 單位芯片面積或者單位功耗下，性能比 CPU/GPU 大幅提升：

Image Source [2] ? 下面看看實際使用場景和產品系列。 ? ? 03 路線一：NPU 用在手機芯片（Mobile AP SoC） ? 現代手機芯片不再是單功能處理器，而是集成了多種芯片的一個片上系統(tǒng)（SoC），華為 NPU 芯片就集成到麒麟手機芯片內部，隨著華為 Mate 系列高端手機迭代。

Image Source [7] ? 比如，一些典型的功能劃分 [7]： ?

CPU 主處理器，運行 app；

GPU 渲染、游戲等；

NPU 圖像識別、AI 應用加速。

Mate 系列手機基本上是跟 Kirin 系列芯片一起成長的，早期的手機不是叫 “Mate XX”，而是 “Ascend Mate XX”，從中也可以看出跟昇騰（Ascend）的淵源。 ?

Kirin 970，2017, Mate 10 系列手機

據稱是第一個手機內置的 AI 處理器（NPU）[3]。在 AI 任務上（比如手機上輸入文字搜圖片，涉及大批量圖片識別）比 CPU 快 25~50 倍。 ?

10nm，臺積電代工

CPU 8-core with a clockspeed of uP to 2.4GHz i.e. 4 x Cortex A73 at 2.4GHz + 4 x Cortex 53 at 1.8GHz

GPU?12-core Mali G72MP12 ARM GPU

NPU?1.92 TFLOPs FP16

Kirin 990 5G，2019, Mate 30 系列手機

Kirin 990 包含了 D-lite 版本的 NPU [1]：

World’s st 5G SoC Poweed by 7nm+ EUV

World’s 1st 5G NSA & SA Flagship SoC

Wolrd’s 1st 16-Core Mali-G76?GPU

World’s 1st Big-Tiny Core Architechture?NPU

麒麟 990 5G 芯片邏輯拓撲 [1] ? 一些硬件參數 [1,4]：

臺積電?7nm+?工藝

CPU 8-Core

NPU?2+1 Core

GPU?16-core Mali-G76（ARM GPU）

GPU?16-core Mali-G76 (ARM GPU)

NPU

——HUAWEI Da Vinci Architecture, ——2x Ascend Lite + 1x Ascend Tiny

2G/3G/4G/5G Modem

LPDDR 4X

4K HDR Video

Kirin 9000 5G，2020，Mate 40 系列手機

Image Source ?

臺積電?5nm?工藝

GPU 24-core Mali-G78, Kirin Gaming+ 3.0

NPU

——HUAWEI?Da Vinci Architecture 2.0?第二代架構 ——2x Ascend Lite + 1x Ascend Tiny ? 這個是臺積電 5nm 工藝 [5]，然后就被***了。所以 Mate 50 系列用的高通處理器，Mate 60 系列重新回歸麒麟處理器。 ?

Kirin 9000s，2023，Mate 60 系列手機

王者低調回歸，官網沒有資料。 ? 據各路媒體分析，是中芯國際 7+nm 工藝，比上一代 9000 落后一些，畢竟制程有差距，看看國外媒體的副標題 [6]： ? It's tough to beat a 5nm processor with a 7nm chip. ? Wikipedia 提供的參數 [10]：

SMIC 7nm FinFET

CPU HiSilicon Taishan microarchitecture Cortex-A510

GPU Maleoon 910 MP4

NPU 有，但是沒提

小? 結

手機芯片系列先到這里，接下來看看作為獨立卡使用的 NPU 系列。 ? ? 04 路線二：NPU 用作推理/訓練芯片（Ascend AI Processor）