在邊緣計算領(lǐng)域，算力與實時性之間的博弈從未停止。近期基于米爾MYD-LR3576 開發(fā)板+PCIe M.2接口Hailo-8算力卡進(jìn)行了一系列深度測試，一組實測數(shù)據(jù)，或許能幫你重新審視邊緣AI的“性能天花板”。

圖：米爾基于RK3576開發(fā)板

一、RK3576 的算力極限在哪里？

RK3576內(nèi)置NPU由2核組成，具備6 TOPS 算力，在常規(guī)輕量級模型推理中表現(xiàn)不俗。但在實際項目中，我們通過多路并發(fā)測試發(fā)現(xiàn)，當(dāng)4路YOLOv5模型同時推理時，NPU負(fù)載率已超過75%。一旦增加到第5路，整體延遲急劇飆升，系統(tǒng)響應(yīng)明顯劣化。

在單路推理場景下，YOLOv5（640×640）耗時約26ms，折算下來僅能穩(wěn)定處理30fps的攝像頭數(shù)據(jù)。

這意味著什么？

當(dāng)攝像頭升級到60fps甚至120fps的高幀率場景時，單靠RK3576的NPU已經(jīng)無法做到逐幀實時處理。要么丟幀，要么延遲不斷累積——這在工業(yè)高速檢測、智慧交通、機(jī)器人導(dǎo)航等對實時性要求嚴(yán)苛的應(yīng)用中，是不可接受的。

二、Hailo-8算力卡介紹

Hailo-8 是一款專為邊緣 AI 推理設(shè)計的專用加速器，擁有26TOPS算力，面向嵌入式設(shè)備和低功耗場景，提供高效、可擴(kuò)展的 AI 計算能力。官方網(wǎng)址：https://hailo.ai/。為什么 Hailo-8 能在相同功耗下實現(xiàn)數(shù)倍于傳統(tǒng) NPU 的性能？答案不在算力數(shù)字，而在架構(gòu)：

1. 數(shù)據(jù)流架構(gòu)（Dataflow Architecture）

傳統(tǒng)NPU像“工廠”從倉庫（DDR）來回搬運數(shù)據(jù)，效率受限于搬運速度。而Hailo-8的數(shù)據(jù)流架構(gòu)讓數(shù)據(jù)在芯片內(nèi)部“流水線式”流動，大幅減少對外部內(nèi)存的依賴。簡單說：算力不再是瓶頸，內(nèi)存帶寬才是——而Hailo-8繞開了這個瓶頸。

2. 無外部 DRAM 依賴

Hailo-8不依賴外部大帶寬內(nèi)存，推理過程中幾乎不與CPU/NPU爭搶DDR資源。在多路視頻并發(fā)場景下，這意味著系統(tǒng)不會因為“搶內(nèi)存”而掉幀，整體穩(wěn)定性大幅提升。

三、實測數(shù)據(jù)：讓性能說話

在相同模型條件下（YOLOv5s）：

在更復(fù)雜模型（YOLOv8s）測試中，Hailo-8算力卡benchmark測試如下：

root@rk3576:~# hailortcli benchmark ./yolov8s.hef
Starting Measurements...
=======Summary=======FPS(hw_only)=208.543(streaming) = 208.1Latency (hw) = 7.03997 msDevice 000000.0: Power in streaming mode (average) = 3.07729 W(max) = 3.13305 W

7毫秒的推理延遲意味著：即使是120fps的高速攝像頭，系統(tǒng)也能輕松應(yīng)對，做到逐幀實時處理。

我們還運行了Hailo-8自帶的攝像頭實時推理示例，效果如下：

四、應(yīng)用場景：當(dāng)實時性成為剛需

這套方案能解決哪些實際問題？我們來看幾個典型場景：

工業(yè)高速視覺檢測：120fps工業(yè)相機(jī)捕捉高速產(chǎn)線上的工件，Hailo-8的8ms推理延遲確保缺陷被實時發(fā)現(xiàn)并剔除，避免漏檢流入下一道工序。

智慧交通卡口：車輛高速通過時，系統(tǒng)需毫秒級完成檢測+識別+跟蹤。208 FPS的吞吐能力讓單節(jié)點可同時處理多模型，不丟車、不漏牌。

安防邊緣節(jié)點：4路以上4K視頻同時分析，Hailo-8的高吞吐讓單節(jié)點覆蓋范圍翻倍，大幅降低每路視頻的硬件成本。

五、總結(jié)：彈性算力，從容應(yīng)對高幀率挑戰(zhàn)

通過以上測試，我們可以清晰地看到：

引入Hailo-8算力卡后，YOLOv5推理時間縮短至8ms，YOLOv8實測達(dá)到208 FPS的吞吐量，不僅輕松覆蓋120fps攝像頭的全幀率推理，更預(yù)留了充足的算力余量。

彈性算力，按需選擇：成本敏感項目可單獨使用RK3576；高幀率、低延遲場景只需增加Hailo-8模塊，無需更換主控。

突破架構(gòu)局限，實現(xiàn)真正實時：Hailo-8的數(shù)據(jù)流架構(gòu)將有效算力利用率提升至80%以上，配合RK3576的PCIe 2.1接口，讓推理延遲從毫秒級壓縮至微秒級。

為未來預(yù)留空間：算法快速迭代的今天，RK3576+Hailo-8的組合為未來兩年的算法升級提供了充足的算力冗余，保護(hù)客戶的硬件投資。

延伸閱讀：如果你想深入了解RK3576的NPU的極致利用技巧，歡迎查閱我們此前的文章：《看過來，RK3576NPU方案你用對了嗎？》