近年來(lái)，AI視覺(jué)在邊緣端應(yīng)用廣泛，行業(yè)對(duì)AI推理硬件的要求也日益提升。傳統(tǒng)CPU在CNN等視覺(jué)模型推理任務(wù)中逐漸顯露瓶頸，而專用AI加速器成為破局的關(guān)鍵。

Hailo-8 AI算力加速卡憑借“高效推理、低功耗運(yùn)行”的硬核實(shí)力，為邊緣AI視覺(jué)部署提供了可靠高效的算力支持。

我們收到Hailo-8 AI算力加速卡實(shí)物后，第一時(shí)間基于RK3588評(píng)估板完成適配測(cè)試，解鎖算力新可能！

▍AI視覺(jué)加速利器

Hailo-8 AI算力加速卡具備如下特點(diǎn)：

（1）超強(qiáng)算力：高性能AI架構(gòu)加持，支持INT8，算力高達(dá)26TOPS，輕松應(yīng)對(duì)高負(fù)載AI任務(wù)，尤其擅長(zhǎng)CNN類視覺(jué)模型的高效推理。

（2）高速傳輸：支持PCIe 3.0，4Lane，具備高吞吐量輸入輸出能力，保障任務(wù)流暢運(yùn)行。

（3）廣泛兼容：支持Keras、TensorFlow、TensorFlowLite、PyTorch、ONNX等主流深度學(xué)習(xí)框架。

（4）超低功耗：典型功耗僅2.5W，滿負(fù)荷運(yùn)行最大功耗也僅8.25W，兼顧性能與能效。

（5）輕巧便攜：尺寸僅80*22*4.2mm（不含散熱器），重量約5.9g（不含散熱器），適配各類空間緊湊型設(shè)備。

▍yolov8s實(shí)測(cè)性能亮眼

為驗(yàn)證Hailo-8 AI算力加速卡性能，我們選取yolov8s目標(biāo)檢測(cè)模型開展實(shí)測(cè)，具體數(shù)據(jù)如下：

實(shí)測(cè)結(jié)果顯示，在執(zhí)行高幀率推理任務(wù)時(shí)，Hailo-8使用率較低，性能表現(xiàn)優(yōu)異。

▍軟件生態(tài)完善易用

Hailo-8擁有完善的軟件生態(tài)，提供從模型轉(zhuǎn)換到部署運(yùn)行的全流程工具鏈，降低開發(fā)門檻。

（1）Dataflow Compiler：將深度學(xué)習(xí)模型編譯為HEF模型文件（即Hailo-8兼容的二進(jìn)制模型文件）。

（2）HailoRT：運(yùn)行時(shí)環(huán)境及驅(qū)動(dòng)，用于運(yùn)行神經(jīng)網(wǎng)絡(luò)、與Hailo設(shè)備交互。

（3）Model Zoo：預(yù)訓(xùn)練模型，用于快速測(cè)試和評(píng)估模型。使用Hailo模型庫(kù)，可以測(cè)量每個(gè)模型的全精度準(zhǔn)確率；使用Hailo仿真器（Hailo Emulator）進(jìn)行優(yōu)化后的準(zhǔn)確率，并在Hailo-8設(shè)備上測(cè)量實(shí)際準(zhǔn)確率。

▍場(chǎng)景落地快人一步

Hailo-8 AI算力加速卡引出M.2 Key M接口，可適配創(chuàng)龍科技RK3576、RK3588等工業(yè)單板機(jī)及創(chuàng)龍科技RK3576等工業(yè)評(píng)估板，亦可通過(guò)M.2轉(zhuǎn)PCIe轉(zhuǎn)接板與創(chuàng)龍科技RK3588等工業(yè)評(píng)估板搭配使用。

目前，創(chuàng)龍科技已完成RK3588評(píng)估板 + Hailo-8 AI算力加速卡的適配工作，可提供詳細(xì)測(cè)試步驟文檔。

RK3588負(fù)責(zé)多任務(wù)調(diào)度與復(fù)雜邏輯處理，Hailo-8專注高負(fù)載AI推理，該組合可廣泛應(yīng)用于智能機(jī)器人、工業(yè)視覺(jué)檢測(cè)、輸電線路巡檢、鐵路巡防等場(chǎng)景，為端側(cè)AI部署提供強(qiáng)勁算力支撐。

審核編輯 黃宇