01

應用場景簡介

有邊緣智能需求的大部分客戶已經對AI推理和邊緣計算有一定的了解，都希望可以將邊緣數采和AI推理結合在一起，實現硬件資源的充分利用，完成更高層次的業務結合。

英特爾視頻AI計算盒：

已經興起一段時間，各種業務場景使用的推理模型不計其數，調優和再訓練已經成了當前的熱門工作內容。

邊緣數采：

對傳統的傳感器進行數據收集和處理，已經在各領域應用數十年。

在當前客戶的業務需求下：

活切換推理模型，根據業務需要選擇。

與北向系統對接，完成云/企業服務融合。

如何將邊緣數采和AI推理充分結合，已經破在眉睫，文本提出一種解決方案YiFUSION：將AI推理集成到成熟的邊緣計算框架-EdgeX Foundry中，而從快速實現具備邊緣數采和AI推理功能的邊緣智能融合網關。

02

解決方案系統構架：

本系統設計硬件設計采用英特爾 CPU(iGPU)+GPU[可選] ：CPU必須有，獨立GPU可根據實際需要靈活擴展，如下圖所示：

本系統全部采用Docker微服務運行，具體功能描述如下：

圖例中，①作為AI推理服務器，運行OpenVINO Model Server容器；

圖例中，②作為流媒體服務器，負責流媒體的編解碼，實時查看視頻流，運行億琪軟件產品YiMEDIA，同樣也采用容器運行；

圖例中，③作為邊緣計算，運行EdgeX Foundry容器，負責整個系統的協調和業務驅動；

03

硬件環境

準備一臺可以作為整個系統運行的硬件設備，筆者使用了開頭提到的兩種英特爾開發套件家族里的硬件設備分別進行了測試。

1. 研揚科技哪吒（Nezha）開發套件。作為基礎型驗證或少量攝像頭推理；<100 fps(Frame Per Second) 推理性能；

2. 深圳市鉑盛科技有限公司生產的算力魔方，型號：PZ21_2L2S。桌面型小主機，可帶掛架；作為商業級應用，<10臺攝像頭推理；<200 fps(Frame Per Second) 推理性能。

04

軟件實現

采用Ubuntu 22.04作為Docker宿主主機，并且已經成功完成Docker運行環境的安裝和測試：

基于OpenVINO Model Server提供AI推理服務

采用億琪軟件公司自己的流媒體服務器軟件：YiMEDIA，來實現視頻流的編解碼

使用EdgeX Foundry管理攝像頭和邊緣數據

億琪云接收到的推理結果，如下圖所示：

05

YiFUSION功能全景圖

基于EdgeX和OpenVINO的邊緣融合智能網關YiFUSION具備邊緣計算、智能分析、數據融合等功能的智能網關，能夠在邊緣側實現數據采集、處理、分析、融合和應用，為用戶提供更加智能、高性價比的服務：

06

總結

上海億琪軟件有限公司作為國家級高新技術企業，全球領先的工業物聯網軟件開發商和解決方案提供商，助力企業和組織實現數字化轉型。公司基于EdgeX和OpenVINO 打造的YiFUSION邊緣融合智能網關產品，為工業客戶提供一整套的邊緣計算+AI能力：高性能數據采集、多類型數據融合、AI算法集成、云端業務對接。在邊緣網關的基礎上，集成了IoT平臺的邊緣協同能力、本地Web SCADA和HMI功能、本地數據存儲、邊緣AI視頻分析、行業應用集成等。

審核編輯：劉清