1.1

什么是 HALCON

MVTec HALCON 是一款在全球范圍內使用，綜合性的機器視覺標準軟件。它有一個專門的集成開發環境（HDevelop），專門用于開發圖像處理解決方案。使用 MVTec HALCON，您可以：

• 受益于靈活的軟件架構

• 加快所有可行的機器視覺應用發展

• 保證快速進入市場

• 持續地降低成本

作為一個綜合工具箱，HALCON 涵蓋了機器視覺應用的整個工作流程。其核心是靈活而強大的圖像處理庫，其中有 2100 多個算子。HALCON 適用于所有行業，并為圖像處理提供卓越性能。

官網鏈接：

https://www.mvtec.com/

圖片引用自：

https://www.mvtec.com/cn/products/HALCON/why-HALCON/compatibility

1.2

什么是OpenVINO

OpenVINO 是一個用于優化和部署人工智能（AI）推理的開源工具平臺。

• 提高計算機視覺、自動語音識別、自然語言處理和其他常見任務的深度學習性能

• 使用經過 TensorFlow、PyTorch 等流行框架訓練的模型

• 減少資源需求，并在從邊緣到云的一系列英特爾平臺上高效部署

1.3

安裝 HALCON 和 OpenVINO

從 21.05 版本開始，HALCON 通過全新 HALCON AI 加速器接口 (AI2)，支持 OpenVINO 工具套件，從而支持 AI 模型在英特爾的硬件設備上實現推理計算加速。

當前 HALCON 的 AI 模型對英特爾的硬件設備支持，如下表所示

要實現使用 HALCON AI 加速器接口在英特爾硬件設備上加速 AI 推理計算，只需要一次安裝 HALCON 和 OpenVINO，然后編寫 HALCON AI 推理程序即可。

1.3.1

安裝 HALCON

官網注冊

登錄 MVTec 官網 HALCON 軟件下載頁面（目前 HALCON 的最新版本是 23.05 Progress）

https://www.mvtec.com/downloads/halcon， 如果沒有注冊過 MVTec 用戶賬號，需要先進行注冊個人或企業賬號。(請注意此處需要使用公司郵箱注冊，qq 郵箱、163 郵箱等私人郵箱會注冊失敗)

下載并解壓

在官網下載完整版的安裝包(需要登陸賬號), 下載 HALCON: MVTec Software^[1]。可以選擇產品的版本和操作系統，此處以 Windows 平臺的 23.05 progress 版本為例。點擊圖中鏈接會自動開始下載，可自行使用工具加速。

下載完成后，解壓縮完成，打開對應的文件夾，點擊 som.exe 文件，啟動 SOM（Software Manager）。

安裝設置

SOM 會使用默認瀏覽器打開安裝界面，如果打開界面后未出現可選安裝項目，建議重啟電腦再次打開 som.exe。

可以點擊“語言” 按鈕切換界面語言，點擊“環境”按鈕修改一些設置，如程序和數據安裝路徑，倉庫地址等等，一般使用默認值最好。

然后選擇“可獲得的”頁面，找到安裝包，點擊“安裝”按鈕， 上方按鈕是為當前用戶安裝，下方是為所有用戶安裝（需要系統管理員權限），一般點選上方按鈕。

設備空間足夠的話（15G 以上），建議右側全選，全部安裝；點擊后等待安裝結束即可。

加載 license 文件

HALCON 軟件的運行還需要對應的 license 加密文件，可以向 MVTec 官方購買正式版或者申請評估。

然后，可以直接在 SOM 界面中加載 license 文件，點擊上圖中的紅色按鈕，可以打開下方界面進行 license 文件的安裝和管理，將 license 文件直接拖入即可。

最后，在 Windows 桌面上找到 HALCON 集成開發環境 HDevelop 軟件圖標，即可正常使用 HALCON。

1.3.2

安裝 OpenVINO 2021.4 LTS

請到 OpenVINO 官網^[2] 下載并安裝OpenVINO 2021.4.2，如下圖所示。

安裝完畢后，請將 OpenVINO 運行時庫的路徑添加到環境變量 path 中。

第一步，運行：

C:Program Files (x86)Intelopenvino_2021.4.752insetupvars.bat
path

獲取 OpenVINO 運行時庫的路徑，如下圖所示：

第二步，將 OpenVINO 運行時庫的路徑添加到環境變量 path 中，如下圖所示：

到此，下載并安裝 OpenVINO，然后 OpenVINO 運行時庫的路徑添加到環境變量 path 中的工作全部完成。

1.4

編寫 HALCON AI 推理程序

1.4.1

HALCON AI 推理程序工作流程

關于 HALCON AI 推理程序工作流程，以 HALCON 的深度學習圖像分類為例，程序代碼為 HALCON 集成開發環境 HDevelop 的開發語言。

1. 讀取已訓練完成的深度學習模型：

* Read in the retrained model.
read_dl_model (RetrainedModelFileName, DLModelHandle)

2. 設置深度學習模型參數：

* Set the batch size.
set_dl_model_param (DLModelHandle, 'batch_size', BatchSizeInference)
* Initialize the model for inference.
set_dl_model_param (DLModelHandle, 'device', DLDevice)

3. 導入數據集預處理的參數：

* Get the parameters used for preprocessing.
read_dict (PreprocessParamFileName, [], [], DLPreprocessParam)

4. 導入推理圖像并生成深度學習樣本：

* Read the images of the batch.
read_image (ImageBatch, Batch)
* Generate the DLSampleBatch.
gen_dl_samples_from_images (ImageBatch, DLSampleBatch)

5. 對深度學習樣本進行預處理以匹配模型：

* Preprocess the DLSampleBatch.
preprocess_dl_samples (DLSampleBatch, DLPreprocessParam)

6. 執行深度學習推理：

* Apply the DL model on the DLSampleBatch.
apply_dl_model (DLModelHandle, DLSampleBatch, [], DLResultBatch)

1.4.2

HALCON AI 加速器接口 (AI2)

MVTec 的OpenVINO工具套件插件基于全新 HALCON AI 加速器接口 (AI2)。通過這一通用接口，客戶可以快速方便地將支持的 AI 加速器硬件用于深度學習應用的推理環節。

這些特殊設備不僅在嵌入式環境中得到廣泛應用，也越來越多地出現在 PC 環境中。AI 加速器接口從特定硬件中抽象出深度學習模型，因而特別能夠適應未來發展。

MVTec 作為機器視覺軟件的技術領導者，其軟件可以在工業物聯網環境中，通過使用 3D 視覺、深度學習和嵌入式視覺等現代技術，實現新的自動化解決方案。

除 MVTec 提供的插件外，還可以集成客戶特定的 AI 加速器硬件。此外，不僅典型深度學習應用可以通過 AI2 加速，所有集成深度學習功能的“經典”機器視覺方法，例如 HALCON 的 Deep OCR，也能從中受益。

1.4.3

HALCON 基于 OpenVINO 的 AI 推理范例程序

本文中，我們使用的是基于 HALCON 的深度學習圖像分類的官方范例程序。

本文中所使用的基于 OpenVINO 的 HALCON 范例代碼已分享到 MVTec 官網，網址為：

https://www.mvtec.com/cn/technologies/deep-learning/ai-accelerator-interface

下載后將該程序保存至 HALCON 范例程序指定的文件路徑中：

%HALCONEXAMPLES%/hdevelop/Deep-Learning/Classification/。

默認情況下，由于推理需要加載已經過訓練的深度學習模型，所以需要使用 HALCON 的開發環境 Hdevelop 依次先運行該路徑下的范例程序，從而可以完成訓練并保存模型：

• classify_pill_defects_deep_learning_1_preprocess.hdev

• classify_pill_defects_deep_learning_2_train.hdev

接著打開下載的范例并運行（或按 F5），首先需要查詢 HALCON 所支持的 OpenVINO 設備：

* This example needs the HALCON AI2-interface for the Intel Distribution of the OpenVINO Toolkit * and a installed version of the Intel Distribution of the OpenVINO Toolkit.
query_available_dl_devices ('ai_accelerator_interface', 'openvino', DLDeviceHandlesOpenVINO)

之后，繼續執行程序，在可視化界面會依次顯示所有查詢到的 OpenVINO 設備信息，包括本文所需使用的英特爾 Arc A770 獨立顯卡，這里我們看到支持的推理精度有 FP32 和 FP16，如下所示。

然后，需要選擇 OpenVINO 設備，目前 HALCON AI2 接口所支持的 OpenVINO 設備包括英特爾的 CPU，GPU，HDDL 以及 MYRIAD。在安裝 HALCON 時，只內置安裝了 CPU 插件，需要額外安裝 OpenVINO 工具套件來支持 GPU 等其他設備，具體安裝參考章節 1.3.2。這里我們指定 OpenVINO 運行設備為“GPU”，即英特爾的獨立顯卡。

* The device parameter 'type' can be used for further selection.
* It states the OpenVINO plugin responsible for handling the
* device. Depending on your OpenVINO installation, possible values
* are e.g. 'CPU', 'GPU', 'HDDL', and 'MYRIAD'. If you did not install
* OpenVINO, HALCON will install the 'CPU' plugin.
OpenVINODeviceType := 'GPU'

繼續運行程序，會針對 GPU 的不同浮點精度做推理優化，得到經過 OpenVINO 加速優化的推理模型。

* To convert the model to 'float16'/'float32' precision, no samples have to be provided to
* optimize_dl_model_for_inference.
* No additional conversion parameters are required, so use the default parameters.
get_dl_device_param (DLDeviceHandleOpenVINO, 'optimize_for_inference_params', OptimizeForInferenceParams)
optimize_dl_model_for_inference (DLModelHandle, DLDeviceHandleOpenVINO, 'float32', [], OptimizeForInferenceParams, DLModelHandleOpenVINO, ConversionReport)

在可視化窗口會展示 CPU 和 GPU 分別在 FP32 和 FP16 下的性能比對，包括推理時間和 Top-1 錯誤率。

至此，OpenVINO 的配置測試已基本完成，接著就是執行深度學習的推理，在可視化窗口里可以看到對于推理步驟的圖示和文字解釋，其中會再次展示所使用的推理設備，即英特爾的獨立顯卡信息。

推理的工作流程可以參考 1.4.1 章節，在執行推理的同時，可以打開任務管理器，觀察英特爾獨立顯卡的運行狀態。范例中，默認使用 FP16 精度加速推理，也可以根據具體需要切換成 FP32 精度進行對比測試。

1.5

總結

MVTec HALCON AI 加速器接口（AI2）可幫助 MVTec 軟件產品用戶充分利用與 OpenVINO 工具套件兼容的 AI 加速器硬件。如此一來，對于關鍵工作負載，可以在英特爾計算設備（包括 CPU、GPU 和 VPU）上明顯縮短深度學習推理時間。

由于支持硬件范圍得到擴展，用戶現在可以充分利用各種英特爾設備的性能來加速深度學習應用，不再局限于少數特定設備。同時，這種集成可以無縫進行，不受特定硬件細節約束。現在只需更改參數，即可在 OpenVINO工具套件支持的設備上執行現有深度學習應用的推理過程。