金秋已至。伴著涼爽的秋風(fēng)一起到來(lái)的，還有 OpenVINO 工具套件剛剛推出的最新版本 OpenVINO 2022.2。除了能支持英特爾今年新推出的一系列獨(dú)立顯卡進(jìn)行 AI 模型的推理加速及部署外，2022.2的新版本中還有哪些亮眼的新特性呢？讓我們一起來(lái)看看吧。

01

更廣泛的模型和硬件支持

新增包括英特爾獨(dú)立顯卡等的硬件支持，并減少動(dòng)態(tài)輸入時(shí)的內(nèi)存消耗、提升 NLP 應(yīng)用效率。

02

更好的性能及可移植性

通過(guò)跨 CPU、GPU 等的自動(dòng)設(shè)備發(fā)現(xiàn)（automatic device discovery）功能、負(fù)載平衡和動(dòng)態(tài)推理并行，立即提高性能。

03

更多的集成

與深度學(xué)習(xí)框架實(shí)現(xiàn)更好的集成，以最少的代碼更改，更好地與框架保持一致。

下面讓我們一起來(lái)詳細(xì)了解一下這些主要的新特性。

01

更廣泛的模型和硬件支持

OpenVINO 2022.2 新版本提供了更廣法的模型和硬件支持，包括：

01

新增：支持英特爾 第13代酷睿 臺(tái)式機(jī)處理器（代號(hào)為 Raptor Lake）；

02

新增：支持用于深度學(xué)習(xí)推理工作負(fù)載的獨(dú)立顯卡，包括英特爾 數(shù)據(jù)中心 GPU Flex 系列和英特爾 Arc，可用于智能云、邊緣和媒體分析工作負(fù)載；

03

新增：對(duì)第四代英特爾 至強(qiáng) 可擴(kuò)展處理器（代號(hào)為Sapphire Rapids）的預(yù)覽支持，測(cè)試您的模型性能；

04

優(yōu)化減少動(dòng)態(tài)輸入時(shí) CPU 的內(nèi)存消耗，從而更高效支持自然語(yǔ)言處理（NLP）的應(yīng)用。

02

更好的性能及可移植性

通過(guò)跨 CPU、GPU 等的自動(dòng)設(shè)備發(fā)現(xiàn)、負(fù)載平衡和動(dòng)態(tài)推理并行性，立即看到性能提升。

01

新增：在 AUTO 功能中引入新的性能傾向選擇“Cumulative

throughput”，使多個(gè)加速器（例如多個(gè) GPU）可被添加到 AUTO 的自動(dòng)發(fā)現(xiàn)、配置的基本功能中，能夠被同時(shí)使用，以最大限度地提高推理性能。

02

推出英特爾 FPGA AI Suite，在這個(gè)易于使用的軟件包中實(shí)現(xiàn)實(shí)時(shí)、低延遲和低功耗的深度學(xué)習(xí)推理。

03

更多的集成

面向尚未安裝本機(jī) OpenVINO 工具套件的用戶，提供了更多的與深度學(xué)習(xí)框架的集成，使得開(kāi)發(fā)者使用和維護(hù)代碼更加簡(jiǎn)單方便，同時(shí)保持更新時(shí)需要修改的代碼最少。

01

最近更新的 OpenVINO Execution Provider for ONNX Runtime 通過(guò)輕松添加 OpenVINO，為 ONNX 運(yùn)行時(shí)開(kāi)發(fā)人員提供了更多性能優(yōu)化選擇。

02

新增：通過(guò) OpenVINO 與 PyTorch ONNX Runtime 的融合（OpenVINO Torch-ORT），加速 PyTorch 模型推理?，F(xiàn)在，PyTorch 開(kāi)發(fā)人員可以更無(wú)縫地與 OpenVINO 集成，并通過(guò)更少的代碼更改獲得性能提升。OpenVINO 與 TensorFlow 的集成現(xiàn)在支持更深入的學(xué)習(xí)模型和改進(jìn)的推理性能。

03

OpenVINO 與 TensorFlow 的集成現(xiàn)在支持更深入的學(xué)習(xí)模型和改進(jìn)的推理性能。

以上就是OpenVINO 2022.2新版本的主要新特性介紹，除此之外，新版本中還增加了一些新的算子的支持，增加了對(duì)集成顯卡的優(yōu)化等等。