Vitis AI：從邊緣到云的最佳人工智能推斷

Vitis AI 開發環境是 Xilinx 的開發平臺，適用于在 Xilinx 硬件平臺（包括邊緣器件和 Alveo 卡）上進行人工智能推斷。它由優化的 IP、工具、庫、模型和示例設計組成。Vitis AI 以高效易用為設計理念，可在 Xilinx FPGA 和 ACAP 上充分發揮人工智能加速的潛力。

全新 1.2 版本新增了以下功能：

Vitis AI 量化器和 DNNDK 運行時開源

AI Model Zoo 中添加了 14 個新參考模型（Pytorch, Caffe, Tensorflow）

Vitis AI 量化器支持優化的模型（剪枝）

更新了 DPU 命名規則，以在所有配置中保持一致

推出面向邊緣和云的 Vitis AI Profiler

ONNXRuntime 和 TVM 支持 Vitis AI

新增了對 Alveo U50/U50LV 和 U280 的支持

Alveo U50/U50LV DPU DPUCAHX8H 微架構改進

升級 DPU TRD，以支持 Vitis 2020.1 和 Vivado 2020.1

Vitis AI 支持 Pytorch CNN 通用訪問（測試版）

Vitis AI 平臺的介紹

◆◆AI 優化器◆◆

有了世界領先的模型壓縮技術，我們可以在對精度影響極小的情況下，將模型的復雜性降低 5 至 50 倍。深度壓縮可將您的 AI 推斷性能提升到一個新的層次。

◆◆AI 量化器◆◆

通過將 32 位浮點權值和激活量轉換為 INT8 這樣的定點，AI 量化器可在不影響預測精度的情況下，降低計算復雜度。定點網絡模型需要的內存帶寬更少，因此比浮點網絡模型速度更快，電源效率更高。

◆◆AI 編譯器◆◆

將 AI 模型映射至高效指令集及數據流。還可執行高級優化任務，如層融合和指令排程等，并可盡量重復使用片上內存。

◆◆AI 配置器◆◆

性能分析器有助于程序員深入分析 AI 推斷實現方案的效率和利用率。

◆◆AI 庫◆◆

該運行時提供一系列輕量級 C++ 及 Python API，其可實現便捷的應用開發。此外，它還提供高效的任務調度、內存管理和中斷處理。