NVIDIA 宣布了 Nsight DL Designer –第一個支持應用內推理的深度神經網絡高效設計的同類集成開發環境。

本 SDK 旨在通過在過程的每個階段提供有效的支持，簡化為應用內推理設計深度神經網絡模型的經常迭代過程。

Nsight DL Designer 是一種基于 GUI 的模型設計工具，具有基于 GPU 指標的集成評測功能。它提供了一種將模型導入 PyTorch 進行培訓的便捷方法。可視化分析模式允許開發人員以交互方式實時深入推理過程，并提供靈活的選項導出最終的推理部署模式。

端到端 Nsight DL Designer 工作流

開發人員首先在 Nsight DL Designer 中設計他們的深層神經網絡模型，使用 NVIDIA 實現的一組內置高級神經網絡層作為 神經推理機。創建模型后，可以進行性能分析，以了解模型是否滿足分配的時間預算。分析可以提前完成，甚至在您花時間培訓網絡之前。

對于培訓階段， Nsight DL Designer 提供了各種 Python 腳本，可以自動將 Nsight DL Designer 模型轉換為 PyTorch 模型，該模型可以輕松添加到培訓循環中。訓練完成后，您可以將學習到的權重數據從模型保存到 NumPy 文件中。您可以返回 DL Designer ，加載權重文件并進入分析模式以檢查推斷結果。分析模式還允許開發人員深入推理過程，直觀地檢查每個推理步驟中發生的事情。此反饋可能會指導開發人員優化其網絡模型，以提高質量和性能。

一旦您對模型的質量和性能都感到滿意，就到了部署的時候了。 Nsight DL Designer 提供了幾種支持部署模型的方法。一種方法是將模型導出為 ONNX 文件。使用 ONNX 文件，您可以在任何運行 ONNX 的平臺上部署您的模型

此版本的主要功能包括：

基于 GUI 的神經推理機模型設計

使用 GPU 度量的推理性能評測

與培訓框架的接口– PyTorch

推理過程的交互式可視化分析

用于部署的自動化模型導出和代碼生成

關于作者

Chaitrali Joshi 是 NVIDIA 的產品營銷經理，專注于電信 5G 系統的設計和開發。她對網絡空間有著深入的了解，是移動通信系統和云棧方面的專家。在英特爾之前，她是一名領導，向開發人員宣傳電信技術和邊緣計算技術。她獲得了加利福尼亞大學計算機科學碩士學位，戴維斯專注于軟件定義的網絡和多址邊緣計算（ MEC ）。

審核編輯：郭婷