NVIDIA Riva 可提供經(jīng)過全面優(yōu)化的流程,用于部署實時 AI 語音應用(例如轉錄和虛擬助理)。
什么是NVIDIA Riva
NVIDIA Riva是用于開發(fā)語音 AI 應用程序的 GPU 加速 SDK。Riva 旨在幫助您輕松快速地訪問對話 AI 功能。只需幾個命令,您就可以通過 API 操作訪問高性能服務并嘗試演示。
Riva SDK 包括預訓練的語音 AI 模型,用于在自定義數(shù)據(jù)集上對這些模型進行微調的 NVIDIA TAO 工具套件,以及用于自動語音識別和語音合成的優(yōu)化端到端技能。
使用 Riva,您可以輕松地對數(shù)據(jù)上的最新模型進行微調,以實現(xiàn)對其特定背景進行更深入的理解。優(yōu)化推理,以提供運行時間為 150 毫秒(ms)的實時服務,而在僅有 CPU 的平臺上則需要運行 25 秒。
特定任務的 AI 服務和 gRPC 端點提供開箱即用的高性能 ASR 和 TTS。這些 AI 服務經(jīng)過數(shù)千小時的公共和內部數(shù)據(jù)集的訓練,以達到高精確度。您可以開始使用預先訓練的模型,或者使用您自己的數(shù)據(jù)集對其進行微調,以進一步提高模型性能。
Riva 使用 NVIDIATriton Inference Server 為多個模型提供服務,以實現(xiàn)高效、穩(wěn)健的資源分配,并在高吞吐量、低延遲和高精確度方面實現(xiàn)高性能。
NVIDIA Riva 2.0功能亮點
出色的自動語音識別(ASR)和文字轉語音(TTS)模型
除英語外,還支持西班牙語、德語和俄語
具有精細控制以實現(xiàn)語言表達的實時文本轉語音流程
借助 NVIDIA TAO 工具套件輕松地針對自定義數(shù)據(jù)進行調優(yōu)
能夠擴展到成百上千個實時串流
使用單個命令部署服務的端到端工作流程和工具
Riva開發(fā)者入門套件
使用 NVIDIA Riva 開發(fā)語音 AI 所需的各種套件,包括教程、Jupyter Notebook 和文檔。點擊閱讀原文,開始使用 Riva 開發(fā)者入門套件并了解相關內容。
自動語音識別
Riva ASR 視頻入門
關于訓練和部署的博客
聯(lián)系中心示例應用
用于微調 ASR 模型的 Jupyter Notebook
ASR 文檔
文字轉語音
虛擬助理示例
含 RASA 教程的虛擬助手
設置 TTS 服務示例
使用 SSML 自定義 TTS 示例
TTS 文檔
搶先體驗版中已可使用Riva定制錄音機
Riva 定制錄音機是一款采用 Riva 文本轉語音流程的工具,用于開發(fā) AI 語音克隆。
點擊閱讀原文,了解更多 NVIDIA Riva 入門及相關更新內容
NVIDIA 深度學習培訓中心
NVIDIA 深度學習培訓中心還推出了NVIDIA Riva相關免費課程,您可以復制鏈接查看課程詳情。
使用 Riva 部署文本分類模型
您將學習如何使用 Riva ServiceMaker 框架部署文本分類模型。將 Riva 部署所需的所有組件聚合到目標部署環(huán)境的過程是快速而直接的。當模型部署在 Riva 中以后,您就可以向服務器發(fā)出推理請求。
原文標題:DevZone | NVIDIA Riva入門
文章出處:【微信公眾號:NVIDIA英偉達企業(yè)解決方案】歡迎添加關注!文章轉載請注明出處。
審核編輯:湯梓紅
-
NVIDIA
+關注
關注
14文章
5594瀏覽量
109740 -
gpu
+關注
關注
28文章
5194瀏覽量
135455 -
AI
+關注
關注
91文章
39793瀏覽量
301412
原文標題:DevZone | NVIDIA Riva入門
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業(yè)解決方案】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
SmartBug2.0用戶指南:硬件特性、連接方式及應用詳解
SmartBug2.0 用戶指南:硬件連接、功能使用與數(shù)據(jù)處理全解析
NVIDIA RTX PRO 4500 Blackwell GPU測試分析
NVIDIA Omniverse Extension開發(fā)秘籍
NVIDIA全棧加速代理式AI應用落地
NVIDIA DOCA 3.0版本的亮點解析
NVIDIA Isaac Sim 4.5.0與lsaac Lab 2.0的安裝教程
NVIDIA Isaac Sim與NVIDIA Isaac Lab的更新
NVIDIA實現(xiàn)神經(jīng)網(wǎng)絡渲染技術的突破性增強功能
NVIDIA虛擬GPU 18.0版本的亮點
英偉達GTC2025亮點:Oracle與NVIDIA合作助力企業(yè)加速代理式AI推理
NVIDIA GTC2025 亮點 NVIDIA推出 DGX Spark個人AI計算機
NVIDIA Riva 2.0的功能亮點有哪些
評論