国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA Triton開源推理服務軟件三大功能推動效率提升

NVIDIA英偉達企業解決方案 ? 來源:NVIDIA英偉達企業解決方案 ? 作者:NVIDIA英偉達企業解 ? 2022-01-04 14:20 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

Microsoft Teams借助AI生成的實時字幕和轉錄功能,幫助全球學生和職場人士順利進行在線會議。用于訓練的NVIDIA AI計算技術和用于推理語音識別模型的NVIDIA Triton推理服務器進一步提升了這兩個功能。

Microsoft Teams 是全球溝通和協作的重要工具,每月有近2.5億活躍用戶。Microsoft Azure 認知服務為Teams提供28種語言的字幕和轉錄,并將很快能夠在NVIDIA GPU上運行關鍵的計算密集型神經網絡推理。

實時字幕功能幫助與會者實時跟蹤對話,轉錄功能方便與會者在日后回顧當時的創意或回看未能參與的會議。

實時字幕對聾啞人、聽力障礙者,或者異國與會者特別有用。

NVIDIA Triton開源推理服務軟件能夠幫助Teams使用認知服務優化語音識別模型。

使用Triton,認知服務能夠支持高度先進的語言模型,以極低的延遲實時提供高度準確、個性化的語音轉文本結果。同時,可以保證運行這些語音轉文本模型的NVIDIA GPU充分發揮其潛力,在消耗更少計算資源的同時,為客戶提供更高的吞吐量,進而降低成本。

底層語音識別技術作為認知服務中的一個API,開發人員可以使用它定制和運行自己的應用程序——客服電話轉錄、智能家居控制或為急救人員提供AI助手。

字字達意的AI

認知服務會生成Teams的轉錄和字幕,將語音轉換為文本,并識別說話人。同時也能夠識別專業術語 、姓名和其他會議背景,提高字幕的準確性。

Microsoft Teams的通話、會議及設備首席項目經理Shalendra Chhabra表示:“這樣的AI模型非常復雜,需要數千萬個神經網絡參數才能識別幾十種不同的語言。但模型越大,就越難以經濟高效地實時運行。”

NVIDIA GPU和Triton軟件能夠幫助微軟在不犧牲低延遲的情況下,通過強大的神經網絡,實現高準確性,確保語音-文本的實時轉換。

當啟用轉錄功能時,與會者可以在會議結束后輕松補上錯過的內容。

Triton三大功能推動效率提升

NVIDIA Triton有助于簡化AI模型部署,并解鎖高性能推理。用戶甚至可以為自己的應用開發自定義后端。軟件的一些關鍵功能可將Microsoft Teams的字幕和轉錄功能擴展到更多會議和用戶,包括:

流推理:新型流推理功能——通過跟蹤語音上下語境,提高延遲、敏感性字幕的準確度,它助力NVIDIA和Azure認知服務合作定制語音轉文本的應用程序。

動態合批:批大小指神經網絡同時處理的輸入樣本數量。通過Triton的動態合批,單項推理請求被自動組合成一個批次,因此能夠在不影響模型延遲的情況下更好地利用GPU資源。

并發模型執行:實時字幕和轉錄需要同時運行多個深度學習模型。Triton使開發人員能夠在單個GPU上同時完成這些工作,包括使用不同深度學習框架的模型。

即刻啟程,借助Azure 認知服務,在您的應用中使用語音轉文本的功能,并進一步了解NVIDIA Triton 推理服務軟件如何幫助團隊大規模部署AI模型。

NVIDIA 將參加 CES 2022, 并將在 1 月 5 日凌晨 0 點(北京時間)發表 NVIDIA 特別演講。

NVIDIA GeForce 高級副總裁 Jeff Fisher 和 NVIDIA 汽車部門副總裁兼總經理 Ali Kani 將展示加速計算在設計、仿真、游戲和自動駕駛汽車方面的新突破。掃描下方海報,即刻將該日程添加到日歷!

原文標題:Microsoft Azure 認知服務和NVIDIA AI提升Microsoft Teams實時字幕和轉錄功能

文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5592

    瀏覽量

    109721
  • 功能
    +關注

    關注

    3

    文章

    590

    瀏覽量

    30274
  • 開源
    +關注

    關注

    3

    文章

    4203

    瀏覽量

    46129

原文標題:Microsoft Azure 認知服務和NVIDIA AI提升Microsoft Teams實時字幕和轉錄功能

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    全新軟件與模型優化為NVIDIA DGX Spark注入強大動力

    自發布以來,NVIDIA 通過持續的軟件優化以及與軟件合作伙伴和開源社區的緊密協作,不斷提升基于 Grace Blackwell 架構的 D
    的頭像 發表于 01-09 10:17 ?577次閱讀

    NVIDIA 推出 Alpamayo 系列開源 AI 模型與工具,加速安全可靠的推理型輔助駕駛汽車開發

    新聞摘要 : l NVIDIA 率先發布為應對輔助駕駛長尾場景挑戰而設計的開源視覺-語言-動作推理模型(Reasoning VLA);NVIDIA Alpamayo 系列還包含賦能輔助
    的頭像 發表于 01-06 09:40 ?379次閱讀
    <b class='flag-5'>NVIDIA</b> 推出 Alpamayo 系列<b class='flag-5'>開源</b> AI 模型與工具,加速安全可靠的<b class='flag-5'>推理</b>型輔助駕駛汽車開發

    NVIDIA 收購開源工作負載管理提供商 SchedMD

    軟件的主要開發商,Slurm 是一款用于 HPC 和 AI 的開源工作負載管理系統。此次收購旨在幫助強化開源軟件生態系統,并推動研究人員、
    的頭像 發表于 12-16 18:24 ?1345次閱讀

    NVIDIA推動面向數字與物理AI的開源模型發展

    NVIDIA 發布一系列涵蓋語音、安全與輔助駕駛領域的全新 AI 工具,其中包括面向移動出行領域的行業級開源視覺-語言-動作推理模型(Reasoning VLA) NVIDIA DRI
    的頭像 發表于 12-13 09:50 ?1331次閱讀

    如何在NVIDIA Jetson AGX Thor上通過Docker高效部署vLLM推理服務

    繼系統安裝與環境配置后,本期我們將繼續帶大家深入 NVIDIA Jetson AGX Thor 的開發教程之旅,了解如何在 Jetson AGX Thor 上,通過 Docker 高效部署 vLLM 推理服務
    的頭像 發表于 11-13 14:08 ?4112次閱讀
    如何在<b class='flag-5'>NVIDIA</b> Jetson AGX Thor上通過Docker高效部署vLLM<b class='flag-5'>推理</b><b class='flag-5'>服務</b>

    NVIDIA宣布開源Aerial軟件

    NVIDIA 開源其 Aerial 軟件,并將 NVIDIA Sionna 研究套件和 Aerial 測試平臺引入 NVIDIA DGX S
    的頭像 發表于 11-03 15:14 ?909次閱讀

    NVIDIA TensorRT LLM 1.0推理框架正式上線

    TensorRT LLM 作為 NVIDIA 為大規模 LLM 推理打造的推理框架,核心目標是突破 NVIDIA 平臺上的推理性能瓶頸。為實
    的頭像 發表于 10-21 11:04 ?1166次閱讀

    NVIDIA Nemotron Nano 2推理模型發布

    NVIDIA 正式推出準確、高效的混合 Mamba-Transformer 推理模型系列 NVIDIA Nemotron Nano 2。
    的頭像 發表于 08-27 12:45 ?1778次閱讀
    <b class='flag-5'>NVIDIA</b> Nemotron Nano 2<b class='flag-5'>推理</b>模型發布

    信而泰×DeepSeek:AI推理引擎驅動網絡智能診斷邁向 “自愈”時代

    ,以“全流量采集 + AI根因診斷 + 預測性運維”為核心支柱,推動企業網絡運維模式從傳統的“被動響應”向“主動防御”和“故障自愈”的智能化方向躍遷。 大核心能力:AI推理引擎重塑網絡運維邏輯1.全
    發表于 07-16 15:29

    全球各大品牌利用NVIDIA AI技術提升運營效率

    歐萊雅、LVMH 集團和雀巢利用 NVIDIA 加速的智能體 AI 和物理 AI,大幅提升產品設計、營銷及物流等方面的運營效率
    的頭像 發表于 06-19 14:36 ?1201次閱讀

    使用NVIDIA Triton和TensorRT-LLM部署TTS應用的最佳實踐

    針對基于 Diffusion 和 LLM 類別的 TTS 模型,NVIDIA Triton 和 TensorRT-LLM 方案能顯著提升推理速度。在單張
    的頭像 發表于 06-12 15:37 ?1871次閱讀
    使用<b class='flag-5'>NVIDIA</b> <b class='flag-5'>Triton</b>和TensorRT-LLM部署TTS應用的最佳實踐

    英偉達GTC2025亮點:Oracle與NVIDIA合作助力企業加速代理式AI推理

    Oracle 數據庫與 NVIDIA AI 相集成,使企業能夠更輕松、快捷地采用代理式 AI Oracle 和 NVIDIA 宣布,NVIDIA 加速計算和推理
    的頭像 發表于 03-21 12:01 ?1426次閱讀
    英偉達GTC2025亮點:Oracle與<b class='flag-5'>NVIDIA</b>合作助力企業加速代理式AI<b class='flag-5'>推理</b>

    英偉達GTC25亮點:NVIDIA Dynamo開源庫加速并擴展AI推理模型

    DeepSeek-R1 上的吞吐量提高了 30 倍 NVIDIA 發布了開源推理軟件 NVIDIA Dynamo,旨在以高
    的頭像 發表于 03-20 15:03 ?1231次閱讀

    Oracle 與 NVIDIA 合作助力企業加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速計算和推理軟件與 Oracle 的 AI 基礎設施以及生成式 AI 服務
    發表于 03-19 15:24 ?577次閱讀
    Oracle 與 <b class='flag-5'>NVIDIA</b> 合作助力企業加速代理式 AI <b class='flag-5'>推理</b>

    NVIDIA 推出開放推理 AI 模型系列,助力開發者和企業構建代理式 AI 平臺

    月 18 日 —— ?NVIDIA 今日發布具有推理功能開源 Llama Nemotron 模型系列,旨在為開發者和企業提供業務就緒型基礎,助力構建能夠獨立工作或以團隊形式完成復雜
    發表于 03-19 09:31 ?390次閱讀
    <b class='flag-5'>NVIDIA</b> 推出開放<b class='flag-5'>推理</b> AI 模型系列,助力開發者和企業構建代理式 AI 平臺