案例簡介

本案例中，Pantheon Lab（萬想科技）專注于數(shù)字人技術(shù)解決方案，通過 NVIDIA 技術(shù)實(shí)現(xiàn)數(shù)字人實(shí)時對話與客戶互動交流。借助 NVIDIA GPU、NVIDIA TensorRT、NVIDIA Triton，Pantheon Lab 訓(xùn)練速度提高 10 倍、推理延遲降低 50%，以及用戶參與度提升 30%。這些進(jìn)步使對話式 AI 能夠提供實(shí)時且真實(shí)的互動，使 Pantheon Lab 在數(shù)字人技術(shù)不斷革新。

本案例主要應(yīng)用到NVIDIA GPU、NVIDIA TensorRT、NVIDIA Triton。

利用 NVIDIA 技術(shù)

打造高效數(shù)字人交互解決方案

Pantheon Lab 利用 NVIDIA 的先進(jìn)基礎(chǔ)設(shè)施，為企業(yè)提供高質(zhì)量的實(shí)時數(shù)字人交互解決方案。該數(shù)字人解決方案滿足公共客戶服務(wù)、教育和數(shù)字營銷等多種應(yīng)用場景，顯著增強(qiáng)用戶參與度和互動，提高客戶體驗(yàn)和運(yùn)營效率。

開發(fā)數(shù)字人交互解決方案

面臨的挑戰(zhàn)

在開發(fā)數(shù)字人交互解決方案時，Pantheon Lab 面臨著幾個關(guān)鍵挑戰(zhàn)。

第一、對話中的即時反饋，包括視覺和上下文反饋，以確保用戶參與和交互的自然流暢至關(guān)重要。這一需求需要高性能計(jì)算資源，從而能無延遲地處理復(fù)雜的深度學(xué)習(xí)模型和支撐聊天機(jī)器人的算法訓(xùn)練。

第二、隨著對聊天機(jī)器人的需求增長，擴(kuò)展性成為一個關(guān)鍵問題。Pantheon Lab 不僅需要確保其模型在性能不變的情況下處理用戶互動的增量，還需要實(shí)現(xiàn)語言理解和生成的高準(zhǔn)確性，任何不準(zhǔn)確性都可能導(dǎo)致誤解和負(fù)面的用戶體驗(yàn)。

第三、復(fù)雜的工作負(fù)載，如集成現(xiàn)有頭像互動等高級功能需要強(qiáng)大的基礎(chǔ)算力，快速發(fā)展的行業(yè)環(huán)境對產(chǎn)品上市時間要求高，促使 Pantheon Lab 需要迅速交付新功能和改進(jìn)，以保持競爭優(yōu)勢。

NVIDIA 技術(shù)助力

Pantheon Lab 數(shù)字人交互解決方案

為了解決這些挑戰(zhàn)，Pantheon Lab 采用了一系列的 NVIDIA 技術(shù)：

通過部署 NVIDIA 高性能算力 GPU，實(shí)現(xiàn)了 10 倍的訓(xùn)練速度提升，促進(jìn)了模型的快速開發(fā)和迭代，同時，加速了新功能和優(yōu)化了部署，在邊緣環(huán)境中 NVIDIA GPU 幫助整體運(yùn)營成本降低 80%。

NVIDIA TensorRT 的部署，優(yōu)化了模型推理，使實(shí)時交互中的延遲減少 50%。這一增強(qiáng)使用戶能夠更快地收到響應(yīng)，提高了整體用戶體驗(yàn)。

部署 NVIDIA Triton 推理服務(wù)器，使 Pantheon Lab 能夠同時服務(wù)多個模型，并進(jìn)行動態(tài)批處理。這一能力使吞吐量增加 60%，允許更多的用戶互動而不影響性能。

NVIDIA 賦能Pantheon Lab

打造高效友好的數(shù)字人體驗(yàn)

NVIDIA 技術(shù)賦能顯著提升了 Pantheon Lab 的運(yùn)營效率，降低了企業(yè)運(yùn)營成本，使數(shù)字人解決方案能夠提供無縫、實(shí)時的對話體驗(yàn)，展示出互動流暢對話高效的數(shù)字人界面。Pantheon Lab 致力于提供全棧的實(shí)時交互對話的數(shù)字人解決方案，為企業(yè)運(yùn)營發(fā)展需求提供高效的客服助手，重新定義用戶體驗(yàn)。

萬想科技的聯(lián)合創(chuàng)始人兼 CEO 劉劍鋒表示：“在 NVIDIA 的賦能下我們的產(chǎn)品能夠在邊緣設(shè)備上實(shí)現(xiàn)實(shí)時且高精度的數(shù)字人重建，增強(qiáng)了人機(jī)互動的真實(shí)感和降低了延遲。同時，NVIDIA 的硬件加速和云渲染技術(shù)進(jìn)一步提升了我們產(chǎn)品的擴(kuò)展性。得益于這些技術(shù)優(yōu)勢，我們的數(shù)字人解決方案不僅更加經(jīng)濟(jì)可靠，用戶體驗(yàn)也更為友好，應(yīng)用范圍更為廣泛。”

NVIDIA 初創(chuàng)加速計(jì)劃

NVIDIA 初創(chuàng)加速計(jì)劃 (NVIDIA Inception)為免費(fèi)會員制，旨在培養(yǎng)顛覆行業(yè)格局的優(yōu)秀創(chuàng)業(yè)公司。該計(jì)劃聯(lián)合國內(nèi)外知名的風(fēng)投機(jī)構(gòu)、創(chuàng)業(yè)孵化器、創(chuàng)業(yè)加速器、行業(yè)合作伙伴以及科技創(chuàng)業(yè)媒體等，打造創(chuàng)業(yè)加速生態(tài)系統(tǒng)。能夠提供產(chǎn)品折扣、技術(shù)支持、市場宣傳、融資對接、業(yè)務(wù)推薦等一系列服務(wù)，加速創(chuàng)業(yè)公司的發(fā)展。