案例簡介

? 本案例通過NVIDIA RIVA平臺，平安科技智能服銷應用組自主研發了智能客服系統，集成了語音識別、語音合成、語義理解三大智能引擎，以智能語音機器人替代傳統的真人客服，實現自然的語音人機交互。

? 本案例主要應用到NVIDIA RIVA平臺、NVIDIA NEMO模型訓練平臺。

客戶簡介及應用背景

平安科技是平安集團旗下的全資子公司，運用人工智能、智能認知、云計算、區塊鏈等技術，實現對平安集團旗下的產險、壽險、銀行、醫療、智慧城市等金融業務的賦能，是全球領先的高科技金融技術公司。

智能客服系統是平安科技自主研發的基于AI人工智能技術的算法平臺，為保險銀行等金融業務提供了業界領先的智能問答技術服務。智能客服系統每天會產生海量的語音數據，平安科技通過NVIDIA NEMO + RIVA平臺實現了對非結構化的語音數據的結構化高效處理，并應用于語音算法模型的自動化訓練。通過RIVA平臺，打破了原先傳統模型各個組件單獨訓練的限制，極大地提高了算法模型訓練的速度和效率。

客戶挑戰

智能客服坐席系統通過AI人工智能技術代替原有的人工坐席，從而能夠達到降低人力成本、改善服務質量、最大化客戶資源利用率，幫助客戶快速定位需求。平安科技原有的傳統技術依賴于非常多的子模塊，以ASR語音識別技術為例，傳統模型需要分割成數據預處理，聲學模型、語言模型、文本字典、上下文相關模型等多個部分。多個子模塊不僅需要大量的人力成本去開發和維護，模塊之間的級聯誤差也會大大降低模型的識別準確率。與此同時，傳統模型是單個服務器部署模型，而實際的業務場景，坐席的通話數量每天都會發生變化，很難做到和業務需求量進行算法模型資源的同步，造成業務空閑時大量的GPU資源的浪費。另外，現有傳統的ASR語音識別、TTS語音合成、NLP語義理解技術都是基于各自的技術框架，并沒有形成統一的算法平臺。

應用方案

基于以上遇到的挑戰，平安科技采用了NVIDIA RIVA和NVIDIA NEMO平臺來提供技術支持，很大程度地解決了上述的問題。

平安智能客服坐席系統引入了由NVIDIA NEMO平臺訓練的QuartzNet模型。QuartzNet是由NVIDIA提出的基于全卷積的端到端語音識別模型。端到端模型把原來傳統模型的各個子模塊都整合在了一起，將算法模型的訓練速度提升了5倍，算法的識別率提高了5個百分點。高效的模型訓練可以把算法模型應用到更多的業務場景中，從而帶來更大的業務價值。

此外，平安科技還利用RIVA平臺實現了容器化的算法部署，并且實現了彈性伸縮的技術。彈性伸縮技術可以根據業務的需求量動態地調整算法引擎的實例數量，關閉不必要的GPU機器資源，從而節省了大量的機器成本。

與此同時，RIVA平臺還整合了ASR、TTS、NLP三個智能算法引擎，使得整個平安科技智能客服坐席系統實現了技術底層的統一。RIVA平臺還和平安科技聯邦Occam平臺進行了整合，在NVIDIA推出的 BERT 推理解決方案Fast Transformer的助力下，實現了高精度模型自動訓練的能力，并且可以根據客戶的需求進行場景定制化，實現快速地算法迭代和升級。

使用效果及影響

通過NVIDIA的RIVA和NEMO平臺，平安科技智能坐席系統實現了從傳統模型到業界領先的端到端深度學習模型的轉換，實現了基于容器化彈性伸縮技術的算法引擎部署，并且整合了系統中三個算法引擎技術，極大地提高了算法平臺的訓練效率和模型效果，幫助業務進行降本增效，促進了智能坐席系統在平安金融業務中的拓展和應用。

與此同時，平安也與NVIDIA針對前沿的ASR語音識別技術進行了深度的合作，并在頂級國際會議ICME上發表了學術論文《Cross-Language Transfer Learning and Domain Adaptation for End-to-End Automatic Speech Recognition》。論文就NVIDIA NEMO平臺的QuartzNet語音識別模型，在跨領域、跨語言、跨口音地區等方面進行了大量地實驗，和深入地分析。論文闡述的遷移學習觀點和結論，進一步促進了平安科技智能坐席系統端到端語音識別模型的進化和演進。通過與NVIDIA的合作，平安繼續在語音頂會SLT上發表了《Multi-QuartzNet： Multi-Resolution Convolution for Speech Recognition with Multi-Layer Feature Fusion》。高水平學術論文指導平安科技客服系統持續更新和升級，客服系統實際遇到的問題反過來促進學術論文的研究，形成了學術研究和生產服務系統互惠互贏的雙向正循環。

“通過AI人工智能技術賦能傳統金融保險業務是當下和未來主流的行業趨勢，也是平安集團非常重要的戰略發展目標。智能客服坐席項目是平安科技的重點科技項目之一，通過智能客服可以高精度地實現對于客服意圖的智能匹配，更好地理解客服對產品的需求和意向。NVIDIA提供的RIVA和NEMO平臺，解決了我們在AI算法落地過程中的痛點問題，高效靈活地訓練和部署算法模型，實現了毫秒級的實時語音識別響應時間，97%的高精度保險業務場景意圖識別率，以及自然流暢地人聲合成語音。智能坐席系統只是平安科技邁向AI技術賦能業務的第一步，我們會將智能語音技術推廣到語音質檢、安全風控、用戶畫像等一系列業務場景中。通過AI技術和NVIDIA提供的技術平臺，打造出更多的人工智能算法產品，提高平安金融業務的生產效率，為平安的客戶提供更全面優質的產品體驗。” 平安科技副總工程師王健宗博士表示。

審核編輯：郭婷