概述

Amdocs 是一家為通信和媒體提供商提供軟件與服務的領先供應商。該公司構建的 amAIz 特定領域生成式 AI 平臺幫助電信公司深入改變了客戶體驗，實現了流程自動化，并優化了決策。Amdocs 正在使用NVIDIA DGX Cloud與NVIDIA AI Enterprise軟件開發和交付基于商用大語言模型（LLM）和領域適配模型的解決方案。該公司還在使用NVIDIA NIM，這是一套易于使用的推理微服務，旨在加速生成式 AI 在企業中的部署。

NVIDIA 使 Amdocs提升生成式 AI性能并降低成本

通過與 NVIDIA 合作，Amdocs 啟動了將生成式 AI 整合到其核心產品組合中的戰略。該公司首先確定了應用領域，然后通過重新設計用戶體驗和重點開發快速工程技術，使生成式 AI 功能對用戶更加友好。通過優化數據格式和微調 LLM，Amdocs 提高了其計費問答系統的準確性，同時大幅降低了成本。

此次與 NVIDIA 合作使 Amdocs 的 AI 生成回答準確率提升了 30%。這一提升對于實現生成式 AI 在電信行業的廣泛應用以及滿足直面消費者的生成式 AI 服務的需求至關重要。

借助 NVIDIA NIM 微服務，Amdocs 還降低了成本和延遲：

降低運營成本：Amdocs 通過在 NVIDIA 基礎設施上使用基于電信的檢索增強生成技術，減少了部署用例所消耗的 token 數量，其中數據預處理和推理消耗的 token 數量分別減少了 60% 和 40%。這使該公司在實現相同準確率的情況下，減少了單位 token 成本（該成本受各種因素和使用量的影響）。

減少延遲：此次合作成功地將查詢延遲減少了約 80%，確保終端用戶體驗到近乎實時的響應速度。這一加速提升了商務、護理、運營等領域的用戶體驗。

Amdocs 計劃繼續通過多種方式，將生成式 AI 集成到 amAIz 平臺中，以便：

使用 AI 驅動的語言和情感分析，增強客戶查詢路由功能

增強其 AI 解決方案的推理能力，從而提供針對客戶特定需求的建議

應對需要廣泛領域知識和多模態、多步驟解決方案的復雜場景，例如網絡診斷和優化等

Amdocs 集團技術總裁兼戰略主管 Anthony Goonetilleke表示：“與 NVIDIA 的戰略合作是 Amdocs 提高生成式 AI 能力的關鍵。這讓我們能夠在基礎設施和框架的基礎上構建產品和服務，以滿足客戶不斷發展的需求。”