如今，各行各業的客戶服務部門都面臨著呼叫量增加、客服人員流失率高、人才短缺以及客戶期望不斷變化等挑戰。

客戶希望既能有自助選項，也有人工客服提供實時支持。這種對無縫、個性化體驗的期望，延伸到了各種數字通信渠道，包括即時聊天、短信交流和社交媒體等。

盡管各種數字渠道越來越多，但許多消費者仍喜歡通過打電話尋求支持，這給呼叫中心帶來了壓力。在企業全力提高客戶互動質量的同時，運營效率和成本仍然是需要考慮的一個重要問題。

為了應對這些挑戰，企業正在部署 AI 驅動的客服軟件，以提高客服專員的工作效率，實現客戶互動的自動化，并獲取能夠優化運營的洞察。

幾乎在每一個行業，AI 系統都能夠幫助提高服務質量和客戶滿意度。例如，零售商正在使用對話式 AI 幫助管理全渠道客戶請求；電信運營商正在加強網絡故障排除能力；金融機構正在實現日常銀行業務的自動化；醫療機構正在加強自身的患者護理能力。

AI 給客戶服務帶來了哪些好處？

在戰略層面部署 AI，企業可以通過直觀的問題解決方案深入改變與客戶的互動方式，從而提高運營效率，提升客戶滿意度。

通過利用來自客服支持互動、常見問題文檔和其他企業資源的客戶數據，企業能夠開發出基于他們組織的獨有的集體知識和經驗的 AI 工具，來提供個性化服務、產品建議和主動支持。

大語言模型（LLM）等可定制的開源生成式 AI 技術，結合自然語言處理（NLP）和檢索增強生成（RAG），正在幫助各行各業加快推出針對特定用途的客服 AI。根據麥肯錫的數據，80% 以上的客戶服務主管已經在或計劃在不久后投資 AI。

借助具有高性價比的定制 AI 解決方案，企業正在實現服務臺客服工單的自動化管理，創建更加有效的自助服務工具，并通過 AI 助手為客服專員提供支持。這可以顯著降低運營成本和改善客戶體驗。

開發有效的客服 AI

為了實現令人滿意的實時互動，AI 驅動的客服軟件必須作出準確、快速且相關的回答。以下是實現這一目標的一些訣竅：

開源基礎模型

一些開源基礎模型可加速 AI 的開發。開發人員可以靈活地調整和增強這些預訓練機器學習模型，企業也可以使用它們啟動其 AI 項目，且無需耗費從頭開始構建模型所產生的高昂成本。

RAG

RAG 框架將基礎或通用 LLM 連接到專有知識庫和數據源，包括庫存管理、客戶關系管理系統和客戶服務協議。將 RAG 集成到對話式聊天機器人、AI 助理和智能助手，就可以根據客戶詢問具體內容的上下文定制回答。

“人在回路（human-in-the-loop）”流程

“人在回路（human-in-the-loop）”流程對 AI 訓練和實時部署始終至關重要。在對基礎模型或 LLM 進行初步訓練后，人工審核員應判斷 AI 的回答并提供糾正反饋。這有助于防止出現錯覺（即模型生成錯誤或誤導性的信息）等問題，以及避免其他錯誤，例如有害或偏離主題的回答等。這類人工參與可確保在開發 AI 的過程中充分考慮到公平性、準確性與安全性。

而人工的參與對于部署到生產中的 AI 更為重要。當 AI 無法充分解決客戶問題時，程序必須能夠將呼叫轉接給客服團隊。AI 與人工座席之間的這種合作方式保證了客戶互動兼具高效和同理心。

客服 AI 的投資回報率是多少？

客服 AI 的投資回報率（ROI）應主要根據效率的提高和成本的降低予以衡量。為了量化 ROI，企業可以評估一些關鍵指標，例如響應時間的縮短、聯絡中心運營成本的降低、客戶滿意度的提高以及 AI 增強的服務所帶來的收入增長等。

例如，使用開源模型實現 AI 聊天機器人的成本，可以將與通過傳統呼叫中心解決客戶詢問所產生的費用進行比較。建立這項基準有助于評估部署 AI 對客服業務的財務影響。

為了在擴大 AI 部署規模之前更深入地了解該項投資的 ROI，企業可以考慮試行一段時間。例如，在 1 至 2 個季度內將 20% 的呼叫中心流量轉接到 AI 解決方案，并密切監控結果，這樣企業就能獲得具體的效率提升和成本節約數據。該方法有助于證明 ROI，并為進一步的投資提供決策依據。

各行各業的企業都在將 AI 應用于客戶服務，并衡量其成功與否。

零售商減輕呼叫中心負擔

無論在實體店內還是電商網站上，當今的購物者都希望能獲得流暢、高效的個性化購物體驗。各年齡層的客戶仍然會優先選擇實時人工服務，但同時也希望能夠選擇使用不同的渠道。但來自不同客戶群的復雜客戶問題，可能會使客服專員難以快速理解和解決收到的請求。

為了應對這些挑戰，許多零售商正在轉向使用對話式 AI 和基于 AI 的呼叫轉接。根據 NVIDIA 發布的零售與快速消費品行業 AI 現狀：2024 年趨勢調研報告，近 70% 的零售商表示采用 AI 已經提高了他們的年營業收入。

泰國 7-Eleven 便利店的獨家特許運營商 CP All 在其呼叫中心采用了對話式 AI 聊天機器人，其呼叫中心每天接到超過 25 萬通電話。標準泰語有 21 個輔音、18 個純元音、3 個雙元音和 5 個聲調，其復雜性給機器人訓練帶來了特殊的挑戰。

CP All 使用了 NVIDIA NeMo 來解決這個問題。NVIDIA NeMo 是一個用于構建、訓練和微調 GPU 加速語音和自然語言理解模型的框架。借助 NVIDIA 技術驅動的自動語音識別和 NLP 模型，CP All 的聊天機器人理解泰語口語的準確率達到了 97%。

隨著大量客戶對話交由對話式聊天機器人處理，人工專員的接聽工作量減少了 60%，這使客服團隊可以專注于更加復雜的任務。聊天機器人還幫助減少了客戶等待時間并作出更加快速、準確的回答，提升了客戶滿意度。

借助 AI 驅動的客服體驗，零售商能夠維系更多客戶，增強品牌忠誠度和提高銷售量。

電信運營商實現網絡故障排除的自動化

電信運營商面臨的挑戰是既要解決復雜的網絡問題，又要遵守與終端客戶簽訂的服務級別協議并保證協議所規定的網絡正常運行時間。為了保持網絡性能，電信運營商必須能夠快速排除網絡設備故障、找出根本原因并解決網絡運營中心的問題。

生成式 AI 能夠分析海量數據、自主排除網絡故障并同時執行多項任務，是網絡運營中心的理想選擇。IDC 的一項調查表明，73% 的全球電信企業已將能夠支持運營的 AI 和機器學習投資作為其首要轉型舉措，顯示出該行業正在轉向 AI 和先進技術。

新一代數字服務和咨詢領域的一家領先企業 Infosys 構建了 AI 驅動的解決方案，幫助其電信合作伙伴克服客服挑戰。Infosys 使用 NVIDIA NIM 推理微服務和 RAG 開發了一個 AI 聊天機器人，用來幫助排除網絡故障 。

通過提供對基本、不依賴于特定供應商的路由器命令的快速訪問以進行診斷和監控，這個生成式 AI 驅動的聊天機器人大大縮短了網絡故障排除時間，從而提升了整體客服體驗。

為確保準確性和作出符合語境的回答，Infosys 使用特定電信設備的手冊、培訓文檔和故障排除指南對生成式 AI 解決方案進行了訓練。通過使用 NVIDIA NeMo Retriever 查詢企業數據，Infosys 的 LLM 輸出準確率達到了 90%。而在使用 NVIDIA 技術對模型進行微調和部署后，Infosys 將延遲減少至 0.9 秒，與基準模型相比減少了 61%。使用基準模型的聊天機器人準確率為 85%，使用NeMo Retriever 驅動的 RAG 聊天機器人的準確率達到了 92%。

通過支持網絡管理員、IT 團隊和客服專員的 AI 工具，電信運營商能夠更加高效地發現和解決網絡問題。

金融服務機構輕松揭穿欺詐行為

金融服務機構需要保持更高的數據敏感性，而客戶希望能夠隨時隨地辦理銀行業務和獲得支持。不同于其他可能包含一次性買賣的行業，銀行業通常建立在持續交易和長期客戶關系的基礎上。

與此同時，用戶的忠誠度可能稍縱即逝，多達 80% 的銀行客戶愿意為了獲得更好的體驗而更換機構。因此，金融機構必須不斷改進客服體驗并更新對客戶需求和偏好的分析。

許多銀行正開始使用能夠直接與客戶互動的 AI 虛擬助手處理詢問、執行交易和將復雜問題上報給人工客服專員。NVIDIA 的 2024 年金融服務業中國 AI 現狀與趨勢顯示，超一半（44%）的中國受訪者正在使用 AI 改善客戶體驗，42% 的中國受訪者正在探索使用生成式 AI 和 LLM 改善客戶體驗和互動。

擁有數百萬客戶和價值 80 億歐元存款的歐洲數字銀行 Bunq 正在部署生成式 AI 滿足用戶需求。借助自主開發的 LLM，Bunq 構建了面向 Bunq 客戶的 AI 個人助手 Finn 。Finn 可以回答與金融相關的問題，比如“我上個月在生活用品上花了多少錢？”“我上周去的印度餐廳叫什么名字？”等。

此外，通過“人在回路（human-in-the-loop）”流程，Finn 還能幫助員工更快識別欺詐行為。通過采集并分析供合規人員審核的數據，Bunq 將識別欺詐行為的時間從原來的 30 分鐘縮短至 3 到 7 分鐘。

通過部署能夠利用數據保護客戶交易、執行銀行業務請求并根據客戶反饋采取行動的 AI 工具，金融機構可以為客戶提供更高水平的服務，建立信任，提高滿意度，維持長期關系。

醫療健康和生命科學機構

克服人手短缺問題

在醫療健康行業，患者需要快速獲得專業醫療服務、精準的定制治療方案以及與專業醫護人員富有同理心的互動。但世界衛生組織估計到 2030 年，該行業將出現 1000 萬的人員缺口，這可能會影響優質醫療服務的供應。

AI 驅動的數字醫療助手正在幫助醫療機構事半功倍。借助在專業醫療語料庫上訓練而成的 LLM，AI 智能助手可以幫助醫生和護士記錄臨床筆記、自動下達處方和化驗單并跟進患者就診后的病歷記錄，為醫生和護士節省日常工作時間。

結合了語言和視覺模型的多模態 AI 可以通過提取洞察和提供圖像數據摘要監測患者，從而提高醫療環境的安全性。例如，這項技術可以提醒工作人員注意患者跌倒的風險和病房中的其他危險。

為支持專業醫護人員，Hippocratic AI 訓練了一個生成式 AI 醫療健康智能體，用于執行低風險、非診斷性常規任務，例如提醒患者做好必要的預約準備工作，并在就診后持續跟進，確認患者遵守用藥規范且沒有出現不良副作用。

Hippocratic AI 以循證醫學為基礎對其模型進行了訓練，并與一大批正規護士和醫生一起完成了嚴格的測試。該解決方案的群集架構由 20 個模型組成，其中 1 個模型與患者交流，另外 19 個模型監督該模型的輸出。整個系統包含 1.7 萬億個參數。

每個醫生和患者都有可能擁有自己的 AI 數字醫療助手，這將減少臨床醫生的工作負擔，提高醫療服務質量。

使用 AI 提高客戶體驗標準

通過將 AI 整合到客服互動中，企業可以提供更加個性化、高效且及時的服務，樹立跨平臺全渠道客服體驗的新標桿。借助可在數秒內處理大量數據的 AI 虛擬助手，企業客服專員能夠針對不同客戶群的復雜需求作出量身定制的回答。

為了開發和部署行之有效的客服 AI，企業可以對 AI 模型進行微調并部署 RAG 解決方案，以滿足各種特定需求。

NVIDIA 提供了一套工具和技術，幫助企業開始開發和部署客服 AI。

NVIDIA NIM微服務作為NVIDIA AI Enterprise軟件平臺一部分，能夠加速生成式 AI 的部署并支持各種專為實現無縫、可擴展的推理而優化的 AI 模型。NVIDIA NIM Agent Blueprints為開發者提供全套的參考示例，幫助他們構建創新的客服應用解決方案。

企業可以充分利用 AI 開發工具構建精準、高速的 AI 應用，深入改變員工和客戶的體驗。