在當今快節奏的商業環境中，提供卓越的客戶服務已不再是一種好事情，而是一種必要條件。無論是解決技術問題、解決計費問題，還是提供服務更新，客戶都期望在方便時得到快速、準確和個性化的響應。然而，實現這種服務水平面臨重大挑戰。
傳統方法，例如靜態腳本或手動流程，通常在提供個性化和實時支持方面存在不足。此外，許多客戶服務運營依賴于敏感和零碎的數據，這些數據受嚴格的數據治理和隱私法規的約束。隨著生成式 AI 的興起，公司旨在通過提高運營效率、降低成本和最大限度地提高投資回報率（ROI）來革新客戶服務。
將 AI 集成到現有系統會帶來透明度、準確性和安全性方面的挑戰，這些挑戰可能會阻礙采用并中斷工作流程。為此，公司正在利用由生成式 AI 提供支持的虛擬助理來管理各種任務，進而縮短響應時間并釋放資源。
本文概述了開發者如何使用 AI 虛擬助理 NVIDIA NIM 智能體藍圖 （NVIDIA NIM Agent Blueprint）通過生成式 AI 擴展客戶服務運營。通過利用這些信息（包括示例代碼），企業可以滿足日益增長的對卓越客戶服務的需求，同時確保數據完整性和治理。無論是改進現有系統還是創建新系統，此藍圖都能使團隊通過高效、有意義的交互滿足客戶需求。
更智能的 AI 虛擬助理，以及使用檢索增強型生成技術的 AI 查詢引擎。
構建 AI 虛擬助理時，務必要與組織的獨特用例要求、機構知識和需求保持一致。然而，傳統機器人通常依賴于剛性框架和過時的方法，難以滿足當今客戶服務環境不斷變化的需求。
在各行各業，基于 AI 的助理都可以發揮變革性作用。例如，電信公司以及大多數零售和服務提供商可以使用 AI 虛擬助理來增強客戶體驗，方法是每周 7 天、每天 24 小時提供支持，同時使用多種語言處理各種客戶查詢，并提供動態的個性化互動，以簡化故障排除和賬戶管理。這有助于減少等待時間，并確保針對不同客戶需求提供一致的服務。
另一個例子是在醫療保險付款人行業，確保積極的會員體驗至關重要。虛擬助理通過為會員提供個性化支持來增強這種體驗，解決他們的索賠、保險查詢、福利和付款問題，同時確保遵守醫療健康法規。這還有助于減輕醫療健康工作者的行政負擔。
借助 NVIDIA AI 平臺，組織可以創建 AI 查詢引擎，該引擎使用 檢索增強生成（RAG） 將 AI 應用與企業數據相連接。借助 AI 虛擬助理 NIM Agent Blueprint，開發者可以快速著手構建可提供增強客戶體驗的解決方案。它使用以下 NVIDIA NIM 微服務構建：
- NVIDIA NIM for LLM: 將先進的大語言模型 (LLM) 的強大功能引入應用，以非凡的效率提供出色的自然語言處理能力。
- Llama 3.1 70B Instruct NIM ：憑借出色的上下文理解、推理和文本生成能力，為復雜對話提供支持。
- NVIDIA NeMo Retriever NIM: 通過此集合，您可以輕松訪問作為 RAG 工作流基礎模組的先進模型。這些工作流集成到虛擬助理解決方案時，可以無縫訪問企業數據，通過快速、準確和可擴展的答案釋放機構知識
- NeMo 檢索器嵌入（NIM）：提升文本問答檢索性能，為下游虛擬助理提供高質量的嵌入。
- NeMo 檢索器重新排名 NIM ：通過微調的重新排名器進一步增強檢索性能，在查詢 LLM 時找到要作為上下文提供的最相關的段落。
該藍圖旨在與現有的客戶服務應用無縫集成，且不會破壞信息安全要求。得益于 NVIDIA NIM 的可移植性，組織可以在數據駐留的任何位置集成數據。通過將生成式 AI 引入數據，該架構使 AI 虛擬助理能夠利用每位客戶的獨特配置文件、用戶交互歷史記錄和其他相關數據，為其提供更個性化的體驗。
藍圖是一個起點，可以根據企業的獨特用例進行定制。例如，集成其他 NIM 微服務（例如 Nemotron 4 Hindi 4B Instruct ），使 AI 虛擬助理能夠使用當地語言進行通信。其他微服務可以啟用其他功能，例如合成數據生成和模型微調，以更好地滿足您的特定用例需求。在將 AI 虛擬助理連接到數字人 NIM Agent 藍圖時，為其提供類似人類的界面。
通過實施包含專有數據（公司和用戶資料及其特定數據）的 RAG 后端，AI 虛擬助理可以進行高度上下文相關的對話，實時滿足每位客戶的具體需求。此外，該解決方案可在現有的治理框架內安全運行，確保遵守隱私和安全協議，尤其是在處理敏感數據時。
用于創建自己的 AI 虛擬助手的三個構建塊
作為開發者，您可以構建自己的 AI 虛擬助手，實時檢索相關性極高的最新信息，并獲得不斷改進的人性化響應。圖 1 顯示了包含三個功能組件的 AI 虛擬助手架構圖。
1.數據提取和檢索管道?
工作流管理員使用提取工作流將結構化和非結構化數據加載到數據庫中。結構化數據的示例包括客戶檔案、訂單歷史記錄和訂單狀態。非結構化數據包括產品手冊、產品目錄和支持材料（例如 FAQ 文檔）。
2.AI 智能體?
AI 虛擬助理是第二個功能組件。用戶通過用戶界面與虛擬助理交互。在 LangGraph 智能體 LLM 編程框架中實施的 AI 智能體計劃如何處理復雜的客戶查詢并遞歸地解決問題。LangGraph 智能體使用 Llama 3.1 70B Instruct NIM 的工具調用功能從非結構化和結構化數據源檢索信息，然后生成準確的響應。
AI 智能體還使用短期和長期記憶功能來實現多回合對話歷史記錄。內置主動對話查詢和響應，以便稍后在對話中作為附加上下文進行檢索。這使得客戶與智能體的交互更像人類，并消除了客戶重復已與智能體共享的信息的需求。
最后，在對話結束時，AI 坐席會總結討論內容以及情感判斷，并將對話歷史記錄存儲在結構化數據庫中。來自同一用戶的后續交互可以在未來對話中作為附加上下文進行檢索。呼叫摘要和對話歷史記錄檢索可以縮短通話時間并改善客戶體驗。情感判斷可以為客戶服務管理員提供有關坐席有效性的寶貴見解。
3.運營管線?
客戶運營流程是整個解決方案的第三個功能組件。該流程為客戶服務操作員提供重要信息和見解。管理員可以使用運營流程來查看聊天記錄、用戶反饋、情感分析數據和通話摘要。分析微服務利用 Llama 3.1 70B Instruct NIM，可用于生成平均通話時間、解決問題所需時間和客戶滿意度等分析。分析還可用作用戶反饋，重新訓練 LLM 模型以提高準確性。
與 NVIDIA 合作伙伴一起投入生產?
NVIDIA 咨詢合作伙伴正在幫助企業采用使用 NVIDIA 加速計算和 NVIDIA AI Enterprise 軟件 構建的世界級 AI 虛擬助手，其中包括 NeMo、NIM 微服務和 NIM Agent 藍圖。
Accenture?
Accenture AI Refinery 基于 NVIDIA AI Foundry 構建，可幫助設計自主、意圖驅動的客戶交互，使企業能夠通過數字人或交互代理等創新渠道為個人定制旅程。具體的用例可以根據各個行業的需求進行定制，例如電信呼叫中心、保險政策顧問、制藥互動代理或汽車經銷商網絡代理等。
Deloitte?
德勤前線 AI 借助由 NVIDIA ACE、NVIDIA Omniverse、NVIDIA Riva 和 NIM 等 NVIDIA 技術加速的 NVIDIA NIM Agent 藍圖構建的數字虛擬形象和 LLM 代理，提升客戶服務體驗。
Wipro?
Wipro Enterprise Generative AI (WeGA) Studio 加速特定行業的用例，包括醫療健康、金融服務、零售等領域的聯系中心代理。
Tech Mahindra?
Tech Mahindra 正在利用 NVIDIA 數字人 NIM Agent Blueprint 構建客戶服務解決方案。借助 RAG 和 NVIDIA NeMo，該解決方案使學員能夠在對話期間舉起一只手提出澄清問題，從而阻止代理。該系統旨在通過改進的學習管理系統與后端微服務連接，該系統可部署在許多行業用例中。
Infosys?
Infosys Cortex 是 Infosys Topaz 的一部分，是一個 AI 驅動型客戶互動平臺，集成了 NVIDIA NIM Agent 藍圖以及 NVIDIA NeMo、Riva 和 ACE 技術，可實現生成式 AI、語音 AI 和數字人功能，為客戶服務組織的每位成員提供專業、個性化、前瞻性和按需協助，從而在增強客戶體驗、提高運營效率和降低成本方面發揮關鍵作用。
Tata 咨詢服務?
Tata 咨詢服務 (TCS) 虛擬代理由 NVIDIA NIM 提供支持，并與 ServiceNow 的 IT 虛擬代理集成，旨在優化 IT 和人力資源支持。該解決方案使用 prompt-tuning 和 RAG 來改善響應時間、提高準確性，并提供多回合對話功能。優勢包括降低服務臺成本、減少支持工單、提高知識利用率、加快部署速度，以及改善員工和客戶的整體體驗。
Quantiphi?
Quantiphi 正在將 NVIDIA NIM Agent 藍圖集成到其對話式 AI 解決方案中，通過逼真的數字虛擬形象增強客戶服務。這些先進的虛擬形象由 NVIDIA Tokkio 和 NVIDIA ACE 技術、NVIDIA NIM 微服務和 NVIDIA NeMo 提供支持，可與現有的企業應用無縫集成，從而以更高的真實感增強運營和客戶體驗。事實證明，針對數字虛擬形象工作流程進行微調的 NVIDIA NIM 部署極具成本效益，可減少企業在令牌方面的支出。
SoftServe?
SoftServe Digital Concierge 由 NVIDIA NIM Agent 藍圖和 NVIDIA NIM 微服務加速，使用 NVIDIA ACE、NVIDIA Riva 和 NVIDIA Audio2Face NIM 微服務提供高度逼真的虛擬助手。借助 Character Creator 工具，它可以提供語音和面部表情，準確性和細節都非常逼真。
借助 NVIDIA NeMo Retriever 的 RAG 功能，SoftServe Digital Concierge 可以智能地回復客戶查詢，方法是參考上下文并提供特定、最新的信息。它可以將復雜的查詢簡化為清晰、簡潔的答案，還可以在需要時提供詳細的解釋。
EXL?
EXL 的智能體助手產品是一種利用 NVIDIA Riva、NVIDIA NeMo 和 NVIDIA NIM 微服務的聯絡中心 AI 解決方案。EXL 計劃使用 AI 虛擬助手 NVIDIA NIM Agent 藍圖來增強其解決方案。
在本周的 NVIDIA AI 峰會印度大會 上，NVIDIA 咨詢合作伙伴宣布與 NVIDIA 合作，將印度轉變為 AI 前沿辦公室。使用 NVIDIA 技術，這些咨詢巨頭可以幫助客戶定制客戶服務代理藍圖，使用他們喜歡的 AI 模型（包括來自印度模型制造商的主權 LLM）構建獨特的虛擬助理，并在他們選擇的基礎設施上高效運行。
開始使用?
要免費試用藍圖并查看系統要求，請導航至 Blueprint Card 。您還可以 注冊，以便在 AI 虛擬助手 NIM Agent Blueprint 準備下載時收到通知。
要開始使用這些微服務構建應用程序，請訪問 NVIDIA API Catalog 。要 登錄 ，系統會提示您輸入個人或企業電子郵件地址，以訪問使用 NIM 構建的不同選項。有關更多信息，請參閱 NVIDIA NIM 常見問題解答 。
?
?
?
