數據科學家利用生成式 AI和預測分析構建新一代 AI 應用。在金融服務領域，AI 建模和推理可用于多種解決方案，包括用于投資分析的替代數據、AI 智能文檔自動化，以及交易、銀行和支付中的欺詐檢測。
H2O.ai 與 NVIDIA 合作，利用 NVIDIA AI Enterprise 平臺以及 H2O.ai 的 LLM Studio 和 Driverless AI AutoML，為生成式 AI 和數據科學提供了一個端到端的工作流程。H2O.ai 還利用 NVIDIA AI Enterprise 部署了新一代 AI 推理技術，包括大型語言模型 (LLM)，用于構建安全可靠的企業級金融 GPT 和大規模定制應用。
此集成旨在幫助組織開發和部署自己的 LLM 和自定義模型，以用于自然語言處理 (NLP) 以外的各種應用(包括圖像生成)。這些模型支持使用多種內容模式(例如文本、音頻、視頻、圖像和代碼)為更廣泛的應用生成新內容。
金融服務機構公司迫切需要使用生成式 AI 并加速創新，從而帶來新的產品機會并降低運營領域的成本。受監管的(銀行、交易員、資產管理公司和保險公司)和不受監管的(對沖基金和自營交易員)金融機構都在致力于通過生成式 AI 和數據科學應用的融合來開發全局解決方案。
本文概述了隨著金融機構采用最新 AI 模型，不同的數據科學用例以及用于為以下進展領域構建集成應用的工具：
- 更新的生成式 AI 和 LLM 用例
- 加速交易和風險推理
- 智能自動化和聊天機器人體驗
- NVIDIA Triton 推理服務器上的數據科學和加速機器學習分析
- 融合生成式 AI 和預測分析
關于加速交易和風險推理的生成式 AI 和 LLM
投資的圣杯在于通過實時計算來保持市場的領先優勢，并利用通常是非結構化的替代數據源。據估計，有 70% 或更多的組織信息是非結構化的，而這些信息目前尚未被組織充分利用。詳情請參閱IDC 關于非結構化數據的報告。
如今，資本市場通常依賴于傳統的表格數據源市場數據存儲在列和行中。必須利用更新的替代數據源以獲得信息邊緣。
替代數據源
替代數據是一類從非傳統來源獲得的非結構化信息，而傳統市場數據無法提供背景信息。它可以提供更深入的見解，擴展基礎分析(即定性過程)，并捕獲行為金融元素。替代數據的來源可以包括以下內容：
- 收益電話會議成績單
- Fed 會議紀要
- 社交媒體
- 新聞
- 衛星圖像
- 金融申報
替代數據使用這些信息來更深入地了解公司的財務狀況或交易對手(圖 2)，以分析可用于交易和風險管理決策的金融申報。投資領導者必須應對這種非結構化替代方案的分析，以便做出及時、明智的決策并保持市場領先地位。
對交易和風險的影響
隨著生成式 AI 和預測分析的融合，金融公司正在使用 NVIDIA 和 H2O.ai 集成來構建自己的生成式 AI NLP 模型和用于替代數據的 LLM，以滿足內部需求和外部客戶。因此，他們正在幫助客戶在市場上表現出色，并努力履行其托管責任，在更大限度地降低決策風險的同時實現超額回報和 Alpha.
使用生成式 AI 的 NLP LLM 的一個關鍵用例是將信號從通常很雜的非結構化數據中分離出來，然后將其索引為結構化數據，以通過情感分析、問答和總結(例如，您的公司 GPT)來獲得見解，從而了解各種股票代碼符號。此過程可以提供類似于金融市場基本分析的結構化信號，這些信號可用于下游模型，以滿足風險和回報目標。
NVIDIA Triton 推理服務器 是 NVIDIA AI Enterprise 平臺的一部分，它與 H2O.ai 的 h2oGPT LLM 配合使用，可以提供快速的生成式 AI LLMOps。由于客戶可以在其企業內訓練和部署多個模型，因此數據科學家能夠以更低的運營成本訓練和生產應用程序。
組織可以在非結構化信息來源（例如金融新聞）上使用基礎 LLM，并通過 定制化 來更好地理解金融領域的術語。
最終用戶可以通過使用 檢索增強生成 (RAG) 與定制模型進行交互。
H2O.ai 在 NVIDIA Triton 推理服務器上運行的 LLM 解決方案展示了更多令牌和更低延遲的加速推理。
圖 3 展示了部署和運行多個 LLM 時降低的總擁有成本 (TCO) 以及增加的投資回報 (ROI)。更多信息，請參閱NVIDIA TensorRT-LLM 增強功能在 NVIDIA H200 上大幅加速大型語言模型。
適用于智能自動化和聊天機器人體驗的生成式 AI
生成式 AI LLM 還用于面向內部員工和外部客戶體驗的聊天機器人。聊天機器人有助于提高組織工作效率和運營，節省成本，提高利潤空間，并在客戶流失的情況下改善客戶體驗。
在通過生成式 AI 打造的客戶體驗中，我們的目標是實現超個性化和滿意度(圖 4)，提高組織的凈推薦值 (NPS) 和客戶滿意度 (CSAT).
對于內部員工體驗，AI 工具通過幫助將信息傳遞給管理層以獲取決策見解來提高工作效率。在外部，AI 工具可以通過座席助理滿足客戶需求。
客戶聚焦：澳大利亞聯邦銀行
您可以將 H20.ai 護欄和 NVIDIA NeMo 護欄與 langchain 等工具結合使用，以開發具有更多靈活選項的更強大的自定義 GPT 模型。H20.ai 還提供模型管理、護欄和可解釋性工具，有助于模型解釋，所有這些工具均可供客戶在受監管的環境中使用。
H2O.ai 實現了生成式 AI 的普及，以便企業可以安全地構建自己的先進 LLM.澳大利亞聯邦銀行已利用此技術構建自己的 GPT，以滿足客戶的需求。
NVIDIA 和 H20.ai 都認為，每個組織都需要擁有自己的 LLM 和 GPT，就像他們需要擁有自己的品牌、數據、算法和模型一樣。開源生成式 AI 正在實現轉型，在保留數據、代碼和內容所有權的同時實現 AI 價值的大眾化。
“我們與 H2O.ai 合作，致力于負責任地推廣 AI 的普及。通過我們的合作，我們現在能夠創造全新的生成式 AI 解決方案，這使我們能夠真正控制數據、技術和訓練方式的使用。負責任的 AI 不僅僅是關于偏見和可解釋性的問題，它還涉及到您對自己的責任——您的開發方式和所交付的成果。”Dan Jermyn，澳大利亞聯邦銀行首席決策科學家表示。
NVIDIA Triton 推理服務器上的數據科學和加速機器學習分析
AI 正在使用預測技術和算法（例如 XGBoost）加速機器學習在金融服務業的應用，適用于以下用例： 預測限價盤價格 以及檢測金融交易中的欺詐。
欺詐預測流程不僅包含一個模型，還包含一個捆綁在一起的模型序列，從而提供更動態的能力，以深入了解潛在客戶。許多欺詐模型基于不同細分市場的行為屬性(圖 5)：
- 地理位置與交易發生地對比
- 交易類型(存在卡與不存在卡)
- 平均交易規模
- 不同時間窗口和時間聚合下的平均交易頻率
- 例如，30/60/90 天與每周/每月/每季度/每年
這些都基于各種業務規則或預測特征。例如，如果同一商戶在短時間內進行越來越多的大型交易，則模型算法可以標記該交易是否存在潛在欺詐。
在反洗錢 (AML) 和交易欺詐中，關鍵在于了解客戶 (KYC) 和客戶的客戶 (Customer).您可以確定客戶的身份并了解客戶和其他代理(包括欺詐實施者)的行為屬性。
在每組模型中，您都可以更深入地了解使用 AI 技術(例如智能自動化)的客戶和參與者。這讓您可以了解客戶的身份是否被泄露，從而為交易分配更好的分數。更好的分數有助于提高交易的可靠性，并為客戶提供安全可靠的體驗。交易會根據 KYC 的身份驗證密鑰和行為屬性以及欺詐者還是真實客戶執行交易而停止。
AML 和欺詐檢測使金融機構能夠在新出現的威脅面前保持領先地位。多個因素在預防金融應用程序中的欺詐方面發揮著關鍵作用：
- 基于生成式 AI 模型的智能文檔自動化，可處理更多樣化的身份信息
- 行為屬性
- 傳統數據科學
H2O.ai Driverless AI 已集成 NVIDIA Triton 推理服務器、RAPIDS cuML 和 RAPIDS cuDF (圖 6)，使金融機構能夠加速其欺詐檢測應用程序。
融合生成式 AI 和預測分析
我們越來越多地看到終端客戶對數據科學和 AI 的需求日益融合。基于 LLM 的 AI 應用，即使它們基于 NLP、圖像和音頻等非結構化、多模態數據(圖 7)，也必須與表格式數據科學解決方案相關聯。終端金融解決方案將數據科學技術和加速預測分析(如 XGBoost)與即將推出的生成式 AI 解決方案相結合。
新的生成式 AI 新領域解決方案與傳統的 Brownfield 數據科學解決方案融合在一起，可提高最終用戶應用程序的生產力和 AI 能力。
客戶聚焦：北美銀行卡
北美銀行 (NAB) 反映了這一點，該公司正在探索機會，在目標和愿景一致的推動下，將 H2O.ai 的更多新一代 LLM 驅動的應用程序無縫集成到其運營中。這種合作關系有望在優化 NAB 的運營、簡化其業務流程和自動化內部工作流程方面產生顯著優勢。最終，這將提高績效和生產力。
NAB 首席數據和分析官 Jeffrey Vagg 表示：“H2O.ai 始終如一地表明了我們對持續成功的既得利益，并隨時準備探索新的方法來利用 LLM 驅動的解決方案來實現更高的績效和生產力。
Vagg 預計，生成式 AI 有可能提升 NAB 的性能、增強商戶支持和欺詐檢測能力，從而有效識別試圖利用支付行業漏洞的惡意行為者。
“我們相信，每個組織都可以安全地創建和擁有自己的 LLM，為客戶帶來轉型。”Vagg 補充道。事實證明，NAB 對 H2O.ai 的深度信任有助于駕生成式 AI 的復雜性。
通過與 H20.ai 合作， NVIDIA 提供了客戶成功所需的關鍵要素，以及創建自己的 LLM 和定制所需的一致目標。
阻塞問題和解決方案
金融機構往往分為兩大陣營：受監管和不受監管。受監管機構通常是大型金融機構，例如銀行，它們在多個業務部門大規模部署 AI.另一方面，受監管機構包括在采用技術方面更先進的對沖基金和自主交易公司。雖然最初機構在采用技術方面落后，但差距正在縮小。
阻礙 AI 在金融服務中應用的另一個因素是能夠針對金融領域和金融應用程序定制 AI 模型，以提供更高的準確性。傳統上，傳統的數據科學應用程序基于表格數據，銀行需要這些應用程序以合規的方式對這些模型進行生產化處理。
監管和非監管機構都希望能夠利用其數據科學資源，這些資源稀缺且備受追。他們希望為金融領域構建具有最高準確性的金融 AI 應用程序，并充分利用其時間和生產力。
正如客戶案例所示，這兩位客戶都已采用 AI LLM Ops 和 MLOPs 解決方案，并需要生產力工具來更快地進入金融服務行業的企業生產用例。這需要開發生產力加速器，將此類多樣化的解決方案整合在一起，將生成式 AI 與數據科學和分析模型集成到單個應用工作流程中。
通過結合 H2O.ai LLM Studio 和 H2O.ai Driverless 的功能，以及利用 NVIDIA AI Enterprise 的強大能力，H2O.ai 與 NVIDIA 能夠在更短的時間內為金融領域開發出專門的集成應用。NVIDIA AI Enterprise 支持加速的高性能推理，
- NVIDIA NeMo ‘
- NVIDIA Triton 推理服務器 ‘ ‘
- NVIDIA TensorRT ‘
- NVIDIA TensorRT
- 其他 NVIDIA AI 軟件
H2O.ai 的 LLM Studio 是一種開源無代碼解決方案，可助力組織微調和評估 LLM.金融機構可以使用 NVIDIA NeMo 針對其領域定制模型， NVIDIA NeMo 是一個框架，能夠通過提示學習、指令調整和 RLHF 等各種自定義功能微調和監督模型(圖 8)。
h2oGPT API 可持續地基于開源構建，這是金融服務等受監管行業最負責任的發展方向。
開發者可以完全控制和自定義其 AI 模型。這種自定義和控制水平是當今市場上任何產品都無法比擬的。
模型和自定義框架可以使用您自己的知識產權高效完成您領域的任務，以便分發和獲利，而成本僅為自定義、運行和運行其他專有 LLM 模型的一小部分。
客戶可以使用 h2oGPT 內置護欄以及 NeMo 護欄，為企業 AI 用例提供支持。
NVIDIA NeMo Retriever
借助 H2O.ai 的內置 RAG，您可以將生成式 AI 模型無縫集成到現有的數據存儲中。H2O.ai 以及 NVIDIA 的 NeMo Retriever 均支持使用 NVIDIA 優化的 RAG 功能。
NeMo Retriever 是一種生成式 AI 微服務，它允許企業將自定義 LLM 連接到他們的企業數據。這樣做可以為其 AI 應用提供高度精準的響應，從而實現更準確的交互體驗。它是 NVIDIA AI Enterprise 軟件平臺的一部分。
使用該微服務的開發者可以將其 AI 應用連接到業務數據(無論數據位于何處)，從而將計算和軟件工具應用引入您的數據。這可以幫助公司在幾乎任何數據中心或云上開發和運行 NVIDIA 加速的推理應用。
總結
NVIDIA 和 H20.ai 攜手為最終客戶開發生成式 AI 應用提供了更大的靈活性和工具。這為快速開發和生產融合式 AI 和數據科學應用提供了一條捷徑，解決了企業面臨的重大瓶頸。
因此，您可以開發自己的 LLM，其中知識產權以及盈利和重新分配的能力與您同在。您可以將現有投資、數據和資源轉變為收入中心，實現 AI 投資的回報，并隨后投資于更多 AI 項目。
這一切結合在一起，可更大限度地提高投資回報率、降低 TCO，并通過工具和框架的靈活性和選擇提高生產力，從而構建融合應用程序，為我們的最終客戶提供前所未有的價值。
?
