會議是組織的生命線。它們促進協作和明智的決策。它們通過頭腦風暴和解決問題來消除孤島。它們還可以推進戰略目標和規劃。
然而,實現這些目標的主要會議(尤其是涉及跨職能團隊和外部參與者的會議)可能具有挑戰性。需要將人員管理技能和熟練的文檔策略獨特地結合起來,以無縫促進決策制定并確保有效的會后任務執行。
本文介紹了基于云原生微服務的架構,adam.ai。通過 NVIDIA 初創加速計劃,adam.ai 成為了一個全面的會議管理平臺,旨在為組織、團隊和專業人士的整個會議生命周期提供支持。該架構提供高可擴展性、低延遲和經濟高效的在線會議自動記錄服務。具體而言,adam.ai 利用了 NVIDIA 的技術。
- Google Cloud Dataflow,用于自動調配處理資源
- NVIDIA Riva 用于低延遲轉錄的語音轉文本 (STT) 模型
- 大型語言模型 (LLM) 以實現高效的信息匯總
AI 驅動的自動筆記
人工做筆記需要實時決定要記錄的信息和省略的信息。此外,即使對最熟練的人來說,在積極參與和細致的筆記之間取得平衡也會帶來挑戰。專注所需的耐久性,尤其是在漫長或復雜的討論期間,仍然是一個持續的障礙。
在以下方面的進展:自動語音識別( ASR )和 LLM 為管理和組織會議信息的新方法鋪平了道路。自動記筆記可利用轉錄的強大功能,確保捕捉細微差別的準確性和深度。
轉錄模型可將口語實時轉換為準確的文本,使團隊、公司高管和專業人士能夠創建全面的會議紀要,不會忽視關鍵細節。LLM 利用理解、推理和知識表征能力來分析會議數據并提取寶貴見解。
借助用戶友好型 adam.ai 界面,您可以訪問基本議程項目,并精心追蹤決策和行動項目(圖 1)。這種直觀的方法有助于進行會議管理,促進無縫協作,并支持取得出色的會議成果。

轉錄和匯總架構
adam.ai 的 AI 工程團隊開發了專為 Google Cloud 設計的微服務架構(圖 2)。該架構包括筆記系統,可以無縫轉換為 AWS 和 Azure 等其他云平臺。

該架構利用 Google Cloud 組件(例如 Storage、Dataflow 和 Pub/Sub 系統)來存儲用戶數據、管理數據處理資源,并促進不同組件之間的通信。
會議轉錄由 NVIDIA Riva 模型提供動力支持,可提供出色的準確性和低延遲,同時大規模高效地處理實時音頻處理任務。Riva 的獨特之處在于其完整的自定義功能。Riva 可以針對法律和醫療等專業行業進行微調,即使在利基詞匯表和語言使用中也能提供精確的轉錄。此外,針對可變需求,使用 Helm 圖表部署 Riva 模型可以實現可擴展的資源管理,提供經濟高效的解決方案。
記錄數據流
adam.ai 筆記數據流通過四個關鍵步驟編排:
第 1 步:開始做筆記
上傳新的會議錄像時,系統會通過 Google Cloud Pub/Sub 消息傳遞服務生成和傳輸活動消息。這種由事件驅動的分布式機制建立了松散合的架構,簡化了平臺與筆記服務之間的通信,尤其是在處理需要大量分析和總結時間的冗長會議時。
第 2 步:啟動數據處理管道
封裝音頻和視頻錄制內容位置的活動消息通過自定義數據處理流程進行處理,以獲得會議見解。這些流程通過 Google Cloud Dataflow 執行,從而自動調配針對動態用戶工作負載定制的計算資源,從而確保處理任務的最佳性能和成本效益。
第 3 步:生成會議轉錄
數據處理流程首先從@cloud storage 下載音頻和視頻錄制內容。然后, NVIDIA Riva 精心轉錄下載的文件。生成的不僅僅是將語音轉換為文本的簡單操作,Riva 還使用上下文理解提高了轉錄質量。對標點符號和大寫進行了優化,以提供可靠準確的總結和見解生成。
第 4 步:生成摘要和可行見解
然后,將精心轉錄的文本傳遞給 LLM,以總結會議內容。通過改進的提示工程,LLM 對會議進行總結,并生成有價值的可行見解。然后,會議摘要和見解返回到平臺供用戶展示。
adam.ai 架構的優勢
此架構可確保高效、可擴展且經濟高效地轉錄和總結會議內容。具體優勢包括:
動態可擴展的容錯系統
借助 Google Cloud Pub/Sub,該架構采用了松散合、事件驅動的微服務方法,從而實現了可擴展的容錯系統。這不僅簡化了通信,而且還提供了組件的獨立功能。此外,Google Cloud Dataflow 自動資源調配可動態擴展計算能力,從而實現經濟高效的數據處理。
實時準確的會議轉錄
Riva ASR 模型支持流式傳輸音頻,并提供實時、準確的轉錄。它能夠細化標點符號和大小寫,從而提高轉錄質量,實現有價值見解的準確總結和提取。
可理解且結構化良好的匯總
LLM 集成可提供清晰且結構化的摘要,促進從會議文稿中提取寶貴且可行的見解。
直觀的用戶體驗
從轉錄到總結的整個過程都無縫集成到平臺中。請求和結果通過 Pub/Sub 系統高效流動,提供流暢直觀的用戶體驗,并輕松獲取會議洞察。
總結
借助 adam.ai,將您的會議轉變為更高效、更動態的協作。ASR 和 LLM 攜手合作,無縫捕獲所說的每個單詞,提取關鍵見解,并生成詳細的筆記。這讓參與者擺脫了筆記的負擔,因此他們可以充分參與會議。
為確保以可擴展、低延遲且經濟高效的方式處理會議音頻數據,adam.ai 會議管理平臺采用了基于云原生微服務的架構。該架構能夠實現實時且準確的轉錄,并通過增強標點符號和大寫功能,由 NVIDIA Riva 提供全面、出色的會議記錄。
要探索 adam.ai 如何幫助提升您的會議水平,請注冊以獲得免費試用。如需詳細了解 LLM 企業應用,請參閱開始使用適用于企業解決方案的大型語言模型并加入我們的語音 AI 對話NVIDIA Riva 論壇。
?