LLM

2025年 4月 29日

構建應用程序以安全使用 KV 緩存

在與基于 Transformer 的模型 (如 大語言模型 (LLM) 和 視覺語言模型 (VLM)) 交互時，輸入結構會塑造模型的輸出。
2 MIN READ
2025年 4月 28日

借助代理式 AI 系統推進網絡安全運營

被動式 AI 時代已經過去。一個新時代正在開始，AI 不僅能做出響應，還能思考、計劃和行動。 大語言模型 (LLM) 的快速發展釋放了…
3 MIN READ
2025年 4月 23日

使用 NVIDIA NeMo 微服務，通過數據飛輪增強 AI 智能體

企業數據不斷變化。隨著時間的推移，這給保持 AI 系統的準確性帶來了重大挑戰。隨著企業組織越來越依賴 代理式 AI 系統 來優化業務流程，
4 MIN READ
2025年 4月 23日

NVIDIA Secure AI 正式發布

隨著許多企業開始對其數據進行 AI 訓練或推理，需要保護數據和代碼，尤其是大語言模型 (LLMs) 。由于數據敏感性，
1 MIN READ
2025年 4月 23日

聚焦：Qodo 借助 NVIDIA DGX 實現高效代碼搜索創新

大語言模型 (LLMs) 使 AI 工具能夠幫助您更快地編寫更多代碼，但隨著我們要求這些工具承擔越來越復雜的任務，其局限性變得顯而易見。
3 MIN READ
2025年 4月 16日

使用 NVIDIA NIM 構建 AI 驅動的自動引用驗證工具

引文的準確性對于保持學術和 AI 生成內容的完整性至關重要。當引用不準確或錯誤時，它們可能會誤導讀者并散布虛假信息。
2 MIN READ
2025年 4月 16日

宣布推出基于 CUDA 評估 LLM 的開源框架 ComputeEval

大語言模型 (LLMs) 正在徹底改變開發者的編碼方式和編碼學習方式。對于經驗豐富的或初級的開發者來說，
1 MIN READ
2025年 4月 9日

在 NVIDIA NeMo Guardrails 中使用 Cleanlab 可信語言模型防止 LLM 幻覺

隨著越來越多的企業將 Large Language Models (LLM) 集成到其應用中，他們面臨著一個嚴峻的挑戰：
3 MIN READ
2025年 4月 8日

使用先進的開放式 NVIDIA Llama Nemotron 推理模型構建企業 AI 智能體

此更新文章最初發布于 2025 年 3 月 18 日 。 企業組織正在采用 AI 智能體 來提高生產力并簡化運營。為了更大限度地發揮影響，
3 MIN READ
2025年 4月 2日

LLM 基準測試：基本概念

在過去幾年中，作為廣泛的 AI 革命的一部分， 生成式 AI 和 大語言模型 (LLMs) 越來越受歡迎。
4 MIN READ
2025年 4月 2日

NVIDIA Blackwell 在 MLPerf Inference v5.0 中實現巨大的性能飛躍

在不斷增長的模型大小、實時延遲要求以及最近的 AI 推理的推動下， 大語言模型 (LLM) 推理的計算需求正在快速增長。與此同時，
3 MIN READ
2025年 3月 26日

部署 NVIDIA AI Blueprint 實現成本高效的大語言模型路由

自 2022 年 11 月 ChatGPT 發布以來， 大語言模型 (LLMs) 的能力激增，可用模型數量呈指數級增長。隨著此次擴展，
2 MIN READ
2025年 3月 20日

借助 NVIDIA TensorRT-LLM 提升 Microsoft Azure AI Foundry 的 Llama 模型性能

微軟與 NVIDIA 合作，宣布在其 Azure AI Foundry 平臺上實現 Meta Llama 系列模型的變革性性能提升。
1 MIN READ
2025年 3月 19日

NVIDIA 虛擬 GPU 18.0 可在每個虛擬化平臺上實現適用于 AI 的 VDI

NVIDIA 虛擬 GPU (vGPU) 技術可在虛擬桌面基礎架構 (VDI) 中解鎖 AI 功能，使其比以往更加強大、用途更加廣泛。
1 MIN READ
2025年 3月 18日

隆重推出 NVIDIA Dynamo：用于擴展推理AI模型的低延遲分布式推理框架

NVIDIA 今天在 GTC 2025 宣布發布 NVIDIA Dynamo 。NVIDIA Dynamo 是一個高吞吐量、
4 MIN READ
2025年 3月 18日

NVIDIA Blackwell 實現世界紀錄的 DeepSeek-R1 推理性能

NVIDIA 在 NVIDIA GTC 2025 上宣布了創下世界紀錄的 DeepSeek-R1 推理性能 。 搭載 8 個 NVIDIA…
5 MIN READ