云服務

2025年 4月 23日

聚焦：Qodo 借助 NVIDIA DGX 實現高效代碼搜索創新

大語言模型 (LLMs) 使 AI 工具能夠幫助您更快地編寫更多代碼，但隨著我們要求這些工具承擔越來越復雜的任務，其局限性變得顯而易見。
3 MIN READ
2025年 4月 2日

LLM 基準測試：基本概念

在過去幾年中，作為廣泛的 AI 革命的一部分， 生成式 AI 和 大語言模型 (LLMs) 越來越受歡迎。
4 MIN READ
2025年 3月 31日

Volcano 調度程序中防止 GPU 碎片的實用技巧

在 NVIDIA，我們以精準和創新解決復雜的基礎設施挑戰為豪。當 Volcano 在其 NVIDIA DGX 云調配的 Kubernetes…
3 MIN READ
2025年 3月 26日

聚焦：Tomorrow.io 借助 NVIDIA AI 改變全球天氣恢復能力

從指導日常運營的超本地化預測，到啟發新氣候見解的行星級模型，世界正在進入天氣和氣候適應能力的新前沿。
2 MIN READ
2025年 3月 18日

NVIDIA Blackwell 實現世界紀錄的 DeepSeek-R1 推理性能

NVIDIA 在 NVIDIA GTC 2025 上宣布了創下世界紀錄的 DeepSeek-R1 推理性能 。 搭載 8 個 NVIDIA…
5 MIN READ
2025年 3月 18日

在 NVIDIA DGX 云上使用 NVIDIA NeMo Curator 處理 PB 級視頻

隨著 物理 AI 的興起，視頻內容生成呈指數級增長。一輛配備攝像頭的自動駕駛汽車每天可生成超過 1 TB 的視頻，
3 MIN READ
2025年 3月 18日

借助 NVIDIA DGX 云基準測試衡量和提高 AI 工作負載性能

隨著 AI 功能的進步，了解硬件和軟件基礎架構選擇對工作負載性能的影響對于技術驗證和業務規劃都至關重要。
2 MIN READ
2025年 2月 11日

NVIDIA DGX 云推出即用型模板，更好地評估 AI 平臺性能

在快速發展的 AI 系統和工作負載環境中，實現出色的模型訓練性能遠遠超出芯片速度。這需要對整個堆棧進行全面評估，從計算到網絡，再到模型框架。
2 MIN READ
2025年 2月 5日

NVIDIA Blackwell 上的 OpenAI Triton 提升 AI 性能和可編程性

矩陣乘法和注意力機制是現代 AI 工作負載的計算支柱。雖然庫如 NVIDIA cuDNN 提供高度優化的實現，
2 MIN READ
2025年 1月 31日

NVIDIA 集合通信庫 2.23 促使新的縮放算法和初始化方法的誕生

NVIDIA 集合通信庫 (NCCL) 可實現針對 NVIDIA GPU 和網絡進行優化的多 GPU 和多節點通信基元。
2 MIN READ
2025年 1月 13日

借助 NVIDIA DOCA 平臺框架，助力新一代 DPU 加速云基礎設施

越來越多的企業組織開始采用加速計算來滿足生成式 AI、5G 電信和主權云的需求。NVIDIA 發布了 DOCA 平臺框架 (DPF)，
2 MIN READ
2024年 12月 24日

借助 NVIDIA 全棧解決方案提升 AI 推理性能

AI 驅動的應用的爆炸式發展對開發者提出了前所未有的要求，他們必須在提供先進的性能與管理運營復雜性和成本以及 AI 基礎設施之間取得平衡。
2 MIN READ
2024年 11月 15日

借助 NVIDIA TensorRT-LLM 分塊預填充提高 AI 推理效率和簡化部署

在本 博文 中，我們詳細介紹了分塊預填充，這是 NVIDIA TensorRT-LLM 的一項功能，
1 MIN READ
2024年 11月 15日

NVIDIA NIM 1.4 現已部署可用，推理速度提升 2.4 倍

隨著 生成式 AI 重塑各行各業，對可立即部署的高性能推理的需求也在不斷增長。 NVIDIA NIM 為 AI…
1 MIN READ
2024年 11月 14日

NVIDIA DOCA 2.9 借助新性能和安全功能強化人工智能和云計算基礎設施

NVIDIA DOCA 通過為開發者提供全面的軟件框架來利用硬件加速來增強 NVIDIA 網絡平臺的功能，從而提高性能、安全性和效率。
2 MIN READ
2024年 11月 1日

NVSwitch 和 TensorRT-LLM MultiShot 共同加速 AllReduce 速度達 3 倍

在用戶數量可能在數百到數十萬之間波動，且輸入序列長度隨每個請求而變化的生產環境中，部署生成式 AI 工作負載會面臨獨特的挑戰。
1 MIN READ