數據中心/云端

2025年 3月 10日

優化 CUDA C++ 編譯時間

在現代軟件開發中，時間是非常寶貴的資源，尤其是在編譯過程中。對于在大規模 GPU 加速應用程序上使用 CUDA C++的開發者而言，
2 MIN READ
2025年 3月 10日

在 NVIDIA DGX 云上確保模型訓練可靠性

在大型 GPU 集群上訓練 AI 模型給模型構建者帶來了重大挑戰。隨著作業規模的增加，人工干預變得不切實際，
1 MIN READ
2025年 3月 5日

借助 NVIDIA NIM 和 NVIDIA Holoscan for Media 增強直播媒體工作流程效率

NVIDIA Holoscan for Media 是一個 NVIDIA 加速平臺，專為多供應商實時制作和 AI 而設計。
2 MIN READ
2025年 2月 28日

聚焦：NAVER Place 利用 NVIDIA TensorRT-LLM 優化 SLM 基礎的垂直服務

NAVER 是一家韓國熱門搜索引擎公司，提供 Naver Place ，這是一項基于地理的服務，可提供有關韓國數百萬家企業和興趣點的詳細信息。
4 MIN READ
2025年 2月 27日

借助 NVIDIA KvikIO 實現高性能遠程 IO

處理大量數據的工作負載 (尤其是在云端運行的工作負載) 通常會使用對象存儲服務 (S3、Google Cloud Storage、
2 MIN READ
2025年 2月 20日

聚焦：東京大學使用 NVIDIA Grace Hopper 進行開創性的節能地震研究

超級計算機是推動突破性發現的引擎。從預測極端天氣到推進疾病研究，以及設計更安全、更高效的基礎設施，這些機器可以模擬因規模、
2 MIN READ
2025年 2月 12日

使用 NVIDIA NeMo 框架進行 LLM 模型剪枝和知識蒸餾

模型剪枝和知識蒸餾是功能強大且經濟高效的策略，用于從最初較大的同級獲得較小的語言模型。 在一篇“ 如何剪枝和蒸餾 Llama-3.1 8B ”…
4 MIN READ
2025年 2月 11日

NVIDIA DGX 云推出即用型模板，更好地評估 AI 平臺性能

在快速發展的 AI 系統和工作負載環境中，實現出色的模型訓練性能遠遠超出芯片速度。這需要對整個堆棧進行全面評估，從計算到網絡，再到模型框架。
2 MIN READ
2025年 2月 10日

NVIDIA Grace CPU 與 Arm 軟件生態系統集成

NVIDIA Grace CPU 將節能高效的性能提升到了新的高度，正在改變數據中心的設計。Grace CPU 專為數據中心規模打造，
2 MIN READ
2025年 2月 5日

使用 NVIDIA AI Workbench 簡化本地和云系統之間的協作

NVIDIA AI Workbench 是一款免費的開發環境管理器 ，用于在 GPUs 上開發、定制 AI 應用并對其進行原型設計。
3 MIN READ
2025年 2月 5日

NVIDIA Blackwell 上的 OpenAI Triton 提升 AI 性能和可編程性

矩陣乘法和注意力機制是現代 AI 工作負載的計算支柱。雖然庫如 NVIDIA cuDNN 提供高度優化的實現，
2 MIN READ
2025年 2月 4日

NVIDIA Spectrum-X 網絡平臺和合作伙伴提升 AI 存儲性能達48%

AI 工廠依靠的不僅僅是計算網。當然，連接 GPU 的東西向網絡對于 AI 應用的性能至關重要，而連接高速存儲陣列的存儲網也不容忽視。
1 MIN READ
2025年 1月 31日

CUDA 運行時中的動態加載機制

過去，我們使用 等離線工具將 GPU 設備代碼與應用程序一起編譯。在這種情況下，GPU 設備代碼在 CUDA 運行時內部進行管理。然后，
3 MIN READ
2025年 1月 31日

NVIDIA 集合通信庫 2.23 促使新的縮放算法和初始化方法的誕生

NVIDIA 集合通信庫 (NCCL) 可實現針對 NVIDIA GPU 和網絡進行優化的多 GPU 和多節點通信基元。
2 MIN READ
2025年 1月 30日

掌握 cudf.pandas Profiler 實現 GPU 加速

在 Python 數據科學領域，pandas 長期以來一直是直觀數據操作和分析的首選庫。但是，隨著數據量的增長，
2 MIN READ
2025年 1月 16日

借助 iGenius 和 NVIDIA DGX 云，繼續為主權 AI 和受監管行業預訓練先進的 LLM

近年來，大語言模型（LLMs）在推理、代碼生成、機器翻譯和摘要等領域取得了非凡的進步。然而，盡管基礎模型具有先進的功能，
4 MIN READ