NVLink

2025年 4月 2日

NVIDIA Blackwell 在 MLPerf Inference v5.0 中實現巨大的性能飛躍

在不斷增長的模型大小、實時延遲要求以及最近的 AI 推理的推動下， 大語言模型 (LLM) 推理的計算需求正在快速增長。與此同時，
3 MIN READ
2025年 3月 27日

NVIDIA 硅光網絡交換開啟數據中心網絡新時代

NVIDIA 通過將硅光技術直接與 NVIDIA Quantum 和 NVIDIA Spectrum 交換機 IC 集成，開辟了新的領域。
1 MIN READ
2025年 3月 25日

借助 NVIDIA Mission Control 實現 AI 工廠自動化

DeepSeek-R1 等先進的 AI 模型證明，企業現在可以構建專用于自己的數據和專業知識的尖端 AI 模型。
2 MIN READ
2025年 3月 19日

AI 推理時代的 NVIDIA Blackwell Ultra

多年來，AI 的進步一直通過預訓練擴展遵循清晰的軌跡：更大的模型、更多的數據和更豐富的計算資源帶來了突破性的功能。在過去 5 年中，
2 MIN READ
2024年 12月 24日

借助 NVIDIA 全棧解決方案提升 AI 推理性能

AI 驅動的應用的爆炸式發展對開發者提出了前所未有的要求，他們必須在提供先進的性能與管理運營復雜性和成本以及 AI 基礎設施之間取得平衡。
2 MIN READ
2024年 11月 21日

RAPIDS 與 Dask 結合實現多 GPU 數據分析的高效實踐指南

隨著我們向更密集的計算基礎設施邁進，擁有更多的計算、更多的 GPU、加速網絡等，多 GPU 訓練和分析變得越來越流行。
1 MIN READ
2024年 11月 1日

NVSwitch 和 TensorRT-LLM MultiShot 共同加速 AllReduce 速度達 3 倍

在用戶數量可能在數百到數十萬之間波動，且輸入序列長度隨每個請求而變化的生產環境中，部署生成式 AI 工作負載會面臨獨特的挑戰。
1 MIN READ
2024年 10月 8日

將 AI-RAN 引入您附近的電信公司

生成式 AI 和 AI 智能體的推理將推動 AI 計算基礎設施從邊緣分配到中央云的需求。 IDC 預測 ，“商業 AI (消費者除外)…
5 MIN READ
2024年 9月 16日

借助 NVIDIA 集合通信庫實現顯存高效、快速初始化和成本估算優化 2.22

在過去幾個月中，NVIDIA 集合通信庫（NCCL）開發者一直在努力開發一系列新的庫功能和錯誤修復。在本文中，我們將討論 NCCL 2.22…
2 MIN READ
2024年 9月 6日

利用 NVIDIA Magnum IO NVSHMEM 3.0 實現跨平臺應用程序的可移植性和兼容性增強

NVSHMEM 是一個并行編程接口，可為 NVIDIA GPU 集群提供高效且可擴展的通信。NVSHMEM 是 NVIDIA Magnum…
3 MIN READ
2024年 8月 12日

NVIDIA NVLink 和 NVIDIA NVSwitch 加速大語言模型推理性能

大型語言模型（LLM）越來越大，增加了處理推理請求所需的計算量。為了滿足服務當今LLM的實時延遲要求，并為盡可能多的用戶提供服務，
3 MIN READ
2024年 6月 12日

NVIDIA 在 MLPerf Training v4.0 中創造了新的生成式 AI 性能和規模記錄

生成式 AI 模型具有多種用途，例如幫助編寫計算機代碼、創作故事、作曲、生成圖像、制作視頻等。而且，隨著這些模型的大小不斷增加，
3 MIN READ
2024年 4月 3日

使用 WholeGraph 優化圖形神經網絡的內存和檢索，第 2 部分

大規模圖形神經網絡 (GNN) 訓練帶來了艱巨的挑戰，特別是在圖形數據的規模和復雜性方面。這些挑戰不僅涉及神經網絡的正向和反向計算的典型問題，
2 MIN READ
2024年 3月 18日

NVIDIA GB200 NVL72 提供萬億參數 LLM 訓練和實時推理

對萬億參數模型的興趣是什么？我們知道當今的許多用例，并且由于有望提高以下方面的能力，人們的興趣正在增加： 其優勢是巨大的，
3 MIN READ
2023年 10月 24日

使用 Spark RAPID ML 庫中的新算法降低 Apache Spark ML 計算成本

Spark RAPID ML 是一個開源 Python 包，它可以使 NVIDIA GPU 加速 PySpark MLlib。
3 MIN READ
2023年 8月 29日

通過加速計算和 NVIDIA Aerial 開創 5G OpenRAN 進步

NVIDIA 憑借其與 OpenRAN 兼容的 5G 產品組合，正在推動整個生態系統中 5G 軟件和硬件的快節奏創新。
2 MIN READ