Llama

2024年 12月 16日
2024 年熱門文章:NVIDIA NIM、語言模型突破和數據科學優化的精要
對于使用 NVIDIA 技術的開發者、研究人員和創新者來說,2024 年又是具有里程碑意義的一年。
2 MIN READ

2024年 11月 19日
Llama 3.2 全棧優化釋放 NVIDIA GPU 的高性能
Meta 最近發布了 Llama 3.2 系列視覺語言模型(VLM),其中包含 11B 參數和 90B 參數變體。這些模型是多模態模型,
2 MIN READ

2024年 11月 13日
NVIDIA Blackwell 在 MLPerf 訓練 v4.1 中將 LLM 訓練性能提高一倍
隨著模型規模的擴大以及使用更多數據進行訓練,它們的能力也隨之提升,實用性也隨之提升。為了快速訓練這些模型,需要在數據中心規模上提供更高的性能。
3 MIN READ

2024年 11月 8日
NVIDIA TensorRT-LLM KV 緩存早期重用實現首個令牌速度 5 倍提升
在上一篇 博客文章 中,我們展示了通過將鍵值 (KV) 緩存卸載到 CPU 內存來重復使用該緩存如何在基于 x86 的 NVIDIA…
2 MIN READ

2024年 9月 25日
借助 Llama-3.1-Nemotron-51B 實現準確性和效率的突破性發展
今天,NVIDIA 發布了一個獨特的語言模型,可提供無與倫比的準確性和效率性能。Llama 3.1…
3 MIN READ

2024年 7月 23日
在 NVIDIA 平臺上為 Lama 3.1 提供強效助力
Meta 的 Llama 大型語言模型集合是當今開源社區中最受歡迎的基礎模型,支持多種應用場景。全球數百萬開發者正在基于這些模型構建衍生模型,
2 MIN READ

2024年 7月 23日
利用 Llama 3.1 405B 生成合成數據
合成數據并不是創建新信息,而是將現有信息轉換為不同的變體。十多年來,合成數據一直用于全面提高模型準確性,無論是轉換圖像以改進對象檢測模型、
3 MIN READ