對于使用 NVIDIA 技術的開發者、研究人員和創新者來說，2024 年又是具有里程碑意義的一年。從 AI 推理領域的突破性進展到助力開源貢獻，這些博客文章重點介紹了最受讀者反響的突破性成果。
NVIDIA NIM 提供經過優化的推理微服務，用于大規模部署 AI 模型
NVIDIA NIM 于 2024 年推出，是一套易于使用的推理微服務，用于加速基礎模型的部署。開發者可以在盡可能減少配置更改的情況下優化推理工作流，從而實現無縫、高效的擴展。
為了普及 AI 部署，NVIDIA 為其開發者計劃成員提供 NIM 的免費訪問權限，使更多的開發者能夠試驗和實施 AI 解決方案。
NVIDIA GB200 NVL72 提供萬億參數 LLM 訓練和實時推理
NVIDIA GB200-NVL72 系統通過支持萬億參數大語言模型 (LLMs) 的訓練和促進實時推理，突破 AI 能力的界限，樹立了新的標準。
NVIDIA 已將其 GPU 內核模塊完全轉為開源，從而使開發者能夠在定制 GPU 相關工作流程時獲得更好的控制力、透明度和適應性。
該指南簡化了 RAG 的復雜世界，展示了結合文本和圖像檢索如何增強 AI 應用。從 chatbots 到 search systems，多模態 AI 現在比以往更易于使用。
構建由 LLM 提供支持的 Data Agent 進行數據分析
此分步教程展示了如何構建由 LLM 提供支持的智能體，使開發者能夠使用自然語言界面改進數據分析并實現自動化。
StarCoder2 是一款 AI 編碼助手，旨在通過提供高質量的代碼建議和減少重復性編碼任務來提高開發者的工作效率。
如何將蒸餾 Llama 3.1 8B 剪枝為 NVIDIA MiniTron 4B 模型
深入了解將 Llama 3.1 8B 模型剪枝和提煉成更高效的 MiniTron 4B 的方法，在不影響準確性的情況下優化性能。
本教程概述了擴展檢索增強型生成（Retrieval-Augmented Generation，RAG）應用的簡單路徑，強調了生產就緒的最佳實踐。
RAPIDS cuDF 可將 pandas 的速度提升近 150 倍，且無需更改代碼
RAPIDS cuDF 為 Pandas 工作流提供了驚人的 150 倍加速，無需更改代碼，從而轉變數據科學工作流并提高 Python 用戶的工作效率。
展望未來?
在我們邁向 2025 年之際，敬請關注更多具變革性的創新。
訂閱 開發者時事通訊 ，及時了解根據您的興趣定制的 2025 年內容。在 Instagram 、 Twitter 、 YouTube 和 Discord 上關注我們，了解最新的開發者新聞。
?
?
