Sarah Tsai – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Thu, 16 May 2024 07:25:30 +0000
zh-CN
hourly
1
196178272 -
用于高性能計算中代碼開發的高級人工智能和檢索增強生成
http://www.open-lab.net/zh-cn/blog/advanced-ai-and-retrieval-augmented-generation-for-code-development-in-high-performance-computing/
Sun, 12 May 2024 07:19:23 +0000
http://www.open-lab.net/zh-cn/blog/?p=10026
Continued]]>
在快速發展的軟件開發領域，聊天機器人和 GitHub Copilot 極大地改變了開發人員編寫和管理代碼的方式。這些工具建立在 大型語言模型（LLM）基礎上，通過自動化日常編碼任務來提高生產力。 然而，LLM 在生成并行計算代碼中的使用對于 高性能計算（HPC）應用程序遇到了挑戰。 并行計算應用程序需要對功能編程的邏輯和管理多個并發操作（如避免死鎖和競爭條件）所涉及的復雜性有細致的理解。傳統的人工智能模型可以有效地生成串行代碼，但由于這些增加的復雜性，生成并行結構的代碼變得困難。 NVIDIA 也面臨著生成復雜代碼的挑戰，以支持新型加速計算半導體的設計。為了解決這一問題，高度相關的工作 ChipNeMo 于 2023 年超級計算期間發表，成功地應用了 域自適應預訓練（DAPT）和 檢索增強生成（RAG）技術，為工程師提供了 EDA 副駕駛。
Source
]]>
10026
人人超碰97caoporen国产