NVIDIA AI Workbench 是面向 AI 和 ML 開發者的工具包。現在已正式推出 免費下載。它具有自動化功能，可為新手開發者消除障礙，并提高專家的工作效率。
無論技能水平如何，開發者都可以體驗快速可靠的 GPU 環境設置，以及跨異構平臺工作、管理和協作的自由。購買 NVIDIA AI Enterprise 許可證的客戶還可以獲得企業級支持。
AI 工作臺的主要功能包括：
- 快速安裝、設置和配置，適用于基于 GPU 的開發環境。
- 基于最新模型的預構建、隨時可用的生成式 AI 和 ML 示例項目。
- 從數據中心部署具有云端點的生成式 AI 模型，可以利用 NVIDIA API 目錄 或與 NVIDIA 在本地的?NIM 微服務。
- 直觀的 UX+命令行界面 (CLI)。
- 輕松實現跨開發環境的再現性和可移植性。
- 適用于 Git 和基于容器的開發者環境的自動化。
- 容器和 Git 資源庫的版本控制和管理。
- 與 GitHub、GitLab 和 NVIDIA NGC 目錄 提供預訓練模型和工作臺示例。
- 透明地處理憑據、機密和文件系統更改。
自測試版發布以來，AI Workbench 還具有幾個新的關鍵功能：
- Visual Studio Code 支持：與 VS Code 集成，在 GPU 環境中編排容器化項目。
- 基礎圖像選擇：用戶可以在創建項目時選擇自己的容器鏡像作為項目基礎鏡像。容器鏡像必須使用遵循基礎鏡像規格的圖像標簽。
- **管理軟件包**：用戶可以通過 Workbench 用戶界面直接管理軟件包并將其添加到容器中。
- 安裝簡化：在 Windows 和 MacOS 上，安裝路徑更簡單。對 Docker 容器運行時的支持也有改進。
將生成式 AI 引入 NVIDIA RTX
生成式 AI 已呈爆炸式增長。AI Workbench 可以在數以億計的現代 NVIDIA RTX 驅動的工作站和 PC 上，或在數據中心和云中使用統一接口，將生成式 AI 開發引入任何 GPU 支持的環境。Mac 用戶可以安裝 AI Workbench，并將項目遷移到 NVIDIA 驅動的系統中，以實現協作和更強大的計算能力。
更快入門
除了快速的 GPU 工作站設置外，AI Workbench 還提供示例項目，作為現成的起點，幫助開發者更快地開始處理數據和用例。Workbench Projects 匯集了簡化各種基礎設施的工作流程管理所需的所有資源和元數據，同時促進隨時隨地實現無縫可移植性和再現性。
NVIDIA 提供了一系列免費的 Workbench 項目示例，幫助用戶入門：
- 與您的文檔交談 利用 Omniverse 的檢索增強生成 (RAG) 功能。在系統上運行嵌入模型，將文檔存儲在私有向量數據庫中。配置推理以在云中運行，使用 NVIDIA API 或在 RTX 系統上使用 NIM 推理微服務本地運行。
- 您可以以任何規模自定義 LLM。從在本地運行量化模型到針對優化精度進行全面微調，皆可。無論是本地運行在 RTX 系統上，還是橫向擴展到數據中心或云，都可進行微調和運行。有關如何微調和運行 Llama-2 或 Mistral-7B 的更多信息，請查看它們的GitHub 項目。
- 生成自定義圖像 通過在 RTX PC 本地或云端運行 Stable Diffusion XL，從文本提示中提取數據。在您選擇的支持 GPU 的環境中輕松重現，以便使用您的圖像微調模型。
訪問 NVIDIA 的 GitHub 參考 NVIDIA AI Workbench 項目，以更快速地獲得結果。一些 NVIDIA API 模型有相關的 Workbench 項目，可支持在推理之前對其進行自定義和微調。
更好的開發者體驗
許多因素都會影響開發者的工作效率。我們來看看其中一些因素，以及 AI Workbench 為提高工作效率和開發體驗所做的工作。
設置和配置
AI Workbench 可自動完成任務以設置目標 GPU 系統，同時為您選擇的開發環境配置支持 GPU 的容器。它可確保跨堆棧正確安裝兼容組件，包括操作系統驅動程序、CUDA 驅動程序和固件。
隨時隨地自由工作和協作
在不同的系統和位置之間無縫遷移工作負載，而無需擔心出現故障。遷移到適用于協作、速度、規模和成本的最佳平臺，無論是本地、數據中心還是公有云；Windows、Linux 還是 macOS.在 Workbench 項目中使用公有云 API、本地微服務、容器和熱門存儲庫。AI Workbench 可處理可移植性和再現性挑戰的復雜性，因此開發者不必如此。
托管式 AI 和 ML 工作流程
AI Workbench 管理后臺開發工作流程，以執行文件版本控制、位置更改和跟蹤項目依賴項等任務。這使新手和熟練的開發者能夠專注于執行，而無需擔心配置和管理挑戰。
獲取 AI 工作臺
NVIDIA AI 工作臺適用于 Windows、macOS 和 Ubuntu Linux。從?NVIDIA AI 工作臺?下載并安裝后，您可以在?NVIDIA Launchpad?中立即獲得短期訪問權限，并嘗試 AI 工作臺示例項目。
