• <xmp id="om0om">
  • <table id="om0om"><noscript id="om0om"></noscript></table>
  • 3 月 19 日下午 2 點,鎖定 NVIDIA AI 網絡中文專場。立即注冊觀看
    數據中心/云端

    借助 NVIDIA AI Workbench 實現混合環境下的無縫協作和快速原型設計

    NVIDIA AI Workbench 是一款免費的開發環境管理器,可簡化所選系統上的數據科學、AI 和機器學習(ML)項目。其目標是提供一種無縫的方式,以便在 PC、工作站、數據中心和云上以及跨 PC、工作站、數據中心和云進行創建、計算和協作。基本用戶體驗非常簡單:

    • 在單個系統上輕松設置 :只需幾分鐘即可在 Windows、Ubuntu 和 macOS 上單擊完成安裝,并在遠程系統上進行單行安裝。
    • 適用于去中心化部署的 托管體驗 :真正混合環境中的免費 PaaS/SaaS 類型 UX,無需基于服務的集中式平臺。
    • 面向專家和初學者的無縫協作: 在不限制高級用戶定制的情況下,實現友好的 Git、容器和應用管理。
    • 跨用戶和系統保持一致 :在不同系統中遷移工作負載和應用程序,同時保持功能和用戶體驗。
    • 簡化的 GPU 處理 :處理系統依賴項,如 NVIDIA 驅動程序 NVIDIA 容器工具包 ,以及 支持 GPU 的容器 運行時配置。

    本文將探討 10 月發布的 NVIDIA AI Workbench 的亮點,這是自 GTC 2024 大會上推出產品以來最重要的一次發布,也是朝著完整產品愿景邁出的一大步。

    版本亮點?

    本節將詳細介紹最新版本中的主要新功能和用戶請求的更新。

    主要的新功能包括:

    • 通過擴展的 Git 支持 (例如分支、合并、差異以及對提交和 gitignore 的細粒度控制) 來增強協作。
    • 通過 Docker Compose 支持,在多容器環境中創建復雜的應用和工作流程。
    • 通過單用戶 URL 共享應用程序,實現簡單、快速且安全的快速原型設計

    用戶請求的更新:

    • 桌面應用程序的深色模式
    • 改進了在本地化版本的 Windows 上安裝 PyTorch

    擴展的 Git 支持?

    以前,AI Workbench 只支持主分支上的單個整體式提交。用戶必須手動管理分支和合并,這就造成了各種類型的混淆,尤其是在解決合并沖突方面。現在,用戶可以直接在 Desktop App 和 CLI 中管理分支、合并和沖突。此外,他們可以查看和會診提交的單個文件差異。UI 旨在與手動 Git 操作無縫協作,并將更新以反映相關更改。

    A screenshot of the AI Workbench Desktop App tab for Git branching showing two different branches.
    圖 1. AI Workbench 桌面應用程序中的 Git 分支選項卡

    這些功能可在桌面應用程序的兩個新選項卡中找到:更改和分支。

    • 更改 :逐行提供工作樹與之前提交之間差異的視圖。用戶現在可以根據可見文件差異跟蹤的更改(添加、修改或刪除)單獨或批量選擇和提交文件更改,并且能夠單獨拒絕或向 git-ignore 添加文件。視圖還會動態更新以反映手動 Git 操作,例如手動暫存文件,然后在工作樹中對文件進行后續更改。
    • 分支 :提供分支管理(包括創建、切換和合并),以及 Git 服務器上遠程分支的可見性。合并有沖突的分支會啟動沖突解決流程,用戶可以在 UI 中執行此流程,也可以轉移到自己選擇的終端或文件編輯器。

    詳細了解這些高級 Git 功能的工作原理

    通過 Docker Compose 堆棧提供多容器支持?

    AI Workbench 現在支持 Docker Compose 。用戶可以使用多容器應用程序和工作流,并且擁有與 AI Workbench 為單容器環境提供的配置、再現性和可移植性相同的易用性。

    Screenshot of a graphical UI showing affordances for adding a Docker Compose file to an AI Workbench Project.
    圖 2. AI 工作臺環境管理選項卡中的 Docker Compose 功能

    基本思路是添加一個基于 Docker Compose 的“堆棧”,該堆棧由 AI Workbench 管理并連接到主開發容器。要添加堆棧,用戶只需將適當的 Docker Compose 文件添加到項目倉庫,并在桌面應用程序或 CLI 中執行一些配置。

    我們使用 Docker Compose 的原因有幾個。首先,我們不想在真空中進行開發,這就是我們 與 Docker 團隊合作 開發 托管式 Docker Desktop 安裝 等功能的原因。

    其次,我們希望用戶能夠在 AI Workbench 之外使用多容器應用程序,而 Docker Compose 是做到這一點的最簡單方法。此功能的愿景是在 AI Workbench 內實現多容器應用程序的簡化和強大的開發及計算,然后可以使用簡單的 docker-compose up 命令在 AI Workbench 之外設置。

    這項多容器功能是一項新功能,并將繼續發展。我們很樂意通過 NVIDIA AI Workbench 開發者論壇 獲得反饋,并幫助您解決任何問題。

    詳細了解 Docker Compose 的工作原理

    通過安全 URL 共享 Web 應用程序?

    借助 AI Workbench,用戶可以輕松啟動內置于項目中的托管 Web 應用程序。該過程相當簡單:使用已安裝的 Web 應用程序創建或克隆項目,啟動項目,然后啟動應用程序,應用程序就會顯示在瀏覽器中。

    這種方法對開發者 UX 很有好處,但對快速進行 UX 原型設計和協作并不好。如果您想讓其他用戶訪問和測試您的應用,您要么要求他們安裝 AI Workbench,克隆并運行項目,要么您必須完全提取應用以運行它并使其可供用戶使用。第一個是用戶的速度障礙,第二個是開發者的速度障礙。

    我們通過一項簡單的功能消除了這些速度障礙,該功能允許您設置遠程 AI Workbench 以啟用外部訪問,并創建一次性、安全的 URL,以便在遠程項目中運行 Web 應用程序。您只需確保用戶可以訪問遠程的 10000 端口,應用程序就會直接可訪問。他們只需單擊鏈接并轉至應用程序即可。

    A command line interface with AI Workbench commands showing how to open a project, start JupyterLab and then generate a URL to share JupyterLab with another user.
    圖 3. 開發者現在可以通過安全的一次性 URL,讓最終用戶直接訪問遠程 AI Workbench 項目中運行的應用程序。

    啟用這種訪問對于快速原型設計和協作非常有用。這就是各種 SaaS 產品將其作為托管服務提供的原因。與 AI Workbench 的區別在于,您可以在自己的資源和網絡(例如數據中心資源或共享服務器)上提供這種訪問。它不必位于云端。

    AI Workbench 通過限制對單個瀏覽器和項目中運行的單個應用程序的訪問來確保安全。這意味著用戶無法與其他人共享 URL,并且只能使用您與他們共享的 Web 應用程序。

    詳細了解應用程序共享的工作原理。

    暗色模式和本地化 Windows 安裝?

    許多用戶請求使用深色模式選項,因為它更易于眼睛。該選項現已推出,您可以通過桌面應用程序中直接提供的“Settings”(設置)窗口進行選擇。 詳細了解深色模式的工作原理

    到目前為止,Windows 用戶是我們本地安裝的主要受眾,并非所有 Windows 用戶都在使用英語語言包,由于我們如何處理一些 WSL 命令,因此 AI Workbench 安裝受到阻礙。特別是,我們在 Windows 上阻止了使用西里爾文或中文的用戶。我們調整了處理非英語語言包的方式,現在應該可以正常工作了。如果您之前受到阻礙,請立即嘗試。如果它仍然不適合您,請在 NVIDIA AI Workbench 開發者論壇 中告知我們,以便我們可以繼續改進此功能。

    新的 AI Workbench 項目?

    此版本介紹了旨在快速開啟您的 AI 開發之旅的新示例項目,詳情如下。 AI Workbench 項目 是一個結構化 Git 庫,可在 AI Workbench 中定義容器化開發環境。AI Workbench 項目提供:

    • 輕松設置和 GPU 配置:只需從 GitHub 或 GitLab 克隆一個項目,AI Workbench 即可使用自動 GPU 配置處理其余工作。
    • 開發集成: 無縫支持熱門開發環境(例如 Jupyter 和 VS Code),并支持用戶配置的 Web 應用。
    • 容器化和可定制環境:項目是容器化、隔離且易于修改的。調整示例項目以滿足您的特定需求,同時確保一致性和可再現性。

    探索 NVIDIA AI Workbench 示例項目

    多模態虛擬助理 示例項目

    該項目使用戶能夠使用回退到 Web 搜索的 多模態檢索增強生成(RAG) 工作流構建自己的虛擬助理。用戶可以與兩個基于 RAG 的應用程序交互,詳細了解 AI Workbench、與用戶文檔進行交談、對自己的安裝進行故障排除,甚至可以將 RAG 工作流重點用于自己的定制產品。

    • 控制面板: 用于處理產品文檔的可自定義 Gradio 應用允許將網頁、PDF、圖像和視頻上傳至持久性向量存儲并進行查詢。對于推理,用戶可以在 NVIDIA API Catalog 等云端點之間進行選擇,也可以使用自行托管的端點運行自己的推理。
    • 公共聊天: 在加載產品文檔后,Gradio 應用程序變成一個簡化的“只讀”聊天機器人,您可以通過新的 AI Workbench 應用程序共享功能與最終用戶共享。
    A GIF demonstrating how a user can submit a query to the virtual assistant and see the generated response.
    圖 4. 使用 Public-Chat Web 應用程序,這是一種只讀、精簡的聊天應用程序,旨在為最終用戶提供更多的消耗和共享

    “Competition-Kernel”(競爭內核) 示例項目?

    在參與 Kaggle 競賽時,此項目可提供輕松的本地體驗。您可以輕松利用本地機器或云實例處理競賽數據集、編寫代碼、構建模型和提交結果,所有這些操作均通過 AI Workbench 完成。Competition Kernel 項目提供:

    • 托管式體驗,可在您自己的 GPU 上進行開發和測試,并在幾分鐘內完成設置和定制。
    • 通過 GitHub 或 GitLab 進行版本控制和代碼跟蹤非常方便,也非常適合協作開發。
    • 使用本地專用 IDE 的強大功能:強大的調試、智能代碼完成、廣泛的自定義選項。
    • 輕松插入現有數據源(外部數據源或您自己的數據源)。
    • 沒有互聯網?沒問題。離線開發。

    開始使用?

    此版本的 NVIDIA AI Workbench 標志著在跨 GPU 系統提供無縫的 AI 開發體驗方面向前邁出了重要一步。此版本的新功能 (包括擴展的 Git 支持、對多容器環境的支持以及安全的 Web 應用程序共享) 簡化了 AI 工作負載的開發和協作。在此版本提供的三個新示例項目中探索這些功能,或創建您自己的項目。

    要開始使用 AI Workbench,請 從網頁中安裝應用程序 。有關安裝和更新的更多信息,請參閱 NVIDIA AI Workbench 文檔

    探索從數據科學到 RAG 的一系列 NVIDIA AI Workbench 示例項目

    訪問 NVIDIA AI Workbench 開發者論壇,報告問題并了解其他開發者如何使用 AI Workbench。

    ?

    0

    標簽

    人人超碰97caoporen国产