頭條新聞 – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Fri, 21 Mar 2025 08:38:53 +0000 zh-CN hourly 1 196178272 AI 推理時代的 NVIDIA Blackwell Ultra http://www.open-lab.net/zh-cn/blog/nvidia-blackwell-ultra-for-the-era-of-ai-reasoning/ Wed, 19 Mar 2025 08:34:58 +0000 http://www.open-lab.net/zh-cn/blog/?p=13254 Continued]]> 多年來,AI 的進步一直通過預訓練擴展遵循清晰的軌跡:更大的模型、更多的數據和更豐富的計算資源帶來了突破性的功能。在過去 5 年中,預訓練擴展使計算需求以驚人的速度增加了 50M 倍。但是,構建更智能的系統不再只是預訓練更大的模型。相反,它是關于改進它們并讓它們思考。 通過將 AI 模型優化為專門任務,后訓練擴展可改進模型,以提供更多對話式響應。使用特定領域的合成數據調整模型,可增強其理解細微上下文并提供準確輸出的能力。合成數據生成作為訓練模型的可用內容沒有上限,這意味著在后訓練擴展中需要大量計算資源。 現在,一種增強智能的新 縮放定律 已經出現:測試時縮放(test-time scaling)。 測試時擴展也稱為 長思考 ,可在 AI 推理過程中動態增加計算量,從而實現更深入的推理。AI 推理模型不僅能一次性生成答案,還能積極思考、權衡多種可能性,并實時優化答案。

Source

]]>
13254
使用 DeepSeek-R1 NIM 構建具有專家推理功能的 AI 智能體 http://www.open-lab.net/zh-cn/blog/build-ai-agents-with-expert-reasoning-capabilities-using-deepseek-r1-nim/ Fri, 28 Feb 2025 06:27:48 +0000 http://www.open-lab.net/zh-cn/blog/?p=13149 Continued]]> AI 智能體 正在通過實現流程自動化、優化決策制定和簡化操作來改變業務運營。其有效性取決于專家推理,從而實現更明智的規劃和高效執行。 代理式 AI 應用可以從 DeepSeek-R1 等模型的功能中受益。DeepSeek-R1 專為解決需要高級 AI 推理的問題而構建,是一個包含 671 億個參數的 開放式專家混合模型 (MoE)。經過強化學習 (RL) 技術的訓練,該模型能夠激勵準確、結構化的推理鏈,在邏輯推理、多步驟問題解決和結構化分析方面表現出色。 DeepSeek-R1 通過 chain-of-thought (CoT) 推理將復雜問題分解為多個步驟,使其能夠更準確、更深入地處理復雜問題。為此,DeepSeek-R1 使用 test-time scaling,這是一種新的 scaling law,通過在推理過程中分配額外的計算資源來增強模型的功能和演能力。 但是,

Source

]]>
13149
NVIDIA GTC 2025 上的人工智能促進氣候、能源和生態系統復原力 http://www.open-lab.net/zh-cn/blog/ai-for-climate-energy-and-ecosystem-resilience-at-nvidia-gtc-2025/ Thu, 20 Feb 2025 04:09:19 +0000 http://www.open-lab.net/zh-cn/blog/?p=12959 Continued]]> 從減緩氣候變化到改進災害響應和環境監測,AI 正在重塑我們應對重大全球挑戰的方式。快速、高分辨率的氣候預報、實時監控和數字孿生技術的進步為科學家、政策制定者和行業領導者提供了數據驅動的工具,幫助他們了解、規劃和應對一個變暖的星球。 在 3 月 17 日至 21 日舉行的 NVIDIA GTC 2025 大會上,思想領袖、科學家、開發者和創新者將重點介紹 AI 如何幫助塑造更具可持續性和韌性的未來。以下會議展示了 AI 在氣候預測、災難緩解和保護工作中發揮的作用,幫助社區適應日益不可預測的世界。 隨著全球變暖加劇,極端天氣事件變得更加嚴重和頻繁,社區需要更快、更精確的自然災害預測和響應策略。AI 正在改進洪水、野火和颶風建模,從而實現更早的警報和更有效的緩解措施。借助大規模天氣模擬、衛星數據分析和實時預測性見解,AI 正在幫助應急響應人員和決策者盡可能減少損失、提高抗災能力,

Source

]]>
12959
AI 基礎模型增強癌癥診斷并實現個性化治療 http://www.open-lab.net/zh-cn/blog/ai-foundation-model-enhances-cancer-diagnosis-and-tailors-treatment/ Tue, 04 Feb 2025 04:44:52 +0000 http://www.open-lab.net/zh-cn/blog/?p=12883 Continued]]> 斯坦福大學研究人員的一項新研究和 AI 模型正在簡化癌癥診斷、治療規劃和預后預測。這項名為 MUSK (Multimodal transformer with Unified maSKed modeling) 的研究旨在提高精準腫瘤學,根據每位患者獨特的醫療數據為其定制治療計劃。 “多模態基礎模型是醫學 AI 研究的新領域,”放射腫瘤學副教授兼研究高級作者 Ruijiang LI 說。“最近,我們為醫學領域開發了視覺語言基礎模型,尤其是在病理學領域。但是,現有研究使用的現有基礎模型需要配對的圖像 – 文本數據進行預訓練。盡管我們付出了大量努力,最終打造出 1M 病理圖像文本對,但它仍然不足以完全捕捉整個疾病譜系的多樣性。” 在考慮患者狀況和規劃最佳治療方案時,腫瘤科醫生依靠多種數據源。然而,醫生和 AI 模型仍然難以集成和解釋復雜的醫療數據。

Source

]]>
12883
CUDA 工具包現已支持 NVIDIA Blackwell 架構 http://www.open-lab.net/zh-cn/blog/cuda-toolkit-12-8-delivers-nvidia-blackwell-support/ Fri, 31 Jan 2025 04:55:11 +0000 http://www.open-lab.net/zh-cn/blog/?p=12892 Continued]]> CUDA 工具包 的最新版本 (版本 12.8) 使用最新的 NVIDIA CPU 和 GPU,持續提升數據科學、AI、科學計算以及計算機圖形和模擬領域的加速計算性能。本文重點介紹了此版本包含的一些新功能和增強功能: CUDA 工具包 12.8 是該工具包的第一個版本,在整個開發者工具套件 (包括性能工具和分析器、庫和編譯器) 中支持 NVIDIA Blackwell 架構。Blackwell 由 208 億個晶體管構建而成,是 NVIDIA Hopper GPU 中晶體管數量的 2.5 倍以上,是迄今為止最大的 GPU。 Blackwell 支持的主要功能包括:Key Blackwell 如需詳細了解 NVIDIA Blackwell 的領先創新,請參閱 NVIDIA Blackwell 架構技術概覽。 借助 Blackwell,

Source

]]>
12892
借助 AI 驅動的細胞分析技術推進罕見疾病檢測 http://www.open-lab.net/zh-cn/blog/advancing-rare-disease-detection-with-ai-powered-cellular-profiling/ Wed, 29 Jan 2025 05:31:21 +0000 http://www.open-lab.net/zh-cn/blog/?p=12913 Continued]]> 由于傳統基因組測序的局限性,罕見疾病很難診斷。哥倫比亞大學助理教授 Wolfgang Pernice 正在使用 AI 驅動的細胞分析來彌合這些差距,并推動個性化醫療的發展。 在 NVIDIA GTC 2024 大會上,Pernice 分享了他的實驗室對 Charcot-Marie-Tooth (CMT) 和線粒體疾病等疾病的研究成果。他的團隊開發了 CellNet,這是一種 AI 驅動的系統,使用患者細胞的高分辨率圖像來識別與疾病相關的細微模式,從而實現準確診斷并制定新的治療策略。 基因組醫學一直致力于將診斷轉化為個性化的治療或治療方法。雖然取得了一些進展,但許多患有 7,000 種已知罕見遺傳病之一的患者仍然需要有效的治療方法。Pernice 的實驗室正在利用計算機視覺和深度學習來解決罕見疾病診斷和治療中的主要障礙,從而致力于更快速、更可擴展的基因組醫學方法。

Source

]]>
12913
脊柱健康診斷通過深度學習實現自動化 http://www.open-lab.net/zh-cn/blog/spinal-health-diagnostics-gets-deep-learning-automation/ Wed, 22 Jan 2025 05:54:17 +0000 http://www.open-lab.net/zh-cn/blog/?p=12929 Continued]]> 先進的深度學習模型可自動執行 X 光分析,以實現更快、更準確的評估,從而改變脊柱健康診斷方式。這項研究甚至能夠處理復雜的病例,有望幫助醫生節省時間、減少診斷錯誤,并改進針對脊柱側凸和脊柱后凸等脊柱疾病患者的治療計劃。 “盡管脊骨髓對齊分析提供了前景光明的見解,但目前的研究依賴于相對較小的患者隊列。自動標注可以分析更大的隊列,從而更好地了解和更清晰地識別現有趨勢。基于 AI 的方法可以補充人類評級員,以提高評估的一致性,” ETH Zurich 生物力學研究所的博士生 Moritz Jokeit 說。 重塑脊柱診斷 作為最常見的脊柱疾病,美國約有 7M 人被診斷為脊柱側凸,全球約有 3% 的患者被診斷為脊柱側凸。該疾病和其他脊柱不對齊問題通常會引起痛楚、限制活動能力,并導致健康并發癥 (如呼吸系統問題),從而降低人們的生活質量。 準確的診斷和監控是有效治療患者的關鍵,但是,

Source

]]>
12929
如何使用 NVIDIA NeMo Guardrails 為客戶服務保護 AI 智能體 http://www.open-lab.net/zh-cn/blog/how-to-safeguard-ai-agents-for-customer-service-with-nvidia-nemo-guardrails/ Thu, 16 Jan 2025 06:23:28 +0000 http://www.open-lab.net/zh-cn/blog/?p=12699 Continued]]> AI 代理為 企業擴展和提升客戶服務以及支持交互提供了重要機會。這些客服人員可自動處理日常查詢并縮短響應時間,從而提高效率和客戶滿意度,幫助組織保持競爭力。 但是,除了這些優勢之外, AI 智能體也存在風險 。 大語言模型(LLMs) 容易生成不當內容或離題內容,并且容易受到“jailbreak”攻擊。為了充分發揮生成式 AI 在客戶服務中的潛力,實施可靠的 AI 安全措施至關重要。 本教程為 AI 構建者提供了切實可行的步驟,以便將基本的安全措施集成到適用于客戶服務應用的 AI 智能體中。它展示了如何利用 NVIDIA NeMo Guardrails ,一種可擴展的鐵路編排平臺,包括作為 NVIDIA NIM 微服務提供的以下三個新的 AI 保障模型: 通過本教程,您將學習如何部署 AI 智能體,在保持客戶信任和品牌完整性的同時提供快速、準確的響應。

Source

]]>
12699
AI 揭露被遺忘的潛在有害油氣井 http://www.open-lab.net/zh-cn/blog/ai-uncovers-potentially-hazardous-forgotten-oil-and-gas-wells/ Thu, 16 Jan 2025 06:16:31 +0000 http://www.open-lab.net/zh-cn/blog/?p=12693 Continued]]> 勞倫斯伯克利國家實驗室(Lawrence Berkeley National Laboratory) 的研究人員在美國各地散布著多達 80 萬口被遺忘的油氣井,他們開發了一種 AI 模型,能夠大規模準確定位可能向環境中泄漏有毒化學物質和溫室氣體(如甲烷) 的井。 該模型旨在識別自 1800 年代中期以來美國挖掘的大約 3.7M 油氣井中的許多井。 但其主要目的是幫助找到特定的井子集:無記錄的孤井 (UOWs)。 這些井并沒有出現在官方記錄中,也沒有已知的所有者,因此沒有任何法律實體負責封存這些“孤井”。此外,這些井的位置,尤其是一個多世紀前鉆得的位置 (當時井口的直徑通常為 6 英寸) 很少出現在識別油氣井的官方數據庫中。 更糟糕的是,這些泄漏的井并非異常。 在美國大約 300 萬平方英里的土地上,估計有 30 萬至 80 萬 UOWs。 要防止可能泄漏的井損害環境,

Source

]]>
12693
利用 AI 驅動的洪水建模和 3D 可視化技術增強氣候韌性 http://www.open-lab.net/zh-cn/blog/strengthening-climate-resilience-with-ai-powered-flood-modeling-and-3d-visualizations/ Wed, 15 Jan 2025 06:43:24 +0000 http://www.open-lab.net/zh-cn/blog/?p=12706 Continued]]> AI 驅動的洪水建模和 3D 可視化工具正在改變社區應對氣候風險的方式。在這場 NVIDIA GTC 2024 會議中,RSS-Hydro 的 Guy Schumann 和 Guillaume Gallion 將探索新一代地理空間應用和高保真可視化 (包括 NVIDIA Omniverse ) 如何通過為決策制定、公眾教育和救災人員訓練提供動態工具來增強抗災能力。 他們深入探討了 FloodSENS 等 AI 驅動的平臺如何結合使用衛星和傳感器數據以及在 NVIDIA GPUs 上運行的機器學習模型來創建高度準確的洪水地圖,即使在云量等具有挑戰性的條件下也是如此。 主要技術和方法包括: FloodSENS 平臺 FloodSENS 是一款由機器學習驅動的洪水繪圖工具,使用基于光學衛星數據訓練的 U-Net 模型。它通過集成數字高程模型 (DEM) 和水流量網格等輔助數據集,

Source

]]>
12706
NVIDIA Cosmos World 基礎模型平臺助力物理 AI 進步 http://www.open-lab.net/zh-cn/blog/advancing-physical-ai-with-nvidia-cosmos-world-foundation-model-platform/ Thu, 09 Jan 2025 08:43:45 +0000 http://www.open-lab.net/zh-cn/blog/?p=12593 Continued]]> 隨著機器人和 自動駕駛汽車 的發展,加速 物理 AI 的發展變得至關重要,而物理 AI 使自主機器能夠感知、理解并在現實世界中執行復雜的操作。這些系統的核心是 世界基礎模型 (WFMs),即通過物理感知視頻模擬物理狀態的 AI 模型,使機器能夠做出準確決策并與周圍環境無縫交互。 NVIDIA Cosmos 平臺可幫助開發者大規模為物理 AI 系統構建自定義世界模型。它為從數據管護、訓練到定制的每個開發階段提供開放世界基礎模型和工具。 本文將介紹 Cosmos 及其加速物理 AI 開發的主要功能。Cosmos 是一種開源的 Python 庫,用于加速物理 AI 開發。 構建物理 AI 極具挑戰性,需要精確的模擬以及真實世界的行為理解和預測。克服這些挑戰的一個關鍵工具是世界模型,該模型根據過去的觀察結果和當前的輸入結果預測未來的環境狀態。

Source

]]>
12593
Llama Nemotron 模型提升智能體 AI 工作流的準確性和效率 http://www.open-lab.net/zh-cn/blog/llama-nemotron-models-accelerate-agentic-ai-workflows-with-accuracy-and-efficiency/ Mon, 06 Jan 2025 08:52:07 +0000 http://www.open-lab.net/zh-cn/blog/?p=12596 Continued]]> Agentic AI 是新一波生成式 AI 浪潮,是一種范式轉變,通過使 AI 系統能夠自主行動并實現復雜的目標,具有變革行業的潛力。智能體 AI 將 大語言模型 (Large Language Models,LLMs) 的強大功能與高級推理和規劃功能相結合,為醫療健康、金融、制造和物流等各行各業帶來無限可能。 智能體 AI 系統將感知、推理和行動相結合,以有效地與其環境交互。它從數據庫和外部來源收集信息,分析目標并制定實現目標的策略。 系統的操作模塊可執行決策,同時保留過去交互的內存,以支持長期任務和個性化響應。借助多智能體協作,智能體可以共享信息并高效協調復雜的任務。 AI 智能體還配備了反饋機制,可創建 數據飛輪 ,并將通過交互生成的數據輸入到系統中,以增強模型。這使得系統能夠隨著時間的推移提高運營效率并做出更明智的決策。 這些系統的核心是基礎模型,

Source

]]>
12596
人形機器人學習的合成運動生成管道構建 http://www.open-lab.net/zh-cn/blog/building-a-synthetic-motion-generation-pipeline-for-humanoid-robot-learning/ Mon, 06 Jan 2025 08:09:16 +0000 http://www.open-lab.net/zh-cn/blog/?p=12587 Continued]]> 通用型類人型機器人旨在快速適應現有的以人為中心的城市和工業工作空間,處理繁瑣、重復或對身體要求苛刻的任務。這些移動機器人的設計初衷就是在以人為中心的環境中表現卓越,這使得它們在從工廠車間到醫療健康設施中的價值與日俱增。 模仿學習是機器人學習的一個子集,使人形機器人能夠通過觀察和模仿專家的人類演示來獲得新的技能。在現實世界中收集這些廣泛的高質量數據集既繁瑣又耗時,而且成本高昂。從物理屬性準確的模擬環境中生成的合成數據可以加速收集過程。 NVIDIA Isaac GR00T 可幫助應對這些挑戰 ,為類人型機器人開發者提供機器人基礎模型、數據流水線和仿真框架。用于合成運動生成的 NVIDIA Isaac GR00T 藍圖是一種用于模擬學習的模擬工作流,使您能夠從少量人類演示中生成指數級的大型數據集。 在本文中,

Source

]]>
12587
借助 NVIDIA 全棧解決方案提升 AI 推理性能 http://www.open-lab.net/zh-cn/blog/optimize-ai-inference-performance-with-nvidia-full-stack-solutions/ Tue, 24 Dec 2024 05:43:02 +0000 http://www.open-lab.net/zh-cn/blog/?p=12923 Continued]]> AI 驅動的應用的爆炸式發展對開發者提出了前所未有的要求,他們必須在提供先進的性能與管理運營復雜性和成本以及 AI 基礎設施之間取得平衡。 NVIDIA 正在為開發者提供涵蓋芯片、系統和軟件的全棧創新,重新定義 AI 推理 的可能性,使其比以往更快、更高效、更具可擴展性。 六年前,NVIDIA 著手打造 AI 推理服務器,專為構建高吞吐量、延遲關鍵型生產應用的開發者而設計。當時,許多開發者都在努力使用定制的、特定于框架的服務器,這些服務器增加了復雜性,增加了運營成本,并且難以滿足嚴格的服務水平協議(service-level agreements)關于延遲和吞吐量的要求。 為解決這一問題,NVIDIA 開發了 NVIDIA Triton Inference Server ,這是一個開源平臺,能夠為來自任何 AI 框架的模型提供服務。通過整合特定于框架的推理服務器,

Source

]]>
12923
AI 視覺技術助力綠色回收工廠智能化 http://www.open-lab.net/zh-cn/blog/ai-vision-helps-green-recycling-plants/ Thu, 19 Dec 2024 09:05:16 +0000 http://www.open-lab.net/zh-cn/blog/?p=12480 Continued]]> 全球每年僅回收約 13% 的 20 多億噸城市垃圾。到 2050 年,全球每年的城市廢棄物量將達到 3.88 億噸。 但全球回收行業的效率遠遠不夠。每年,價值高達 120 億美元的可回收塑料 (更不用說紙張或金屬了) 最終進入垃圾填埋場,而不是使用回收材料制造的新產品。 英國的初創公司 Greyparrot 開發了一款由 AI 驅動的小型設備,可提供“廢棄物智能”功能,旨在幫助回收工廠變得更高效、更環保。 這款名為 Greyparrot Analyzer 的兩英尺方形時尚設備使用嵌入式攝像頭來識別和區分流經回收工廠的傳送帶上的材料。 該分析器使用機器學習物體檢測模型(ODM)連接到回收工廠,并幫助改造其基礎設施。ODM 根據數千萬張廢棄物圖像進行訓練,捕獲和分析快速廢棄物圖像只需不到 60 毫秒。 分析器的 ODM 使用 NVIDIA H100 Tensor…

Source

]]>
12480
人人超碰97caoporen国产