AI 驅動模擬和數字孿生技術助力手術機器人技術創新發展

Mon, 14 Oct 2024 04:49:40 +0000

在手術室中集成機器人手術助手（RSAs）為外科醫生和患者的治療效果帶來了巨大的優勢。目前，這些手術機器人平臺由經過訓練的外科醫生在控制臺中通過遠程操作進行操作，可提高靈活性，從而簡化手術工作流程并減輕外科醫生的工作量。探索下一代手術助手的視覺行為克隆，可以進一步增強機器人輔助手術的能力和效率。本文將介紹用于機器人手術輔助的兩個模板框架：手術首次交互式自主助理（SuFIA）和手術首次交互式自主助理 – 行為克隆（SuFIA-BC）。SuFIA 使用自然語言引導和大語言模型（LLMs）來實現手術機器人的高級規劃和控制，而 SuFIA-BC 則通過行為克隆（BC）技術提高機器人手術助理的靈活性和精度。這些框架將探索 LLMs 和 BC 技術的近期進展，并對其進行調整，以便出色應對手術場景的獨特挑戰。這項研究旨在加速手術機器人助手的開發，最終目標是減輕外科醫生的疲勞、

Source

]]>

使用 NVIDIA IGX Orin 開發者套件在邊緣部署大型語言模型

Wed, 15 Nov 2023 06:57:36 +0000

隨著大型語言模型 (LLM) 功能變得更加強大，降低計算需求的技術也日趨成熟，因此出現了兩個令人關注的問題。首先，哪些最先進的 LLM 可以在邊緣設備上運行和部署？其次，現實世界的應用程序如何利用這些技術進步？運行先進的開源 LLM (如 Llama 2 70B)，即使在降低的 FP16 精度下也需要超過 140GB 的 GPU VRAM (在 FP16 中，700 億個參數 x 2 字節=140GB，KV 緩存更多)。對于大多數開發者和較小的公司而言，此數量的 VRAM 并不容易訪問。此外，由于成本、帶寬、延遲或數據隱私問題，應用程序特定的要求可能會排除使用云計算資源托管 LLM 的選項。 NVIDIA IGX Orin 開發者套件和 NVIDIA Holoscan SDK 應對這些挑戰，將 LLM 的強大功能帶到邊緣。

Source

]]>

Nigel Nelson – NVIDIA 技術博客

AI 驅動模擬和數字孿生技術助力手術機器人技術創新發展

使用 NVIDIA IGX Orin 開發者套件在邊緣部署大型語言模型