在診所和研究設施中部署實時人工智能的能力對于實現外科、診斷和藥物發現的下一個前沿至關重要。從機器人手術到研究生物學中的新方法，醫生和科學家需要醫療設備演變成連續的傳感系統來研究和治療疾病。
為了實現下一代智能醫療設備，需要人工智能、加速計算和高級可視化的獨特組合。 NVIDIA Clara Holoscan 包括 Clara AGX Developer Kit 和 Clara Holoscan SDK ，它們結合起來為創建支持 AI 的醫療設備提供了強大的開發環境。為了在臨床邊緣部署這些設備，非常需要基于 NVIDIA IGX Orin 的生產硬件和為醫學級認證設計的軟件平臺。
NVIDIA Clara Holoscan 通過提供一組 OpenEmbedded 構建配方和參考配置，可用于定制和構建 Clara Holoscan 兼容的 Linux4Tegra （ L4T ）嵌入式板支持包（ BSP ），從而加快生產質量醫療應用程序的部署。隨著 Clara Holoscan SDK v0.3 的發布，開發人員可以使用定制的 OpenEmbedded 發行版更快地部署醫療 AI 。
使用 OpenEmbedded 創建定制的 Linux 發行版
OpenEmbedded 是一個構建框架，允許開發人員為嵌入式系統創建完全定制的 Linux 發行版。開發人員可以只使用特定于應用程序的軟件組件和配置來完全定制發行版。相比之下，商業 Linux 發行版從預定義的軟件集合中提供完整的操作系統，這些軟件集合通常包括圖形用戶界面、包管理軟件、 GNU 工具和庫以及系統配置工具。
可定制性對于嵌入式部署尤其重要，這樣可以優化嵌入式設備的內存、速度、安全性和安全性，同時使用單個預配置的 BSP 簡化部署過程。在受監管的醫療器械行業中，從過程開銷的角度來看，這種可定制性也很重要，因為它允許將未知來源軟件（ SOUP ）的分析、測試和文檔記錄限制在醫療器械基本性能所需的最小軟件組件集內。
與 HoloPack 的比較
HoloPack 是 Clara Holoscan 專用的 NVIDIA JetPack SDK 的實現。它為 Clara Holoscan 開發工具包提供了完整的開發環境，包括 Jetson Linux 和引導加載程序、 Linux 內核、 Ubuntu 桌面環境，以及一整套加速 GPU 計算、多媒體、圖形和計算機視覺的庫。這是 Clara Holoscan 開發堆棧。
使用定制的 OpenEmbedded 發行版，作為開發人員，您可以只包含應用程序部署所需的軟件組件。最終的運行時 BSP 可以在內存使用、速度、安全性和電源需求方面輕松優化。這是 Clara Holoscan 部署堆棧。
為了說明這一點，下表比較了 HoloPack 安裝與基于 OpenEmbedded 的 Clara Holoscan 構建的各種測量結果，包括 GitHub 上提供的 Clara Holoscan Embedded SDK 。
初始啟動后的資源使用情況（空閑時）：
| ? | Development Stack | Deployment Stack | Difference |
| Processes | 408 | 198 | 210 (51.4% less processes) |
| Disk Used | 22 GB | 7 GB | 15 GB (68.1% less disk usage) |
| Memory Used | 1,621 MB | 744 MB | 877 MB (54.1% less memory usage) |
運行tracking_replayer Clara Holoscan SDK 應用程序時的 RTX6000 測量值：
| ? | Development Stack | Deployment Stack | Difference |
| Power | 71 W | 67 W | 4 W (5.6% less power) |
| Temperature | 50 C | 48 C | 2 C (4% cooler) |
| GPU Usage | 15% | 11% | 4% (26.7% less GPU usage) |
tracking_replayer Clara Holoscan SDK 應用程序報告的作業運行時統計信息（以毫秒為單位）：
| ? | Development Stack | Deployment Stack | Difference |
| Visualizer | 4.51 | 3.18 | 29.4% |
| Visualizer Format Converter | 1.13 | 0.85 | 24.7% |
| Inference | 10.69 | 5.73 | 46.3% |
| Inference Format Converter | 1.00 | 0.93 | 7% |
| Replayer | 31.11 | 30.09 | 3.2% |
| Total | 48.44 | 40.78 | 15.8% |
定制的 OpenEmbedded / Yocto 發行版僅包含運行 Clara Holoscan SDK 應用程序實際所需的最小包集。因此，它有助于節省磁盤空間、內存和 CPU / GPU 周期，從而提高 Clara Holoscan 示例應用程序的整體性能。
盡管在開發的早期階段（例如，易于安裝新的 apt 包），希望具有使用 HoloPack 桌面體驗的靈活性，但本研究顯示了在醫療設備產品化的后期階段使用 OpenEmbedded / Yocto 定制部署堆棧的一些明顯好處。
NVIDIA Clara Holoscan 入門
Clara Holoscan OpenEmbedded/Yocto recipes 是開源的，與 NVIDIA Clara Holoscan SDK 的發布一起保持最新。
Clara Holoscan OpenEmbedded / Yocto 配方和 BSP 構建通常依賴于其他開源 OpenEmbedded 組件，包括（但不限于）：
- OpenEmbedded Core
- OpenEmbedded BitBake
- 社區驅動的 meta-tegra OpenEmbedded 層，負責 Clara Holoscan 利用的大部分核心 Jetson / L4T BSP 支持
如果您已經熟悉 OpenEmbedded 或 Yocto ，請查看 GitHub 上的 meta-tegra-clara-holoscan-mgx 回購。該 repo 中的 README 提供了構建和閃存 Clara Holoscan BSP 所需的指南和完整需求列表。
NVIDIA 還在 NVIDIA GPU 云（ NGC ）網站上提供 Clara Holoscan OpenEmbedded Builder ，以簡化開始使用這些配方的過程。它包括容器內或作為初始化本地構建樹的設置腳本的一部分所需的所有工具和依賴項，以便只需幾個簡單的命令即可完成 Clara Holoscan BSP 的構建和刷新。
要使用默認配置（包括 Clara Holoscan SDK 和示例應用程序）為 IGX Orin 開發工具包構建 Clara Holoscan BSP ，首先確保 Docker 運行時已登錄 NGC 。然后在新目錄中運行以下命令：
$ export IMAGE=nvcr.io/nvidia/clara-holoscan/holoscan-mgx-oe-builder:v0.3.0
$ docker run --rm -v $(pwd):/workspace ${IMAGE} setup.sh ${IMAGE} $(id -u) $(id -g)
$ ./bitbake.sh core-image-x11請注意，此構建將需要至少 200 GB 的可用磁盤空間，第一次完整構建將需要三個或更多小時。構建完成后， IGX Orin 開發工具包可以進入恢復模式，并使用以下命令進行刷新：
$ ./flash.sh core-image-x11Clara Holoscan 部署堆棧的一個主要功能是對開發人員工具包的 i GPU 和 d GPU 。當使用 i GPU 配置時，大多數運行時組件來自 metategra 層使用的標準 Tegra 包，并允許開發人員使用開發套件上的板載 HDMI 或 DisplayPort 連接。您可以訪問 GitHub 上的 meta-tegra-clara-holoscan-mgx 查看更多詳細信息。
利用超高速幀速率開發定制醫療 AI
憑借 Clara Holoscan SDK v0.3 上的定制 OpenEmbedded 發行版，為臨床邊緣的獨特醫療應用部署生產質量 AI 比以往任何時候都更容易。 SDK 為 4K 視頻提供了 240 Hz 的快速幀速率，使開發人員能夠結合來自更多傳感器的數據，以構建加速的 AI 管道。
要了解如何開始使用 NVIDIA Clara Holoscan ，請遵循 instructions on the Clara Holoscan SDK page 。
?
