NVIDIA? NVIDIA DLI(Deep Learning Institute), Developer????, SDK/????? ? ??? ??? ???? ? ??? ????? ???? ????. Jetson? ??? ??? ??? ?? AI?? LLM(Large Language Model) ? ?? ??, AI ?? ??, ?? ?? ???? ???? ??? ??, SDK/?????, ?? ??? ??? ?NVIDIA ?? ??? ???? ?? ??? ? ????. ??? ???? ?? ?? ??? ???? ??????!
NVIDIA DLI (Deep Learning Institute)
– NVIDIA Jetson AI ?? ????
Jetson AI ?? ????? Jetson AI? ??? ????, ???? ??? ??? ??? ?? ??? ?? ? ????. ?? ?? ???? ?? Jetson AI ?????? ??? ???? ?? ???? ???? ???? ???, ??? ??? ???? ??? ? ????. ?? ??? ??? ?? ??? ???? Jetson ? AI ??? ???? ???? ??? ? ????.
???? Jetson AI ?? ????? ?? ??? ?????.
– NVIDIA DLI ?? ???? ????
NVIDIA DLI ?? ???? ????? ??, ???, ????? DLI ??? ???? ??? ??? ? ?? ??? ???? ?????. ????? ?? ??, ?? ??? ?? ??? ??? ??, ??? ??? ????, ?? ?? ?? DLI ??? ?? ?? ??? ?? ? ????.
????? ?? ???? ??? ??? ? ????.
NVIDIA ?? ?? – SDK/?????
– ? ?? ?????
NVIDIA? ????? ??, ? ?? ??? ??, ?? ??? ??, ??? ?? ??? ??? ?????? ???? ????. NVIDIA CUDA-X AI? ???? ??? AI, ?? ??? ? ??? ??? ?? ??? GPU ?? ??????? ??? ? ??? ???? ??? ? ?? ????? ????, ? ?? ?????? PyTorch, TensorFlow, JAX? ???? ?? GPU?? ????? ?? GPU ? ?? ?? ???? ????. ??? NVIDIA NGC, NVIDIA ??? ?? ??? ? ????.
???? ??? ????, ????? ?????.
– NVIDIA Triton Inference Server
NVIDIA Triton Inference Server? ?? ?? ?? ?? ??????, AI ??? ??? ??, ??? ???? ???? ??? ??? ?? ??? AI? ?????. NVIDIA Triton? TensorFlow, NVIDIA TensorRT ? ?? ?? ? ?? ?????? ?? ????, ??? ??? ???? ??? ??? ??? ? ????. ??? ??? ??? ?? NVIDIA Triton? ???? ??? ?????.
– NVIDIA TensorRT
NVIDIA TensorRT? ??? ? ?? ??? ?? SDK?, ?? ??? ?? ??? ???? ?? ??? ?? 36? ???? PyTorch, TensorFlow, ONNX ? ?? ?? ??????? ??? ??? ??? ??????.
???? NVIDIA TensorRT? ???? ???, ???? ?? ?? ?? ?????.
– NVIDIA TAO Toolkit
TensorFlow? PyTorch? ???? ?? NVIDIA TAO Toolkit? AI/? ?? ?????? ???? ?? ?? ?? ????? ???? NVIDIA TAO ?????? ???(low-code) ?????. TAO Toolkit? AI ?????? ?? ?? ??? ???? ?? ??? ??? ??? ? ??, ?? ??? ??? AI ??? ??? ? ????. ?? ??? ?? 4??? ??? ??? ???? ????, ???? ??? ?????.
– NVIDIA DeepStream
NVIDIA DeepStream? AI ??? ?? ?? ??, ???, ??? ? ??? ??? ?? GStreamer ??? ??? ???? ?? ?????. IVA ?? ???? ???? ?? AI ???? ????? ???, ???? ? OEM?? ??? ??? NVIDIA DeepStream? ?? AI ??????? ???? ? ??? ??? ? ??? ????.
NVIDIA DeepStream? ???? ? ?????.
NVIDIA ??? ????
NVIDIA ??? ????? ??? ??? ??? SDK, ?? ??? ??? ? ??? ???? ?????. ???? ????? ????, ???? ????, ???? ??, ???? ? ?? ??? ?? ?????!
? ???? ??? SDK? ???? ?? ???, ?? ???, ?? ??, ??, ?? ??, ???? NVIDIA ??? ???? ??? ??? ??? ??? ? ????. ?? ??? ???? NVIDIA? ?? ????? ???? ? ??? ??? ??? ?????? ???? ??? ??? ???.
