AI? ???? ??? ?? ??? ?? ? ?? ??? ???? ??? ???? ????. ??? ??????? ??? ???? ???? AI ??????? ????? ?????? ??? ?? ??? AI ??? ??? ??? ???.
??? ??? ?? ??? ?? ??, ?? ??, ??, ??, ?? ?? ? ?? ?? ???? ???? ????. ?? ?? ??? ? ?? ????? ?? ??? ?? ??? ?? ??? ??? ?? ??? ??? ?? 3D ??, ??? ??, ?? ??, ??? ??, ?? ??(Pose Estimation)? ??? ???? ???.
NVIDIA Jetson AGX Orin ??? NVIDIA Jetson ??? ? ?? ??? ??? ?? ?????. ??? ??? ?? ??? ??? ??? ??? ??? ?????. ??? ???? NVIDIA AI ????? ??? ???? ??? ?? AI ??????? ??? ?????.
Jetson AGX Orin? Jetson Orin NX ???
GTC Spring 2022?? Jetson Orin ?? 4?? 2022? 4??? ??? ???? ??????. ?? ?? 275?? ??(TOPs)? ??? ???? Jetson Orin ??? ?? ? ?? ?????? ????? ???? ????? ?? ??? AI ??? ??? ? ????. Jetson Xavier ??? ?? Jetson Orin? ?? AI ??????? ?? ? ?? ??, ?? ??? ? ?? ??? ?????.
| JETSON AGX XAVIER 64GB | JETSON AGX ORIN 64GB |
| 32 DENSE INT8 TOPS | 275 SPARSE|138 DENSE, INT8 TOPS |
| 10W to 30W | 15W to 60W |
| $1,299 (1KU+) | $1,599 (1KU+) |
| JETSON XAVIER NX 8GB | JETSON AGX ORIN 32GB |
| 32 DENSE INT8 TOPS | 200 SPARSE|100 DENSE, INT8 TOPS |
| 10W to 30W | 15W to 40W |
| $899 (1KU+) | $899 (1KU+) |
| JETSON XAVIER NX 16GB | JETSON ORIN NX 16GB |
| 21 DENSE INT8 TOPS | 100 SPARSE|50 DENSE, INT8 TOPS |
| 10W to 20W | 10W to 25W |
| $499 (1KU+) | $599 (1KU+) |
| JETSON XAVIER NX 8GB | JETSON ORIN NX 16GB |
| 21 DENSE INT8 TOPS | 70 SPARSE|35 DENSE, INT8 TOPS |
| 10W to 20W | 10W to 20W |
| $399 (1KU+) | $399 (1KU+) |
Jetson AGX Orin ???? Jetson AGX Orin 64GB? Jetson AGX Orin 32GB ??? ?????.
- Jetson AGX Orin 64GB? 15W~60W ???? ?????? ?? 275 TOPs? ??? ?????.
- Jetson AGX Orin 32GB? 15W~40W ???? ?????? ?? 200?? TOPs? ?????.
? ??? ??? ??? ? ??? Jetson AGX Xavier ??? ??? ? ????? ??? ??? ?? 6?? ?? ?????? ?????.
?? ? ????(Embedded) ???? ??? ?, ?? ? ???? ???? ?? ?? ???? ????. Jetson AGX Orin ???? ??? ??? ???? ?? ?? ????? ??? ??? ?? ?? I/O? ?????.
- ?? 22 ??(lane)? PCIe Gen4
- 10Gb ???(Ethernet) 4?
- ?? CSI ??
- 64GB eMMC 5.1? ???? 2? ??
- ??? ??? 1.5?
??? ??? Jetson Orin ?? ??? ? Jetson AGX Orin Series ??? ??? ?????.
USB 3.2, UFS, MGBE ? PCIe? UPHY ??(Lane)? ?????. ???? UPHY ??? ?? ???? ?????.
NVIDIA Orin NX ???? ?? 100 TOPs? AI ??? ?? Jetson Orin NX 16GB? ?? 70 TOPs? Jetson Orin NX 8GB? ????. ? ???? Jetson Xavier NX? ??? ??? ?????. NVIDIA Orin ????? ????? ?? ?? Jetson ? ??? ??? 260? SODIMM? ???? ????.
???? ??? ??? ?? ??? ?? ??? ??? ??? ?? ??? ??? ??? ? ????. Jetson Orin NX 16GB? 10W? 25W ???? ?? ??? ??? ???? Jetson Orin NX 8GB? 10W? 20W ???? ?? ??? ??? ?????.
Orin NX ???? Jetson Xavier NX ???? ???? ? ??? ?? ??? ?? 5?, ?? 3? ??? ?????. ?? Orin NX ???? ?? 7?? PCIe ??? 3?? 10Gbps USB 3.2 ?????? ?? ?? ?? I/O ??? ?????. ????? ?? ?? PCIe ??? ???? ?? NVMe? ??? ? ????. ??? ??? Jetson Orin ?? ???? ?????.
Jetson AGX Xavier? NVIDIA Xavier SoC? ???? ??????, ?? ?? ???? ?? ??? ??? ???????. NVIDIA Orin ????? Jetson AGX Xavier? ? ?? ????????. ??? ?-?(On-chip) ????? ?? ???? ? ? ??, ? ?? ?? ? ? ?? ?? ???? ?????.
Jetson Orin ???? ??? ?????:
- ?? 2048?? CUDA ?? ? ?? 64?? ?? ??? ???? NVIDIA Ampere ???? GPU
- ?? 12?? Arm A78AE CPU ??
- 2?? ??? ? ?? ???(DLA)
- ??? ?? ???
- GPU? CPU? ?????? ??? ????:
- ??? ???
- ??? ???
- ??? ??? ????(Compositor)
- ??? ??? ????
- ?? ?? ??
- ??? ?? ??
?? Jetson ??? ????? Jetson Orin? SOM(System-on-Module) ??? ???? ???????. ?? ??, ??? ? ?? ??? ??? ???? ????. ?? ?? I/O? 699? ???(Jetson AGX Orin ???) ?? 260? SODIMM ???(Jetson Orin NX ???)? ?? ??? ? ????. ? SOM ??? ?? ??? ??? ??? ?? ??? ? ????.
Jetson AGX Orin ??? ??
GTC 2022?? NVIDIA? ?? Jetson AGX Orin ??? ??? ??? ??????. ??? ???? ??? ???? ???? ? ??? ?? ?? ???? ????. ?? ??? ???? Jetson AGX Orin ??? ???? ?? ?? ??? ??? ????? ??? ?????. ? ??? ??? ??? ?? ??? AI ???? ?? ? ?? ???? ?????.
? ??? ??? ???? ???, ?? ????? ? ?? ???? ?? ?? AI ?? ??? ??, ??, ??, ???, ??, ??? ??, ??, ???? ?? ?? ?? ??????? ????????? ?????.
Jetson AGX Orin ??? ?? ??:
- NVIDIA Ampere ???? GPU ? 12?? Arm Cortex-A78AE CPU 64?? CPU, ??? ? ?? ? ?? ???
- ?? AI ?????? ?????? ??? ??? ? ?? ?? I/O, 204.8GB/s? ??? ??? ? 32GB? DRAM
- SDK ? ????? ???? ???? ??? NVIDIA AI ????? ??:
- NVIDIA JetPack
- NVIDIA Riva
- NVIDIA DeepStream
- NVIDIA Isaac
- NVIDIA TAO
Jetson AGX Orin ??? ??? ?? NVIDIA JetPack 5.0 ?????? ?????. NVIDIA JetPack 5.0? Jetson AGX ??? ??? ???? Jetson Orin NX ? Jetson AGX Orin ??? ??? ??? ??(clock) ???? ??? ? ????. ?? ?? ?? ??? ?? ??? ??? ? ????.
Jetson AGX Orin Developer Kit? ? ?? NVIDIA ?? ????? ?? ??? ? ????. ?? ?? ???? ?? ??????
?? ??? ??
Jetson Orin? ??? ??????? ? ??? ?????. Jetson AGX Orin ??? ??? ???? ??? ??? ??? AI? ?? ?? ???? Production-ready? ? Pretrained-model ??? ???? ?? ? ?????. ????? ??? ?? ????? ???????.
- ??? ??? ?? NVIDIA PeopleNet
- NVIDIA ActionRecognitionNet 2D ? 3D ??
- ??? ??? ?? NVIDIA LPRNet
- ??? ??(Pose) ??? ?? NVIDIA DashcamNet, BodyPoseNet
- ?? ??? ?? Citrinet-1024
- ??? ??? ?? BERT-base
- ??? ?? ??? ?? FastPitchHifiGanE2E
NVIDIA JetPack 5.0 Developer Preview? Jetson AGX Orin? Jetson AGX Xavier? ?? ??? 3.3? ???????. ?? ????? ??? ?? ??? 5? ??? ??? ??? ?????. Jetson AGX Xavier? ??? NVIDIA JetPack 4.1.1 Developer Preview?? 1.5? ???????.
????? Jetson AGX Orin Developer Kit?? ???????. PeopleNet? DashcamNet? GPU? ? DLA?? ??? ??? ? ?? ??? ??? ?? ?????. DLA? GPU?? ???? ?? AI ?? ????? ??????? ??? ? ???, GPU? ??? ??? ? ????.
PeopleNet, LPRNet, DashcamNet ? BodyPoseNet? Jetson?? ???? ??? INT8 ????? ?? ?????. Action RecognitionNet 2D ? 3D? ??? AI ????? ??? FP16 ??? ?? ?????. ? ?? ??? NVIDIA NGC?? ?? ? ????.
????, ?? MLPerf ?? ?? ?????? NVIDIA? ???? ??? ???? Jetson Orin? ????? AI? ?? ??? ??? ????. Jetson AGX Orin? Jetson AGX Xavier? ?? ??? ???? ??? MLPerf ?????? ?? 5? ??? ??? ???? ??? ?? 2?? ??? ???? ?????.
Jetson ?????? ?? ?? ?? ?? ??
Jetson Orin? ?? ??? ??? ??? ??? GPU ?? ??? ??, ?????? ?? ? ??? AI ??????? ??? ?? ??? ??? NVIDIA AI ?????? ?? ?????.
NVIDIA JetPack? Jetson ???? ?? SDK???. NVIDIA JetPack? ???? ?? AI-at-the-edge ??? ?? ??? ?? ??? ?????. Jetson Orin? ??? ???? NVIDIA JetPack 5.0?? ?????.
- LTS Kernel 5.10
- Ubuntu 20.04 ?? ?? ?? ???
- A UEFI-?? ????(bootloader)
- CUDA 11.4, TensorRT 8.4 ? cuDNN 8.3? ??? ?? ??? ??
NVIDIA JetPack 5.0? Jetson Xavier ??? ?????.
NVIDIA? Jetson ????? ??? ???? ??????? ???? ??? ? ??? ??? ?? ??? ??? ?????? ?????? ?????.
- DeepStream? ?? ? AI ?????? ? ???? ???? ???? ?????. DeepStream? ?? ? ?? AI ????? ??? ?? ???? ?? ????? ???? ??? ??? ?? ???? ??? ?????.
- NVIDIA Isaac? ???? ?? ROS ???? ???? ROS ???? ??? ?? ???? ?? ??? ? ??? ?????.
- Omniverse? ???? NVIDIA Isaac Sim? ?? ???(Photo-realistic)?? ????? ??? ?? ??? AI ?? ??? ??, ???, ??? ? ?? ?????.
- NVIDIA Riva? ?? ?? ??(ASR) ? TTS(??? ? ???)? ?? ??? Pretrained-model? ?????. ? ??? ?? GPU ?? ??? AI ??????? ???? ??? ? ????.
NVIDIA? Production-ready? ? ??? AI ??? ?? ?? ??? ?? ?? ???? ???? ??? ?? ? ????? AI ??? ???? ??? ? ?? ??? ??? ?????.
?? ??? ??? ?? NVIDIA Omniverse Replicator? ?? ??? ???? ??? ??? ??? ??? ? ??? ???. Omniverse Replicator? ???? ?? ????? ???? ??? ?? ??? ???? ??? ?? ??? ?? ??? ??? ?? ? ????. ??? ???? ? ?? ???? ?? ?? ???? ???? ?? ???? ?? ???? ? ????.
NGC? NVIDIA Pretrained-model? ??? ?? ??? ??? ?? ???? ???? ??? ?? ????? ?????. Pretrained-model? Production-ready? ?????. NVIDIA TAO(Train-Adapt-Optimize) ?????? ???? ?? ??? ?? ?? ???? ???? ??? ??? ??? ??? ???? ???? ?? ??? ? ?? ??? ???? ??? ? ????.
?? ?? ???? Jetson AGX Orin?? ???? NVIDIA? ??? ??????.
?? ????? Jetson AGX Orin ??? ??? ?? ?? ?? ?????.
NVIDIA Jetson Orin ??? ???? ?? NVIDIA ??? ?? ??? ??? Jetson ????? ???? ?????.
?? ??? ????? ??? ??
Jetson AGX Orin ??? ??? ???? NVIDIA JetPack 5.0 SDK? ?????? Jetson Orin ?? 4?? ?? ?????. Jetson AGX Orin? ?? ?? ??? ???? ???? ?? ? ????. ?? ? ??? ???? NVIDIA ???? ??? ??? ? ??? ???? ???? ???? ??? ????.
