NVIDIA? 2023? 7? NVIDIA LaunchPad? ?? ???? ???(CC) ?? ?? ???? ??? ??? ??? ?? ??? ???? ??????. ???? ???? ???? ???? ??? ? ??? ?? ?? ??? ???? ?? ??? ??? ?????. NVIDIA H100 Tensor ?? GPU? CC? ?? ??? ??? ??? GPU???.
? ???? ???? ?? ??? ?? CUDA 12.4?? CC? ?? ?? GPU ???? ??? ?? ?? ???? ?????. ???? ?? ??? ? NVIDIA H100 ???? ???? ?? ???? VM ?????? ??? ?????.
?? ??? ???? ??? ?? ?? ??
NVIDIA? ???? ???? ???? ????? CPU ???, ???? ????, ?? ????? ????(ISV)? ???? ??? ???? ?????? ???? ???? ?????? ??? ???? ???? ????? ?????.
NVIDIA H100 Tensor ?? GPU? ???? ???? ?? ?? ????? ??? ?????.
- ?? ???
- ???? ???? ?? ????? ?? ??
??? ???
??? ???? ?? ?? ??? ???? ?? ?????. ??? ??? ?? ???? ????? ??? ???? ???? ?? ?? ??? ??? ??? ?? ? ????. ?? ?? ?? ???(?: ???? ?? ??? ??) ? ?? ???(?: ??? ??? ???)? ?? ??? ?? ?? ??? ?? ??? ????? ?? ???????.
??? ??? ???? ? ???? ?? ?? ???? ????? ?? ???? ??? ??? ? ??? ??? ???? ?????. CC? ?? ?? ???? ???? ??? ?? ???? ???? ?????? ???? ???? ?? ?????.
?? ??? ???? ?? AI ?? ?? ??? ???? ???? ???? ?? ???? ??? ??? ???? ?????, ?? ?? ?? ??(LLM)? ??? ?? ?? ?????. ?? ??? ???? ??? ??? ????? ???? ???? ??? ??? ? ????. ??? ????? ?? ?? ??(PII) ?? ?? ?? ??? ??? ? ???, ??? ???? ??? ?? ??(IP)? ????.
???? ???? AI ??? ???? ???? ??? ??????. NVIDIA? ???? ??? ??? ?? ???? ??? ??? ????.
NVIDIA H100 GPU? ?? ???? ? ????? ??
NVIDIA H100 Tensor ?? GPU?? ???? ???? ???? ? ??? ????? ?????? ?????.
????
NVIDIA H100 GPU? CC? ?? ??? ?? ???? VM ?? TEE(Trusted Execution Environment)? ???? CPU? ?????.
CPU CC ??
- AMD SEV-SNP
- Intel TDX CPU
???? CPU
- AMD Milan(EPYC 7XX3) ?? AMD Genoa(EPYC 9XX4)
- Intel Emerald Rapids
???? GPU
- NVIDIA H100 Tensor ?? GPU ? NVIDIA Hopper ?????? ???? ?? GPU ?? ? ???, H100 PCle ? H100 NVL ? ??
?????
- NVIDIA ????: CUDA 12.4 ????? ????(r550) ??
- ???? ??????: Azure Hyper-V, KVM
- ???? ?? ??
- AMD: Ubuntu 22.04(?? 5.19)(?? ??)
- Intel: Ubuntu 22.04(?? 6.2)(?? ??)
Linux ???
- Linux 6.9 ??(??? ? ??? ??)
??
?? CUDA 12.4?? CC? ?? ?? GPU ???? ??? ?? ?? ???? ?????. ???? ?? ??? ? NVIDIA H100 ???? ???? ?? ???? VM ?????? ??? ?????. ?? ????? NVIDIA? ???? ???? ??? ????? ?? ?? ??? ?? ???? ??????. ?? ??? ? ?? ??? NVIDIA ??? ? ?? ??? ???? ?????.
? ??? ??? ???? ????? NVIDIA ???? ??? ???? ?????.
?? ???
- GTC ??: ???? ???: ??? ?? ? NVIDIA ???? ??
- GTC ??: ??? ? ?? ???? Federated Learning? ???? ??? ?? AI
- GTC ??: ??? ?????? ?? GPU ??? ??? ? ??
- NGC ????: Kubernetes? NVIDIA ???? ??? ???
- NGC ????: GenAI SD NIM
- NGC ????: NVIDIA GPU Operator
