COMPUTEX 2023?? NVIDIA? ?? ???? ??? AI ????? ???? GPU ?? ??? ??? ? ?? ??? NVIDIA DGX GH200? ??????. ? ?????? NVIDIA DGX GH200 ????? ??? ?? ?? ??? NVIDIA Base Command? ??? ??? ??? ????, ???? ???? ?????, ??? ??? ??????? ?? ?????.
GPU? ?? ??? ????? ??? ?? 7? ?? ??? ?? ??? ?????? ???? ??? ??? ???????. 2016? NVIDIA? GPU ?? ????? ?? ??? ???? ???? ??? CUDA-6? ?? NVLink ??? ?? ??? ????? ??? ??????.
? ???, ?? DGX ???? ??? NVLink? ?? ??? ?????? GPU ???????. ???? ? GPU? NVLink ??? ?? ???? ???? ???? ? ????. ??? GPU ????? ?? ?? DGX? ?? ?????? ?? ???? NVIDIA Selene ??????? ? ? ?????? ?????. ??? ??? ???? ? ?? ????? ??? AI ??? ?????? ? ? ??? ???? ?? ??? ??????? ??? ? ????.
??? ??? ??? ??? ? ?? ?? ???? ??? ????? ???? ?? NVIDIA? NVIDIA Grace Hopper ???? NVLink ??? ???? ???? NVIDIA DGX GH200 ???? ?? 256?? GPU? ??????. DGX GH200 ?????? NVLink? ?? GPU ?? ??? ????? ??? 144?????? ???? ???? ???? ? ????.
?? NVIDIA DGX A100 320GB ???? ?? NVIDIA DGX GH200? NVLink? ?? GPU ?? ??? ????? ??? ?? 500? ? ? ???? ???? ??? ????? ??? GPU? ?????. NVIDIA DGX GH200? NVLink? ?? GPU? ???? ? ?? ???? 100????? ??? ???? ??? ????????.
NVIDIA DGX GH200 ??? ????
NVIDIA Grace Hopper ???? NVLink ??? ???? NVIDIA DGX GH200 ????? ?? ?????. NVIDIA Grace Hopper ???? NVIDIA NVLink-C2C? ???? Grace ? Hopper ????? ???? CPU+GPU ??? ??? ??? ?????. 4?? NVLink ??? ???? NVLink ??? ???? NVLink ??? ??? ???? ???? ??? ???? ?? GPU ???? ?????.
NVIDIA DGX GH200? ? NVIDIA Grace Hopper ????? 480GB LPDDR5 CPU ???? ??? ??? DDR5 ? 96GB? ?? HBM3? ?? GB? 8?? 1? ?????. NVIDIA Grace CPU ? Hopper GPU? NVLink-C2C? ?? ???? 5?? 1 ???? PCIe Gen5?? 7? ? ?? ???? ?????.
NVLink ??? ???? 2?? ??? Fat-Tree NVLink Fabric? ???? DGX GH200 ????? 256?? Grace Hopper ???? ??? ?????. DGX GH200? ?? GPU? 900GBps? ??? ?? GPU? ???? ?? NVIDIA Grace CPU? ?? GPU ???? ???? ? ????.
Grace Hopper ???? ????? ??? ?????? NVLink Fabric? ? ?? ???? ?? ??? ??? ???? ???? NVLink ??? ???? ?????. LinkX ???? NVLink Fabric? ? ?? ????? ??? ?????.
DGX GH200 ????? GPU ???? NVLink ??? ???? ???? NVLink ????? ?? Grace Hopper ????? ?? HBM3 ? LPDDR5X ???? ??? ? ????. NVIDIA Magnum IO ??? ?????? ???? ?? GPU ??? ????? 256?? GPU ??? ?????? ??? ?????.
DGX GH200? ?? Grace Hopper ???? 1?? NVIDIA ConnectX-7 ???? ??? ? 1?? NVIDIA BlueField-3 NIC? ??????. DGX GH200? 128TBps ???? ???? 230.4TFLOPS? NVIDIA SHARP ?-???? ????? ?? ??? ?? ????? ?? AI?? ????? ???? ?? ??? ????? NVLink ???? ???? ?? ???? ? ?? ????.
256?? GPU?? ? ???? ?? ConnectX-7 ???? ?? DGX GH200 ???? ?? ???? ? ? ????? ??? ? ????. BlueField-3 DPU? ??? ?? ?????? ??? ??? ???? ???? ?? ???? ????? ???? ??? ??? ?? ??? ???? ?????? ????? ??? ? ??? ?????.
?? ?? ?? ? ?? ??
GPU ???? ??? ??? ???? GPU ??? ??? ?? ?? ??? ???? AI ? HPC ??????? ??? ?? ???????. ?? ?? AI ? HPC ????? ?? NVIDIA DGX H100? ? GPU ???? ??? ??? ? ????. ??? ?????? DGX H100? ?? ?? ???? ???? ??????.
????? ??? ??? ???? ?? ? ?? ?? ??(DLRM), ????? ??? ??? ??? ???? ?? ?? ??? ??? ?? ???? ?? ?? ??????? DGX GH200? ???? 4??? 7?? ?? ??? ??? ? ????. ?? DGX GH200? GPU ?? ??? ?????? ??? ???? ??? ?? AI ? HPC ??? ?? ? ?? ????? ?????.
??? ????? NVIDIA Grace Hopper ??? ???? ??? ??? ???? ????.
?? ???? ????? ?? ?? ??
DGX GH200? ?? ?? ??? ?? ??? ????? ??? ?? ????? ?? ???? ??? ????? ?? ???? ???? ??? ??? ????? ???????. ? ??, ?? ???? ??? ??? ?? ??? ??? ???? ?????.
? ?? ???? ??? ???? ?? NVIDIA? ??? ???? ???? ??????. ?? ???? ?? ???? ??? ??? ??(???, ? ???, ??? ? ???)? ???, ??? ???? ??? ? ????.
? ?? NVIDIA ???
DGX GH200?? AI ????? ???? OS, ???? ???, ???? ????? ?????, ????, DGX GH200 ??? ????? ???? ???? ???? ??? NVIDIA Base Command? ?? ?????.
?? DGX GH200?? AI ?? ? ??? ?????? ???? ????? ???? ???? NVIDIA AI Enterprise? ?????. ? ? ?? ???? ?? ??? IT ??? ??? ?? ??? ?? ??? ??? ? ????.
??? AI ? HPC ???? ??
NVIDIA? ?? ? DGX GH200? ???? ?? ???? ????. NVIDIA? ? ???? ?????? ????, ???? ??? ???? ???? ?? ? AI ? HPC ??? ???? ? ??? ?? ? ??? ????? ???. ??? ?????.
? ???? ??? SDK? ???? ?? ???, ?? ???, ?? ??, ??, ?? ??, ???? NVIDIA ??? ???? ??? ??? ??? ??? ? ????. ?? ??? ???? NVIDIA? ?? ????? ???? ? ??? ??? ??? ?????? ???? ??? ??? ???.
