CUDA ??? ?? ???? ?? NVIDIA GPU? ???? ?? ??? ??? ??? ?? ???? ????. ?? ???? ?? 12.3? ??? ??? ??? ????:
- Windows?? ?? ?? ???
- Windows?? ?? ?? CUDA ??
- ??? NVIDIA Nsight ??? ? NVIDIA Nsight ??? ??? ??
CUDA? CUDA ??? ??? ????, ?? ?? ? ? ??, ?? ? ??? ?? LLM? ?? ??? AI, ??? ? ?????, ?? ??? ??? ?? ?? ??? ??????? ?? ??? ????? ?????. CUDA? ???? ?? ??? ??? ??? ???? ? ??? ???.
NVIDIA Nsight ??? ??
?? ??? NVIDIA Nsight ??? ??? CUDA ??? ???? ?? NVIDIA Grace Hopper ????? CUDA ??????? ????? ????? ? ??? ???.
Nsight ???
Nsight Compute? CUDA ??? ?? ??? ????? ? ??? ????, ?? 2023.3? CUDA ?? 12.3? ?? ?????. ? ???? ??? ??? ?? ? ?? ??? ???? ??? ???? ????.
??? PM ??? ??? ?? ?? ?? ?? ???? ?????. ???? ???? ?? ???? ?? ??? ?? ???????. ?? ???? ? ??? ???? ?? ??? ????? ???? ?? ??? ?? ??? ?? ??? ??? ???? ? ??? ? ? ????(?? 1). ? ??? --full ??? ??? ???? ????. GUI?? PM ??? ???? ????? CLI? --section PmSampling ???? ???? ??? ? ????.
?? Nsight Compute 2023.3?? ???? ?? ?? ?? ?? ??? ???? ?? ??? ?? ???? ??? ?? ??? ???? ??? ? ?? ??? ???????. ? ??? ????? ? ???? ????? ???? ?? ????? ?? ?? ??? ???? ?? ??? ?? ???? ?? ?? ???? ? ? ????
??? ???? ? ?? ???? ????? ?? ??? ????? ??? ?? --lineinfo ???? ?????. ?? ?? ??? ????? ?? ???? ?? ?? --import-source ???? ?????.
Nsight Compute 2023.3? ??? ?? ??? ????? Nsight Compute ????? ?????.
Nsight ???
CUDA ?? 12.3?? ?? ?????? ???? ???? CUDA ?, API ? ?????? ??????? ?? ?? ?? Nsight Systems 2023.3? ???? ????.
?? ??? Nsight Systems? NVIDIA Grace CPU? ????? ?????? ??? ???? Grace CPU ??? ??? ??? ? ????. ?? Nsight Systems 2023.3?? GUI?? ???? ????? ??(NIC) ?????? ??? ??? ??? ???????.
??? ???? ?? ?? ???? ???? ?? ??? ?????? ???? ??? ???? ?? ??? ???? ? ??? ???. Nsight Systems? NIC ???? ?????? ????? ???? ?? ??? ?????. NIC ?? ??? ???? ???? ????? ???? ????? ??? ?????. ?? Nsight Systems? NVIDIA Quantum InfiniBand ??? ???? ?????? ? ????.
Nsight ??? 2023.3 ??? ?? ??? ????? Nsight ??? ????? ?????. Nsight ???? ????? ??? ??? ???? ??? ?? ??? ????? NVIDIA Nsight ????? ????? ? HPC ?? ?? ???? ?????.
??
CUDA ?? 12.3 ???? ?? ???? ?? ?? NVIDIA ???? ? ??? ?????? ???? ??? ?? NVIDIA GPU, ?? ?????, ???? ? ??? ??? ?? ??? ??? ?? ?????.
??? ??? CUDA ???? ????, ?? NVIDIA ? ?? ????? ??? ????, NGC ????? ?????. CUDA ??? ???? ???? ??? ?????.
?? ???
- GTC ??: CUDA ??? 101
- GTC ??: ????? ??????: ?? ??? ??? ?? ???? CUDA ??? ??
- NGC ????: CUDA
- SDK: CUDA ??
- SDK: cuFFTDx
- SDK: cuFFTXt
