NVIDIA? R515 ????? ???? ?? GPL ? MIT ????? ?? Linux GPU ?? ?? ??? 2022? 5?? ?? ??? ??????. ?? ???? ?? ??? GeForce ? ?????? GPU? ?? ????? ??? GPU? ???? ????.?
???? ?? ????? ?? ???? ??? ??? ?? GeForce ? ?????? Linux ??? ??? ???, ????? NVIDIA ?? ?? ??? ??? ?? ????? ???? ? ???? ??????.
2?? ?? ??,?NVIDIA? ?? ?? GPU ?? ??? ?? ????? ? ?? ?????? ??? ???? ??? ??? ??????:
- ?? ??? ??(HMM) ??
- ???? ???
- Grace ???? ??? ??? ????
- ?? ??
?? ?? ?? GPU ?? ??? ??? ???? ?? ??? ?????? ????, ? ??? R560 ?????? ??? ??? ?????.
???? GPU
?? GPU? ?? ?? GPU ?? ??? ???? ?? ????.
NVIDIA Grace Hopper ?? NVIDIA Blackwell? ?? ??? ???? ?? ?? ?? GPU ?? ??? ???? ???. ?? ????? ??? ????? ???? ????.
Turing, Ampere, Ada Lovelace ?? Hopper ????? ?? GPU? ?? NVIDIA? ?? ?? GPU ?? ??? ??? ?? ?????.
Maxwell, Pascal ?? Volta ????? ?? GPU? ?? ?? ?? GPU ?? ??? ?? ???? ???? ????. NVIDIA ?? ????? ?? ?????.
??? ???? ?? ? ?? GPU? ???? ???? ??, ???? ?? ????? ?????.
???? ?? ??, ?? ????? ???? ???? ??? ?? ??? ????? ?????. ??? ??? ? ??? ???? ?? ??? ???? ?? ??? ?????.
?? ???? ?? ??
????? ?? ?? ???? ???? ????? ?? ??? ?? ?????? ?? ?? ????? ?????. ??? ??? ??? ? ?? ?? ??? ????:
- CUDA ?????? ???? ??? ???
- ?? ??
- ?? ??? ????
- ??? ??? ?? ??
- Linux? Windows ?? ???
- CUDA ??
CUDA ?????? ?? ??? ??? ??
??? ???(.run ?? ??)? ???? CUDA ??? ???? ?? ?? ?????? ???? ????? ?????. ??? cuda ???? ???? CUDA ?? ? ?? ???? ???? ??? ?????. ?? ??, CUDA 12.5 ??? ?? ?? cuda? ???? CUDA ?? 12.5? ?? ?? NVIDIA ???? 555? ??? ? ????.?
?? 1? ? ??? ??? ?????.
???? ?? ?? GPU ?? ??? ???? ??? ?????? ??? ? ?????. ??? cuda-toolkit-X-Y ???? ?? ???? NVIDIA ???? ?? ???? ???? ????.
CUDA 12.6 ????? ??? ????? ??? ?????(?? 2).
?? ?? ??
.run ??? ???? CUDA ?? NVIDIA ????? ???? ?? ?? ????? ????? ???? ???? ?? ??? ????? ???? ?????. ?? ????? ?? ?? ???? ??? ??? ? ?? UI ??? ??? ? ????.
CUDA .run ??? ?? ???? ncurses ??? ?????? ???? ?? ?? ??? ??? ??? ?????.
| ┌──────────────────────────────────────────────────────────────────────────────┐ │ CUDA Driver │ │ [ ] Do not install any of the OpenGL-related driver files │ │ [ ] Do not install the nvidia-drm kernel module │ │ [ ] Update the system X config file to use the NVIDIA X driver │ │ – [X] Override kernel module type │ │ [X] proprietary │ │ [ ] open │ │ Change directory containing the kernel source files │ │ Change kernel object output directory │ │ Done │ │ │ │ │ │ │ │ Up/Down: Move | Left/Right: Expand | ‘Enter’: Select | ‘A’: Advanced options │ └──────────────────────────────────────────────────────────────────────────────┘ |
???? .run ??? ?? ???? ?? ??? ?? ??? ?????(?? 3).
?? ??? ????? ?? ?? Ansible? ?? ??? ??? ???? ?? ???? ???? ???? ???? ??? ? ????.
# sh ./cuda_12.6.0_560.22_linux.run --override --kernel-module-type=proprietary # sh ./NVIDIA-Linux-x86_64-560.run --kernel-module-type=proprietary?? ??? ???? ??
?? ?????, ???? GPU? ?? ????? ???? ?? ? ??? ??? ?? NVIDIA? ?? ????? ???? ??? ????? ??????.
?? ????? ?? ??? ???? ?? nvidia-driver-assistant ???? ??? ??, ????? ?????.
$ nvidia-driver-assistant??? ??? ?? ??
??? ??? ?? NVIDIA? ??? ???? ???? CUDA ??? ????? ??? ?? ?????. ??? ??? ????? ???? ??? ?? ???? ???? ?? ???? ???? ???? ??? ?? ???? ?? ?? ? ????.
? ????? ??? ???? ??? ???? ?? ??, ?? ?? ?? ?????? ??? ???? ?????.
apt: Ubuntu ? Debian ?? ??
?? ??? ?????.
$ sudo apt-get install nvidia-openUbuntu 20.04?? cuda ?????? ???? ???????? ?? ?? ??? ???.
$ sudo apt-get install -V nvidia-kernel-source-open $ sudo apt-get install nvidia-opendnf: Red Hat Enterprise Linux, Fedora, Kylin, Amazon Linux ?? Rocky Linux
?? ??? ?????.
$ sudo dnf module install nvidia-driver:open-dkmsdnf ?? ????? cuda ?????? ???? ???????? ?? ???? ?????? ???.
$ echo "module_hotfixes=1" | tee -a /etc/yum.repos.d/cuda*.repo $ sudo dnf install --allowerasing nvidia-open $ sudo dnf module reset nvidia-driverzypper: SUSE Linux Enterprise Server ?? OpenSUSE
?? ?? ? ??? ?????.
# default kernel flavor $ sudo zypper install nvidia-open# azure kernel flavor (sles15/x86_64) $ sudo zypper install nvidia-open-azure# 64kb kernel flavor (sles15/sbsa) required for Grace-Hopper $ sudo zypper install nvidia-open-64k??? ??? ??
??? ??? ?? ??? ? ???? ???? ???????. ???? ?? 560 ? CUDA ?? 12.6 ??? ?? ???? ??? ??? ??? ?????.
| ??? | ?? ?? ???? | ?? ??? ???? |
| Fedora/RHEL/Kylin | dnf module install nvidia-driver:open-dkms | dnf module install nvidia-driver:560-open |
| openSUSE/SLES | zypper install nvidia-open{-zure,-64k} | zipper install nvidia-open-560{-zure,-64k} |
| Debian | apt-get install nvidia-open | apt-get install nvidia-open-560 |
| Ubuntu | apt-get install nvidia-open | apt-get install nvidia-open-560 |
??? ??? NVIDIA ????? ????? ?????.
Linux? Windows ?? ???
Linux? Windows ?? ???(WSL)? ??? Windows ?? ??? NVIDIA ?? ????? ?????. ? ???? ??? ????? ????? ? ???. WSL? ???? ???? ???? ??? ???? ????.
CUDA ??
CUDA ?? ??? ??? ???? ?? ???? ?? ??? ?????. ?? ??? ?????.
$ sudo apt-get/dnf/zypper install cuda-toolkit??? ??
?? ?? ?? GPU ?? ??? ??????? ? ?? ?? ?? ????? ???? ??? ???? NVIDIA ???? ?? CUDA ??? ???? ??? ?? ??? ??? CUDA ?? ????? ???? ??? ?????.
?? ???
- GTC ??: ??? ??? ??? CUDA ??? ? ?? ????
- GTC ??: ?? ?? LLM ??????? ?? GPU?? ????? ?? ??(??: NexGen Cloud)
- NGC ????: NVIDIA GPU ???
- NGC ????: NVIDIA vGPU ???? ???
- NGC ????: ?????? NVIDIA ???? ???
- SDK: NVAPI
