?? ??? ???? ?????, ? ?? ??? ???? ????, ??? ????? ?? ????? ? ?? ???? ??? ???? ??? ?? ? ???? ????. ??? ????? ?? ???? ?? ??? ??? ??? ?? ??? ????? AI ??????? ???? ????. ?? ???? MLOps ?? ??? ??? ????? ?? ???? ?? ????? ????? ??????? ???????? ???.
NVIDIA? GPU ?? ????? ?? ????? ?????? ??? ? ?? ??? ?? ??? ?????. ?? ?? ?? ?? ?? ?? GPU ?? ???? ?? AI ??????? ??? ? ????.
?? NVIDIA ?? ?? ??? ??
NVIDIA ???? ???? ?? ?? ?? ???(VMI)? GPU ???? ?????. ? ???? ???? ????? ? NVIDIA GPU ?????? ???? ???? ????? ???? ???? ??? ?? ?? ???? ?????. NVIDIA ???? ???? ?? VMI? ???? ?????? ????????? GPU ?? ?????? ??????? ??, ??? ? ??? ? ????.
NVIDIA GPU ?????? ??????? GPU? ???? ? ??? ?????? ???? ??? ??????. ?? ?? GPU ??, ??? ? ?? ??? ??? ?? ??? ??? ? ????. ??? ???? Kubernetes ????? ???? ?? ?? ? ??? ?? GPU ?????? ?? ??? Kubernetes ??? ??? ?? ?????? ??? ??? ? ????.
NVIDIA ???? ???? ?? VMI? AWS, Azure ? GCP?? ??? ? ????.
?? ?? ??: NVIDIA? ?????? ??
NVIDIA ???? ???? ?? VMI ? GPU ?????? ?? ?????? ??? ???? NVIDIA ???? ?? NVIDIA AI ??????? ?????.
???? ???? AI ???? ???? ?? ?? ????. NVIDIA AI ?????? ?? ???? ?? AI ????? ???? ?????. NVIDIA AI ?????? ????? ??? ?? ? ??? ? ???? ???? ?? NVIDIA AI ????? ?? ???? ? ???, ??? ??? ?? ??, ?? ?? ???? ????? ? ?? ?? ??? ??? ? ????. ?? ? AI ???? ???? ??? ?? ???? ??? ? ????.
?? NVIDIA AI ???????? ???? Run:ai
AI ????? ?? ??? ??????? ??? ?? ??? Run:ai? Atlas ????? ????? ?? ???? ???? AI ????? ???? NVIDIA AI Enterprise? ???????. ? ?? ??? ?? ??? ??? ???? ?????? ???? ? ????. ?? AI ??? ?? ? ??? ????? ?? ????? ????? ????? ??? ????? ?? ? ??? ? ????.
Run:ai? ???? ? ????? ?????? GPU? ???, ?? ? ??? ????? AI ??? ???? ?????. ??? ????? ?? ?? GPU ??? ?? ??? ??? ?? ???? ??? ? ????.
Run:ai Atlas?? GPU ??????? ??? ???? ?? ???? GPU? ?? ????? ??? ? ????. ?? AI ????? ???????? ? ? ???? ??? ???? ??? ?? ? ???? ????? ?? ?????.
Run:ai? ?? Kubernetes ????? ???? AI ???? ???? ???? ? ???? ??? ??? ? ????. NVIDIA ???? ???? ?? VMI? ???? ???? ????? Kubernetes ????? ???? ?? ????? ????? GPU ?? ?? ??? ??? ? ? ????.
??? ?? ? ? ?? ?????: “?????? NVIDIA ???? ???? ?? VMI? ???? ?? ???? ??????. ???? ???? ?? VMI? ???? ?? ? ??? Kubernetes? Docker ? GPU ????? ?????? ??? ? ????. ??? ? ?? ??? ??? ? ?????.”
AWS?? ???? ???? ?? VMI ????
AWS ???????? AWS ?????? ???? ?? ??? ???? NVIDIA ???? ???? ?? VMI? ?????.
??? ?? ?? ??? ?????? ???? ???? ?? ??? ???? Run:ai? ?????. ??? ???? ?? ?????? ???? ???? ???? ?? ? ? ????. ???? ???? ????? ??? ??? ????? ???.
????, ? ?? ?? ?? ??? kube-apiserver.yaml ??? ???? Run:ai ????? ??? ??? ??????. ??? ??? ?? ??? ????? ??? ????.
????? ?? ?????? kube-apiserver.yaml ??? ?? ? ????:
/etc/kubernetes/manifests/kube-apiserver.yamloidc ??? kube-apiserver? ?? ????? ?????? ??? ? ????. ???? oidc ???? ????.
spec:
containers:
- command:
- kube-apiserver
- --oidc-client-id=runai
- --oidc-issuer-url=https://app.run.ai/auth/realms/nvaie
- --oidc-username-prefix=-?? UI? ???? ? ????? ?????. ????? Run:ai ???? ???? ??? ?????? ? ????? GPU ?? ??? ???? ? ??? ???.
? ????? ??? ???? ????? ?? ??? GPU? ?????. ? ?????? GPU ???? 2?? ????? GPU ???? ?? ????? ?? nvaie-high-priority ? nvaie-low-priority? ??????. ????? ??? ?, ????? ????? ??? ? ?? Run:ai CLI ??? ??? ? ????.
?? ??? runai CLI? ???? ?? ????? Docker ???? ???? job(job1 ?? job2)? ?????. ?? ???? TensorFlow, CUDA, ??, ??? ?? ? ???? ???? ???? ????. ????? ?? ??? GPU? ????(-g 1), -p ????? ??? ????? ?? ???? ?? ????? ?? ????? ???? ?????.
? ?? ??? ??? ???? ??? ?? Run:ai? ??????? ?? ? ??? ?????:
runai submit job1 -i gcr.io/run-ai-demo/quickstart -g 1 -p nvaie-high-priority
runai submit job2 -i gcr.io/run-ai-demo/quickstart -g 1 -p nvaie-low-priority???? ??? ??? ??? ? ????:
runai describe job job1 -p nvaie-high-priority
runai ?? ?? job2 -p nvaie-low-priority?? ?? ?????? ? ? ??? ? ???? ?? GPU?? ???? ????.
?? ?? ??? ???? ?? ?? ????? ??? ? ????. ?? nvaie-high-priority ????? ??? GPU ???? 2? ???? ???? ? GPU ??? ?? ???? ?????. nvaie-high-priority ????? ?? ?? ????? ???? nvaie-low-priority ??? ???? ??? ??? ? ????.
?? ??? ?? ???? ????? ????? ????? ????, ?????? ?? ?? ??? ??? ?? ????? ???? GPU?? ??? ? ????. ???? ?? ??? ???? ?? ??? ? ?? ????? ??? ? ??? GPU? ?????.
runai submit job3 -i gcr.io/run-ai-demo/quickstart -g 1 -p nvaie-high-priority???? ??? ??? ??? ? ????:
runai describe job job3 -p nvaie-high-priority?? ????? ????, nvaie-high-priority ????? ?? ?? ?? ? ?? ??? nvaie-low-priority? ????? ???? ?? ???? ?? ??? ?? ? ? ????. ?? ?? ???? ????? GPU? ??? ? ?? ?? ???? ??? ?????.
??? ????? ?? ??? ?????:
runai delete job job1 -p nvaie-low-priority
runai delete job job2 job3 -p nvaie-high-priority??
NVIDIA? GPU ?? ????? ?? ????? ?????? ??? ? ?? ??? ?? ??? ?????. ?? ?? ???? MLOps? ?? ?? ?? ?? GPU ?? ???? ?? AI ??????? ??? ? ????.
AI ????? ?? ??? ??????? ??? ?? ??? Run:ai? Atlas ????? ????? ?? ???? ???? AI ????? ???? NVIDIA AI Enterprise? ??????. NVIDIA ???? ?? NVIDIA AI Enterprise? ???? NVIDIA VMI ? GPU ?????? ?? ?????? ??? ?? ? ????. NVIDIA AI Enterprise ????? ??? ??? ??? ? ???? ???? ?? NVIDIA AI ????? ?? ???? ? ??, ??? ??? ?? ??? ??? ? ???, ?? ?? ??? ?? ????? ? ?? ?? ??? ??? ? ????.
??? ??? ?? ???? ?????:
?? ???
- GTC ??:?Developer Breakout: NVIDIA AI Enterprise Testing and Deployment (Spring 2023)
- GTC ??:?Accelerate the Development of AI Solutions With AI Workflows (Spring 2023)
- GTC ??:?Accelerate your AI/ML and HPC Workloads with Google Cloud (Presented by Google Cloud) (Spring 2023)
- ???:?Metropolis Meetup: Expanding Vision AI to SaaS and the Cloud
- ???:?How the New NVIDIA Metropolis Program Will Supercharge Your Business
- ???:?Choosing Hardware Systems for AI in the Enterprise
? ???? ??? SDK? ???? ?? ???, ?? ???, ?? ??, ??, ?? ??, ???? NVIDIA ??? ???? ??? ??? ??? ??? ? ????. ?? ??? ???? NVIDIA? ?? ????? ???? ? ??? ??? ??? ?????? ???? ??? ??? ???.
