• <xmp id="om0om">
    •
    • <table id="om0om"><noscript id="om0om"></noscript></table>
  • Join experts from Google, Meta, NVIDIA, and more at the first annual NVIDIA Speech AI Summit. ? Register Free


    ? ?? ?????



    NVIDIA CUDA-X AI? ???? ????? ???? ??? AI, ?? ??? ? ??? ??? ?? ??? GPU ?? ??????? ??? ? ??? ???? ??? ? ?? ????? ?????. CUDA-X AI ?????? MLPerf? ?? ?? ???? ??? ?? ? ?? ???? ?? ??? ??? ?????.

    PyTorch, TensorFlow, JAX? ??? ?? ? ?? ?????? ?? GPU?? ????? ?? GPU ? ?? ?? ???? ?????. ????? ???? ???? GPU? ???? CUDA-X AI ?????? ???? ??? ? ?????? ?? ????? ??? ? ????.

    CUDA-X? ???? ?? NVIDIA? ?? ????? ??? ?????? ??? ???? ? ?? ??????? ????, ?? ??? ?? ?? ??? ?? ??? ??, ???? ??? IoT ?? ? ????? ???? ???? ??? ?????.

    NVIDIA? NGC? ????? ?? ??? ??, ?? ????, ???? ????? ???? ? ?? ? ?? ??? ?? ?? ??? ?????. NVIDIA AI Toolkit?? ?? ??? ?? ??? ??? ???? ?? ? AI ?????? ?? ?? ??? ??? ? ???? ? ???? ?????? ???? ????.

    NVIDIA Github?? ???? ? ??? ??, ??, ??, ???? ? 100?? ?? ???? ????.


    deep learning training and inference software chart


    ?? ?????? ??


    ? ?? ?????? ?? ?? ????? ?????? ?? ?? ???? ??, ?? ? ???? ?? ?? ??? ?????. PyTorch, TensorFlow, and JAX ? ?? ?????? ?? ?? ????? ?????? ?? ?? ???? ??, ?? ? ???? ?? ?? ??? ?????.

    NGC? ?????? ?????? ?? GPU ??? ??? ???? ??, CUDA ?????? ????? ???? ????. ?????? ?????? ?? ??? ???? ?? ? ????? ??? ?? ? ???? ???? ?? ??? ??? ?????. ??? ??? ????? ?? ??? ??? ? ??? ?? ??? ??? ? ?? ????? ???? ?????.


    logos




    ? ?? ??


    CUDA-X AI ?????? ??? ???? ?? ?? ??????? ? ?? ??? ???? ??? AI, ??? ??(NLU), ?? ???, ??? ?? ? ?????? ??? ?? GPU?? ?? ??? ??? ?????. ?? GPU ??? ? ?? ?? ?? ????? ?? ??? ? ????.

    GPU ?? ?????? ???? Tensor Core?? ?? ?? ???? ??? ??? ??? ????, ??? ?? ??? ????, ?? GPU?? ?? ?? GPU? ??? DGX SuperPod? ?? ??? ??? ??? ? ????.

    MLPerf 0.6 AI ????? NVIDIA ??

    ResNet-50 v1.5 Time to Solution on V100

    0102030405060708090100110120115.2257.8752.742.591.691.33Minutes8x V100,DGX-116x V100,DGX-216x V100,DGX-2H512x V100,DGX-2H1040x V100,DGX-11536x V100,DGX-2H

    MXNet | ??(batch) ??? ?? CNN V100 ?? ??? ?? | ???: ?? | ?????: ImageNet2012 | ???? ?? - MLPerf ???? ??


    ?? ??? ??? AI? ?? ??? ??? ? ??? ????? ??? ??? ?? ??? ??? ??? ???? ????? ??????. ?? ??? ???? ?? ??? ??? ??? ? ???? ??? ? ?? ??? ?? ?? ???? ?? ?? ???? ?????. NVIDIA AI ??? ?? ?? ??? ???? ?? ??? ?? ??? ???? ? ??? ?????? ?? ????? AI ??????? ??? ???? ???? ? ????.





    dali
    DALI

    Data Loading Library(DALI)? ? ?? ?????? ??? ?????? ????? ?? GPU ?? ??? ?? ? ??? ?? ????????.



    ??? ????

    neural network
    cuDNN

    CUDA Deep Neural Network (cuDNN)? ???, ??? ?? ? ?? ??? ?? ? ?? ?????? ??? ?? ??? ??????? ?? ?? ??? ??? ?? ??? ????????.

    ??? ????

    nccl
    NCCL

    NVIDIA Collective Communications Library (NCCL)? ?? 8?? GPU? ??? ?? all-gather, reduce ? broadcast ?? ??? ???? ?? GPU ??? ?????.


    ??? ????


    nemo
    NeMo

    NVIDIA Neural Modules (NeMo)? AI ?? ?? ? ?? ??????? ?? ??? ???? ???? ?? ?? ?? ?????.






    ??? ????

    tao toolkit
    TAO Toolkit

    TAO Toolkit? ?? ??? ??? ????? ?? ??? ??? ???? ??? ???? AI ??? ???? Python ?? ?????. DeepStream SDK? TensorRT? ??? ??? ??? NVIDIA ?? ????? ????? ??? ? ?????? ???? AI ???? ??? ? ????.

    ??? ????
    Deep Learning GPU Training System (DIGITS)
    DIGITS

    NVIDIA Deep Learning GPU Training System (DIGITS)? ???? ????, ?? GPU ????? ??? ?? ????? ?? ? ????, ??? ????? ?????? ??? ?? ??? ??? ????? ???? ??? ????.




    ??? ????


    AI-Assisted Annotation Toolkit
    AI-Assisted Annotation Toolkit

    AI-Assisted Annotation Toolkit? ????? API? ?? ??? ??? ?? ?? ??? 'AI-Ready'? ?? ? ?? ?????.


    ??? ????


    ? ?? ?????


    CUDA-X AI?? ???? ???? ??? ??, ??? AI, ?? ???? ?? ??????? ?? ??? ????? ???? ????? ??? ? ?? ?? SDK? ???? ????. NVIDIA? ?? SDK? ??? ??? ????????? CPU ?? ???? ?? GPU?? ?? ??? ?? 40??? ??? ? ????.

    CUDA ?? ???? ???? ?? NVIDIA? CUDA-X ?? ???? ?? ???????? ?????? ??? ??? ????, ??? ??? ????, ?? ??? ??? ???? ??? ??? ? ?? ??? ??? ?????.

    ??? AI ? ?? ??? ?????? ?????? ?? ?? ??? ?? 20~30?? ??? ?????, ?? ? ???? ??? ?? ????? ?????. ??????? ???? ??? ???? ?????? 300ms ??? ????? ??? ? ??? ?? ??? ?? ?? ?? ??? ?????. ??? ??? ??? ??? ??(FP16 ? INT8)? ???? GPU?? ?? ??????? ?? ?? ??? ??? ? ????.

    ?? GPU ??? ? ?? ?? ?? ???????? ?? ??? ? ????.

    TensorRT? ?? CNN??? ?? ??? ??

    ResNet-50 v1.5 ???

    01,0002,0003,0004,0005,0006,0007,0008,0007,1915,259Images Per SecondNVIDIA V100NVIDIA T4

    DGX-1: 1x NVIDIA V100-SXM2-16GB, E5-2698 v4 2.2 GHz | TensorRT 6.0 | ?? ??? = 128 | 19.12-py3 | ???: ?? | ?????: Synthetic
    Supermicro SYS-4029GP-TRT T4: 1x NVIDIA T4, Gold 6240 2.6 GHz | TensorRT 6.0 | ?? ??? = 128 | 19.12-py3 | ???: INT8 | ??? ??: Synthetic

    ?
    ?

    ResNet-50 v1.5 ?? ??

    00.51.01.50.990.91Latency in Milliseconds (Lower is Better)NVIDIA V100NVIDIA T4

    DGX-2: 1x NVIDIA V100-SXM3-32GB, Xeon Platinum 8168 2.7 GHz | TensorRT 6.0 | ?? ??? = 1 | 19.12-py3 | ???: INT8 | ??? ??: Synthetic Supermicro
    SYS-4029GP-TRT T4: 1x NVIDIA T4, Gold 6240 2.6 GHz | TensorRT 6.0 | ?? ??? = 1 | 19.12-py3 | ???: INT8 | ??? ??: Synthetic




    TensorRT
    TensorRT

    NVIDIA TensorRT? ??? ? ?? ??? ?? SDK???. ???? ? ?? ?? ??????? ?? ?? ??? ?? ???? ???? ? ?? ?? ?????? ???? ???? ????.

    ??? ????

    DeepStream SDK
    DeepStream SDK

    DeepStream SDK? ?? ?? ??, AI ?? ??? ? ??? ??? ???? ??? ???? ?? ?????.



    ??? ????
    NVIDIA Triton Inference Server
    NVIDIA Triton Inference Server

    NVIDIA Triton Inference Server? GPU ???? ????? DL ??? ???? ?? ?? ?? ??? ??????, Kubernetes? ???? ???????? ??? ? ?? ????? ?????.


    ??? ????


    NVIDIA Riva
    NVIDIA Riva

    NVIDIA Riva? ??, ?? ? ?? ??? ??? AI ??????? ?? ? ???? ?? SDK???. ????? ??? ??? ???? ??? ?? ??? ??? ??? ? ?? GPU ?? AI ???? ??, ?? ? ??? ? ??? ??? ?????? ?????.

    ??? ????


    NGC ?????? ?? ??? ?? ? DL ?????


    The NVIDIA? NGC? catalog????? ? ?? ? ?? ??? ?? GPU ??? ????? ?????. AI ?????? ?? ?????? ????? ?? ??? ???? ??? ??????, ????? ??, ?? ? ????? GPU ?? ???? ??? ??? ? ????. NGC? ????? ?? ??? ??? ?? ????? ?????, ???? ?? ??? ??? ??? ??? ?? ??? ???? ??? ? ????. ?? NGC? ????? ??? AI ???? ???? ? ??? SDK? ?????? ??? ??? ? ?? Helm ?????? ????? ??? ?? ??? ?????.

    AI ?????? ??? ????? ??? ???? ??? ???? ???? AI ??? ??? ??? ? ?? ?? ?? NGC? ????? ?????.




    Deep Learning Software Containers
    ? ?? ????? ????

    TensorFlow, PyTorch, TensorRT? ?? ? ?? ????? ????? ????? ???? ?????? ?? ?????? ? ?? ??? ????, ??? ?????? ?? ??????. ??? ???? ?? ??? ????? ????? ?? ??? ?????? ?? ??? ?? ? ?? ??? ??? ? ????. ? ?????? ?? ? ?? GPU ???, ??????, ?? ? ???? ?????? ???? ?????? ??? ??? ??? ?? ??? ??? ?????.

    ??? ????

    Pre-Trained Models
    ?? ??? ??

    NVIDIA? NGC? ????? ???-????, ?? ?? ??, ????? ? ??? ?? AI ??????? ?? ??? ??? ??? ?????. ???? ??? ???? ?? ????? ??, ?? ??? ??? NVIDIA? NGC? ???? ??? ?? ??? ??????? ??? ??? ??? ? ????. ??? ??? ?? ??? ??? ?? ???? ???? MLPerf ????? ???? ??? ??? ??? ??? ??? ?? ???? ??? ??? ???? ??? ? ????.


    ??? ????

    scripts for creating deep learning models
    ????

    NVIDIA? NGC? ????? ??? ???? ?? ?? ?? ? ??? ???? ?? ? ?? ??? ???? ?? ??? ??? ????? ?????. ??? ????? ?? ??? ??? ?????? ?? ??? ??? ???? ???, ?? ??? ?? ??? ???? ? ?? ???? ?????.






    Learn more...


    ??? ? DevOps ?


    ????? ?? ???? ???? NVIDIA ??? ?? ? ??, ?? ?? ? HPC ??????? ?? ??? CPU-GPU ??????? ?? ??? ????? ?????. ??? ???? ??? ??????? ????? ???? ???, ??????? ??? ???? ? ????. Kubernetes on NVIDIA GPUs? ???? ?? ? ?? ??? ?? ???? GPU ????? ???? ??? ? ????.



    NSIGHT Systems

    Nsight Systems? ??? ??? ??? ???? ??, ??????? ????? ?????, ??? ??? ??? ????, ??? ?? CPU? GPU? ??? ??? ????? ????? ???????.


    DLProf

    Deep Learning Profiler (DLProf)? GPU ???, Tensor Core?? ???? ?? ? ?? ? ???? ????? ????? ????.





    Kubernetes on NVIDIA GPUs

    Kubernetes on NVIDIA GPUs? ???? ?? ? ?? ??? ?? ???? GPU ????? ???? ??? ? ????. ???? ???? ?? GPU ?? ??????? ?? ???? ???? Kubernetes? ?? ????, ?? ??? ???? NVIDIA GPU?? ??? ??? ??? ? ????.


    NSIGHT Compute

    Nsight Compute? CUDA? ??? ?? ??? ? ?? ??????? ?? ??? ?? ??????, GUI ?? ??? ?????? ?? ??? ?? ???? API ???? ?????. ?? ???? ??? ??? ??? ??? ????? ? ??? ???? ?????, ?? ?? ????? ???? ??? ??? ?? ? ????.

    Feature Map Explorer

    Feature Map Explorer (FME)? ???? ?? ??????? ?? ?? ? ??? ? ?? ????? ?? ?? ?? ??? ????? ??? ?? ??? 4??? ??? ?? ?? ? ???? ???? ? ?? ????.





    Back to Top
    人人超碰97caoporen国产