Ashish Sardana – NVIDIA 技術ブログ
http://www.open-lab.net/ja-jp/blog
Wed, 29 Jun 2022 20:52:42 +0000
ja
hourly
1
-
Torch-TensorRT で PyTorch の推論を最大 6 倍高速化
http://www.open-lab.net/ja-jp/blog/accelerating-inference-up-to-6x-faster-in-pytorch-with-torch-tensorrt/
Thu, 02 Dec 2021 06:41:00 +0000
http://www.open-lab.net/ja-jp/blog/?p=34
Reading Time: 4 minutes PyTorch と NVIDIA TensorRT を新たに統合し、1 行のコードで推論を高速化する Torch-TensorRT に期待しています。PyTorch は、今では代表的なディープラーニング フレームワークで … Continued]]>
Reading Time: 4 minutes PyTorch と NVIDIA TensorRT を新たに統合し、1 行のコードで推論を高速化する Torch-TensorRT に期待しています。PyTorch は、今では代表的なディープラーニング フレームワークであり、世界中に數百萬人のユーザーを抱えています。TensorRT はデータ センター、組み込み、および車載機器で稼働する GPU アクセラレーションプラットフォーム全體で、高性能なディープラーニングの推論を行うための SDK です。この統合により、PyTorch ユーザーは TensorRT を使用する際、簡素化されたワークフローを通じて非常に高い推論性能を得ることができます。 Torch-TensorRT は、TensorRT の推論最適化を NVIDIA GPU で利用するための PyTorch…
Source
]]>
34
人人超碰97caoporen国产