NVIDIA TAO Toolkit

高精度でカスタマイズされた運用レベルの AI モデルを作成して、音聲およびコンピューター ビジョン AI アプリケーションを強化します。

TAO をダウンロード ? ? 今すぐ始める

NVIDIA TAO Toolkit とは

AI/機械學習モデルを一から作成するには、膨大な量のデータと何人ものデータ サイエンティストが必要です。しかし、転移學習を利用すれば、モデル開発プロセスをスピード アップできます。これは、既存のニューラル ネットワーク モデルから學習済みの特徴量を抽出して、新しいカスタム モデルに転移するという一般的な手法です。

TensorFlow と PyTorch をベースにした NVIDIA TAO Toolkit は、NVIDIA TAO フレームワークをローコードで利用できるようにしたもので、AI/ディープラーニング フレームワークの複雑さを抽象化して、モデルのトレーニング プロセスを促進します。TAO Toolkit を利用すれば、AI の専門知識や大規模なトレーニング データセットがなくても、転移學習によって、NVIDIA の學習済みモデルを獨自データで微調整して、推論向けに最適化できます。

What is TAO Toolkit and how does it fit into AI model development workflow?

主なメリット

TAO toolkit lets you train models with Jupyter notebooks easily.

モデルを簡単にトレーニング

TAO Toolkit は、Jupyter Notebook でモデルをトレーニングするローコード ソリューションのため、AI フレームワークの専門知識は不要です。

TAO toolkit helps you build highly accurate AI models for your use-case.

高精度の AI を構築

NVIDIA の學習済みモデルとモデル アーキテクチャを使用して、ユース ケースに合った高精度のカスタム AI モデルを作成できます。

TAO toolkit allows you to optimize the model for inference.

推論向けに最適化

カスタマイズするだけでなく、推論向けにモデルを最適化することで、性能を最大 4 倍に向上できます。

TAO toolkit helps you deploy optimized models with ease.

簡単に展開

ビジョン AI 向けの NVIDIA DeepStream、音聲 AI 向けの Riva、Triton Inference Server? を使用して最適化モデルを展開できます。

學習済み AI モデルとは

學習済み AI/ディープラーニング モデルは、あらかじめ代表的なデータセットでトレーニングされ、重み付けとバイアスによって微調整されています。一からトレーニングする場合と比べて、わずかな量の実データや合成データによって短時間で簡単にモデルをカスタマイズできます。

ビジョン AI 向け學習済みモデル

NVIDIA の 100 種類以上の最適化モデル アーキテクチャを使用して、畫像処理、分類、物體検出、セマンティック セグメンテーションといったコンピューター ビジョン タスク向けのカスタム ディープラーニング モデルを作成できます。

また、タスクベース モデルを使用して、人間の動作や姿勢の認識、混雑した空間における人の検出、車両およびナンバー プレートの検出や分類なども実行できます。

NGC から Jupyter Notebook をダウンロード 性能表を確認

対話型 AI 向け學習済みモデル

自動音聲認識 (ASR)、自然言語処理 (NLP)、テキスト読み上げ (TTS) を基盤とするモデルを微調整して、個別のリアルタイム コール センター體験、スマート キオスク、その他の対話型 AI サービスを設計できます。

NGC から Jupyter Notebook をダウンロード

主な機能

Rest API を使用して TAO Toolkit をアプリケーションに統合

Kubernetes 上の最新クラウドネイティブ インフラストラクチャに TAO Toolkit を展開し、REST API を使用してアプリケーションに統合できます。新しい AI サービスを構築するか、既存のサービスに TAO Toolkit を統合して、異種ツール間の自動化を有効にします。

詳細を見る

ONNX モデルの重みをインポート

獨自の分類モデルやセグメンテーション モデルの重みを ONNX モデルから TAO Toolkit にインポートして、微調整および最適化します。

デモを見る

データを拡張

空間変換や色変換などのデータ拡張機能により、既存の畫像データセットを多様化することで、モデルの性能を向上します。

詳細を見る

TensorBoard で視覚化

トレーニング損失、検証損失、精度、モデルの重み、予測畫像などのスカラーを視覚化し、モデルがどのように収束するかを理解します。

詳細を見る

推論向けに最適化

プルーニングと INT8 量子化により、同じ精度を維持しながら、推論スピードが最大 4 倍に向上します。

ブログ記事を読む
Optimized PeopleNet
ResNet34
01000200030004000500060007000A100A10A2OrinAGX XavierXavier NX

DeepStream や Riva をパワーアップ

TAO Toolkit で生成された最適化モデルは、ビジョン AI 向けの NVIDIA DeepStream SDK や音聲 AI 向けの Riva と簡単に統合できるため、モデルの性能向上やアプリケーション開発の促進に役立ちます。

DeepStream と統合 Riva と統合

あらゆる場所で AI を作成できる NVIDIA AI Enterprise

TAO Toolkit は、AI およびデータ分析ソフトウェアのエンドツーエンドのクラウドネイティブ スイートとして、NVIDIA AI Enterprise の不可欠なコンポーネントです。NVIDIA によって最適化、認定、サポートされているため、企業はあらゆる場所で展開できる AI を作成でき、AI プロジェクトを進めるためのエンタープライズ向けサポートも受けられます。

詳細を見る

推論性能

NVIDIA の學習済みモデルを使用して、エッジ (NVIDIA Jetsons) からクラウド (NVIDIA Ampere アーキテクチャ GPU) までのプラットフォームでピーク推論性能を実現します。バッチ サイズやその他のモデルについては、パフォーマンス データシートの詳細を參照してください。

Xavier NX
AGX Xavier
AGX Orin
T4
A2
A30
A100
モデル アーキテクチャ
推論の解像度
演算精度
モデルの精度
GPU + 2*DLA(FPS)
GPU + 2*DLA(FPS)
GPU + 2*DLA(FPS)
GPU(FPS)
GPU (FPS)
GPU (FPS)
GPU (FPS)
PeopleNet
960x544x3
INT8
80%mAP
263
418
1294
1064?
581
3160
6245
3 次元姿勢推定
256x192x3
FP16
8 ピクセル エラー
147
235
711
713?
471
2242
4179
姿勢/動作分類
3x300x34x1
FP16
90%
87
150
262
376
211
1122
2145
DashCamNet
960x544x3
INT8
84% mAP
423
670
1895
1676
865
4900
9500
ナンバー プレート認識
96x48x3
FP16
98% mAP
706
1190
4118
3959?
2180
12400
27200
2 次元動作認識
224x224x96
FP16
83%
245
471
1577
1897
1044
6000
12600
人體セマンティック セグメンテーション
960x544x3
FP16
87% mIoU
199
356
673
1027
631
2862
5745

導入事例

OneCup AI Customer Story

OneCup AI

OneCup AI のコンピューター ビジョン システムは、NVIDIA の學習済みモデルと TAO Toolkit を使用して動物の行動を追跡、分類することで、開発時間を數か月から數週間に大幅に短縮しました。

詳細を見る
RocketBoots Customer Story

RocketBoots

RocketBoots は、NVIDIA TAO Toolkit と學習済みモデルを使用して、社內の自動人材管理ソリューションの推論性能を向上させました。

詳細を見る
Floatbot Customer Story

Floatbot

Floatbot は、カスタマイズ済みのシンガポール英語の音聲 AI アプリケーションに NVIDIA Riva と NVIDIA TAO を使用して、世界規模の保険および金融機関のクライアントのコール センター業務を自動化しています。

詳細を見る

主な導入企業

booz allen
Kion group
Inex tech
Lexmark ventures
One cup AI
Rocketboots
SmartCow
appen
cvedia
hasty
lexset
lightly
Rendered AI
Sky Engine
Innotescus
Yuva AI

よく寄せられる質問

NVIDIA TAO は、大規模なトレーニング データセットや AI に関する専門知識がなくても、獨自のカスタム データによってコンピューター ビジョンおよび対話型 AI モデルを短時間でトレーニング、適応、最適化するフレームワークです。

TAO には 2 種類のバージョンがあります。
  1. TAO の機能をローコードで利用できる TAO Toolkit
  2. ノーコードの GUI ベース ソリューション (現在開発中) 早期アクセスをご希望の場合は、こちらからお申し込みください。
転移學習とは、あるアプリケーションから別のアプリケーションに學習済みの特徴量を転移させるプロセスのことで、1 つのタスクでトレーニングしたモデルを別のタスクで使用できるように再トレーニングする場合に、よく使用される手法です。転移學習はビジョン、音聲、言語理解の各モデルに適用できます。
はい、TAO Toolkit モデルの商用利用は無料です。ライセンス條項の詳細は、モデルのエンドユーザー ライセンス契約 を參照してください。
TAO Toolkit は、100 種類以上の NVIDIA 最適化モデル アーキテクチャとバックボーン (EfficientNet、YOLOv3/v4、RetinaNet、FasterRCNN、UNET など) の組み合わせをサポートしています。

対象となるモデル アーキテクチャの一覧は、こちらをご覧ください。
TAO Toolkit は、ユーザーとはまったく関係ない TensorFlow と PyTorch フレームワークを使用します。ユーザーは文書化されている仕様ファイルに従って TAO Toolkit を操作するため、DL フレームワークについて學ぶ必要はありません。
TAO Toolkit Get Started のページを參照してください。
TAO Toolkit Get Started のページを參照してください。
  • ビジョン モデルは、DeepStream を使用して展開できます。
  • 音聲モデルは、Riva を使用して展開できます。
  • モデルの展開には、Triton Inference Server を使用することもできます。

展開方法の詳細については、ドキュメントの対応セクションを參照してください。

TAO Toolkit では、人を検出するモデルを使用し、そのモデルに新しい「ヘルメット クラス」を追加することができます。その後、人とヘルメットの両方のクラスを含むデータセットで微調整を行います。詳細については、ホワイトペーパーをご覧ください。
はい。TAO Toolkit はクラウドに展開することができます。AWS、Azure、GCP で TAO Toolkit を実行する方法の詳細については、TAO Toolkit のドキュメントを參照してください。
トレーニングは、x86 システム上で TAO Toolkit を使用する必要がありますが、最適化されたモデルは Jetson ソリューションに展開できます。
NVIDIA Metropolis は、視覚データと AI を組み合わせ、幅広い業界で業務効率と安全性の向上を目指す、アプリケーション フレームワーク、開発者ツール、パートナー エコシステムなどの総稱です。詳細については、こちらをご覧ください。

リソース

新しい開発者向けブログ

NVIDIA Isaac Sim と NVIDIA TAO を使用した AI 搭載ロボットの開発と展開

ブログ記事を読む

ホワイトペーパー

転移學習の活用で無限に広がる、AI ワークフローの適応と開発の高速化の方法

ホワイトペーパーを読む

GTC ウェビナー

TAO Toolkit を使用して、開発者がデータに関する課題を克服し、最小限のコーディングでモデルを微調整する方法などをご紹介します。

オンデマンド ウェビナーを視聴する

TAO Toolkit ですばやくシンプルな AI トレーニングを実現

今すぐ始める