Smart Cities / Spaces – NVIDIA 技術ブログ

NVIDIA NIM によるマルチモーダルビジュアル AI エージェントの構築

Thu, 31 Oct 2024 08:46:59 +0000

Reading Time: 3 minutes 畫像から PDF、ストリーミング動畫に至るまで、ビジュアルデータが指數関數的に急増しているため、手動によるレビューと分析は事実上不可能になっています。企業は、このデータを大規模に実用的な洞察に変えるのに苦労しており、その結果、機會逸失やリスクの増大につながっています。この課題を解決するために、畫像や動畫の視覚認識とテキストベースの推論を組み合わせた強力なツールとして、ビジョン言語モデル (VLM) が登場しています。テキストのみを処理する従來の大規模言語モデル (LLM) とは異なり、VLM は複雑なマルチモーダルデータを理解し、それに基づいて行動するビジュアル AI エージェントを構築できるため、リアルタイムの意思決定と自動化が可能になります。リモートカメラの映像を解析して山火事の初期兆候を検出したり、

Source

]]>

NVIDIA NIM で LoRA アダプター群をシームレスにデプロイ

Fri, 07 Jun 2024 06:18:00 +0000

Reading Time: 3 minutes 最新の基盤である最先端の大規模言語モデル (LLM) は、數十億ものパラメーターを持ち、數兆もの入力テキストトークンで事前學習されています。多くの場合、カスタマイズの必要なく、幅広いユースケースで著しい成果を上げています。それにもかかわらず、研究では、下流のタスクで最高の精度を達成するためには、高品質でドメイン固有のデータセットで LLM を適合させる必要があることが示されています。多くの場合、カスタマイズされた小規模モデルは、より大規模な汎用LLM と同等あるいはそれを上回るパフォーマンスを発揮することが可能であり、同時にデプロイにかかるコストを大幅に削減することができます。しかし、特定の下流タスクのためにモデルをカスタマイズする作業は、作成とデプロイの両方に重大な課題をもたらす可能性があります。

Source

]]>

LLM アーキテクチャにおける Mixture of Experts の適用

Thu, 14 Mar 2024 02:16:40 +0000

Reading Time: 4 minutes Mixture of Experts (MoE) 大規模言語モデル (LLM) アーキテクチャは、GPT-4 などの商用の LLM と Mistral Mixtral 8x7B のオープンソースリリースによりコミュニティモデルの両方で最近登場しました。Mixtral モデルの強力な相対的性能は、MoE を LLM アーキテクチャでどのように使用できるのか、多くの関心と疑問を引き起こしました。では、MoE とは何であり、なぜそれが重要なのでしょうか? Mixture of Experts は、レイヤーまたは演算 (線形レイヤー、MLP、注意投影など) の計算を複數の「エキスパート」サブネットワークに分割するニューラルネットワークのアーキテクチャパターンです。こうしたサブネットワークはそれぞれの計算を獨立して実行し、

Source

]]>

cuDLA による NVIDIA Jetson Orin 上での YOLOv5 の紹介

Wed, 17 Jan 2024 03:51:27 +0000

Reading Time: 5 minutes この投稿は、Orin プラットフォームを使用する組込み開発者が、YOLOv5 をリファレンスとして、どのようにディープニューラルネットワーク (DNN) を展開できるかについて、技術的に深く掘り下げたものです。読者が簡単に理解できるように、次のセクション “NVIDIA DLA 紹介” で NVIDIA DLA を紹介し、セクション “NVIDIA cuDLA 紹介” で cuDLA と呼ばれる DLA 用の CUDA プログラミングモデル拡張を紹介します。そして最後の “YOLOv5 と cuDLA、Jetson Orin で共演” では、YOLOv5、DLA、cuDLA の組み合わせによる、Jetson Orin プラットフォーム上での効率的なオブジェクト検出実裝について詳しく説明します。 DLA の詳細については、

Source

]]>

NVIDIA Jetson Orin Nano 開発者キットで、 AI 搭載ロボットやスマートビジョンシステムなどを開発

Tue, 21 Mar 2023 08:37:29 +0000

Reading Time: 4 minutes NVIDIA Jetson Orin Nano 開発者キットは、NVIDIA が GTC 2023 で発表したように、エントリーレベルの AI 搭載ロボット、スマートドローン、インテリジェントビジョンシステムを作るための新しい基準となるものです。また、NVIDIA Jetson Orin Nano シリーズを使い始めることを簡素化します。コンパクトなデザイン、多數のコネクタ、最大 40TOPS の AI パフォーマンスにより、この開発者キットはビジョンを実現する最適な製品となります。開発者キットは Jetson Orin Nano 8GB モジュールとリファレンスキャリアボードで構成され、すべての NVIDIA Jetson Orin Nano および NVIDIA Jetson Orin NX…

Source

]]>

NVIDIA AI Enterprise 3.1 により、最先端 AI の利用を加速

Tue, 21 Mar 2023 04:36:47 +0000

Reading Time: 2 minutes ジェネレーティブ AI は、AI 革命における重要なマイルストーンとなりました。AI は重大な転換點を迎えており、企業は単に新しい取り組みを開始しているだけでなく、難しい取り組みにも積極的に挑戦しているのです。 50 を超えるフレームワーク、事前學習済みモデル、開発ツールを備えた NVIDIA AI プラットフォームのソフトウェアである NVIDIA AI Enterprise は、企業が最先端 AI の利用を加速できるように設計されています。AI を簡素化し、すべての企業がAIを容易に利用できるようにすることを目的としています。先日、AT&T Corp. と NVIDIA による協業が発表されました。今後 AT&T は、NVIDIA が提供する AI を活用しながら継続的に業務を変革し、

Source

]]>

Smart Cities / Spaces – NVIDIA 技術ブログ

NVIDIA NIM によるマルチモーダル ビジュアル AI エージェントの構築

NVIDIA NIM で LoRA アダプター群をシームレスにデプロイ

LLM アーキテクチャにおける Mixture of Experts の適用

cuDLA による NVIDIA Jetson Orin 上での YOLOv5 の紹介

NVIDIA Jetson Orin Nano 開発者キットで、 AI 搭載ロボットやスマート ビジョン システムなどを開発

NVIDIA AI Enterprise 3.1 により、最先端 AI の利用を加速

NVIDIA NIM によるマルチモーダルビジュアル AI エージェントの構築

NVIDIA Jetson Orin Nano 開発者キットで、 AI 搭載ロボットやスマートビジョンシステムなどを開発