Edge Computing – NVIDIA 技術ブログ http://www.open-lab.net/ja-jp/blog Tue, 11 Mar 2025 09:41:21 +0000 ja hourly 1 Jetson プラットフォーム サービス 2.0 の VLM ビデオ要約マイクロサービスの紹介 http://www.open-lab.net/ja-jp/blog/introducing-the-vlm-video-summarization-microservice-on-jetson-platform-services-2-0/ Thu, 06 Feb 2025 02:31:27 +0000 http://www.open-lab.net/ja-jp/blog/?p=3152 Reading Time: 6 minutes はじめに Jetpack 6.2 のリリースと同時に Jetson プラットフォームサービス (JPS: Jetson Platform Services) がバージョン 2.0 としてアップデート リリースされました。 … Continued]]> Reading Time: 6 minutes Jetpack 6.2 のリリースと同時に Jetson プラットフォームサービス (JPS: Jetson Platform Services) がバージョン 2.0 としてアップデート リリースされました。これは、以前リリースされた「Metropolis Microservices on Jetson (MMJ)」の進化形であり、Jetpack 內でのマイクロサービスのネイティブ統合が強化されています。現在のリリースは JetPack 6.1 GA (BSP R36.4.0) または JetPack 6.2 (BSP R36.4.3) で動作します。 本稿では、この JPS 2.0 の概要と、その中の「VLM ビデオ要約サービス」のデモについて説明します。 今回リリースされた JPS 2.0…

Source

]]> 3152 NVIDIA Jetson Orin Nano 開発者キットを「Super」に強化 http://www.open-lab.net/ja-jp/blog/nvidia-jetson-orin-nano-developer-kit-gets-a-super-boost/ Tue, 17 Dec 2024 08:52:57 +0000 http://www.open-lab.net/ja-jp/blog/?p=3261 Reading Time: 4 minutes 生成 AI の分野は急速に進化しており、新しい大規模言語モデル (LLM: Large Language Models)、視覚言語モデル (VLM: Visual Language Models)、視覚言語行動 (VLA … Continued]]> Reading Time: 4 minutes 生成 AI の分野は急速に進化しており、新しい大規模言語モデル (LLM: Large Language Models)、視覚言語モデル (VLM: Visual Language Models)、視覚言語行動 (VLA: Vision Language Action) モデルが日々登場しています。 この変革の時代の最先端であり続けなければならない開発者には、CUDA を用いて最適化された推論とオープンな機會學習フレームワークにより、クラウドからエッジまで最新のモデルをシームレスにデプロイできる強力なプラットフォームが必要です。 ロボティクスやマルチモーダル エージェント向けの生成 AI ワークロードの新たな応用を支援するため、NVIDIA は NVIDIA Jetson Orin Nano 開発者キットをソフトウェア…

Source

]]> 3261 Hymba ハイブリッド ヘッド アーキテクチャが小規模言語モデルのパフォーマンスを向上 http://www.open-lab.net/ja-jp/blog/hymba-hybrid-head-architecture-boosts-small-language-model-performance/ Fri, 22 Nov 2024 08:01:01 +0000 http://www.open-lab.net/ja-jp/blog/?p=3108 Reading Time: 4 minutes Transformer は、その Attention ベースのアーキテクチャによる、強力なパフォーマンス、並列化能力、および KV (Key-Value) キャッシュを通じた長期記憶のおかげで、言語モデル (LM) の主 … Continued]]> Reading Time: 4 minutes Transformer は、その Attention ベースのアーキテクチャによる、強力なパフォーマンス、並列化能力、および KV (Key-Value) キャッシュを通じた長期記憶のおかげで、言語モデル (LM) の主流となっています。しかし、二次計算コストと高いメモリ要求により、効率性に課題が生じています。これに対し、Mamba や Mamba-2 のような狀態空間モデル (SSMs) は、複雑さを一定にして効率的なハードウェア最適化を提供しますが、メモリ想起タスクが苦手でそれは一般的なベンチマークでのパフォーマンスに影響を與えています。 NVIDIA の研究者は最近、効率性とパフォーマンスの両方を向上させるために、Transformer の Attention メカニズムを SSM と統合したハイブリッド…

Source

]]> 3108 通信會社に AI-RAN を提供 http://www.open-lab.net/ja-jp/blog/bringing-ai-ran-to-a-telco-near-you/ Tue, 08 Oct 2024 08:40:56 +0000 http://www.open-lab.net/ja-jp/blog/?p=3185 Reading Time: 5 minutes 生成 AI と AI エージェントの推論により、エッジからセントラル クラウドまで AI コンピューティング インフラストラクチャを分散する必要性が高まります。 IDC は、「ビジネス AI (消費者を除く) は、203 … Continued]]> Reading Time: 5 minutes 生成 AI と AI エージェントの推論により、エッジからセントラル クラウドまで AI コンピューティング インフラストラクチャを分散する必要性が高まります。 IDC は、「ビジネス AI (消費者を除く) は、2030 年までに世界経済に 19.9 兆ドルの貢獻をし、GDP の 3.5% を占めるようになる」と予測しています。 5G ネットワークも、この新しい AI トラフィックに対応するために進化しなければなりません。 同時に、通信事業者には、データのプライバシーと主権の要件を満たしながら、ネットワーク接続に依存せずにエンタープライズ AI ワークロードをホストするためのローカル AI コンピューティング インフラストラクチャになる機會があります。 ここで、

Source

]]> 3185 VILA を使用した NVIDIA ハードウェア上のビジュアル言語モデル http://www.open-lab.net/ja-jp/blog/visual-language-models-on-nvidia-hardware-with-vila/ Fri, 03 May 2024 05:37:14 +0000 http://www.open-lab.net/ja-jp/blog/?p=2517 Reading Time: 3 minutes ビジュアル言語モデルは、ここ最近大きく進化しました。ただし、既存のテクノロジは、通常、単一の畫像にしか対応していません。複數の畫像からの論理的な推論、コンテキスト學習への対応、動畫の理解は不可能です。また、推論速度も最適 … Continued]]> Reading Time: 3 minutes ビジュアル言語モデルは、ここ最近大きく進化しました。ただし、既存のテクノロジは、通常、単一の畫像にしか対応していません。複數の畫像からの論理的な推論、コンテキスト學習への対応、動畫の理解は不可能です。また、推論速度も最適化されていません。 NVIDIA は VILA を開発しました。これは包括的な事前トレーニング、指示チューニング、デプロイ パイプラインを備えたビジュアル言語モデルであり、NVIDIA のクライアントがマルチモーダル製品で成功するのを支援します。VILA は畫像と動畫両方の QA ベンチマークで SOTA パフォーマンスを達成し、複數畫像における強力な論理推論能力とコンテキスト學習能力を備えています。また、推論速度も最適化されています。 他の VLM と比較するとトークンの使用量は 4 分の 1…

Source

]]> 2517 cuDLA による NVIDIA Jetson Orin 上での YOLOv5 の紹介 http://www.open-lab.net/ja-jp/blog/introducing-yolov5-on-nvidia-jetson-orin-with-cudla/ Wed, 17 Jan 2024 03:51:27 +0000 http://www.open-lab.net/ja-jp/blog/?p=2197 Reading Time: 5 minutes この投稿は、Orin プラットフォームを使用する組込み開発者が、YOLOv5 をリファレンスとして、どのようにディープ ニューラル ネットワーク (DNN) を展開できるかについて、技術的に深く掘り下げたものです。読者が … Continued]]> Reading Time: 5 minutes この投稿は、Orin プラットフォームを使用する組込み開発者が、YOLOv5 をリファレンスとして、どのようにディープ ニューラル ネットワーク (DNN) を展開できるかについて、技術的に深く掘り下げたものです。読者が簡単に理解できるように、次のセクション “NVIDIA DLA 紹介” で NVIDIA DLA を紹介し、セクション “NVIDIA cuDLA 紹介” で cuDLA と呼ばれる DLA 用の CUDA プログラミング モデル拡張を紹介します。そして最後の “YOLOv5 と cuDLA、Jetson Orin で共演” では、YOLOv5、DLA、cuDLA の組み合わせによる、Jetson Orin プラットフォーム上での効率的なオブジェクト検出実裝について詳しく説明します。 DLA の詳細については、

Source

]]> 2197 NVIDIA Jetson で エッジに AI 學習をさせる http://www.open-lab.net/ja-jp/blog/take-ai-learning-to-the-edge-with-jetson/ Mon, 05 Jun 2023 06:59:50 +0000 http://www.open-lab.net/ja-jp/blog/?p=1687 Reading Time: 2 minutes NVIDIA Jetson Orin Nano および Jetson AGX Orin 開発者キットは、學生、教育者、研究者の方向けに特別価格で販売中です。約 10 年前の最初のリリース以來、NVIDIA Jetson … Continued]]> Reading Time: 2 minutes NVIDIA Jetson Orin Nano および Jetson AGX Orin 開発者キットは、學生、教育者、研究者の方向けに特別価格で販売中です。約 10 年前の最初のリリース以來、NVIDIA Jetson プラットフォームは、組込みコンピューティングとエッジ AI のグローバル スタンダードを確立してきました。これらのディープラーニングとコンピューター ビジョン向けの高性能、低消費電力モジュールと開発者キットは、開発者に、ロボティクスとエッジ AI のビジョンを実現するための小型で強力なプラットフォームを提供する、AI の學習や指導に最適なツールです。 前世代の Jetson Nano の 80 倍の性能を持つ Jetson Orin Nano 開発者キットは、

Source

]]> 1687 5G ネットワークにおけるセキュリティの新境地 http://www.open-lab.net/ja-jp/blog/a-new-frontier-for-5g-network-security/ Wed, 31 May 2023 05:29:28 +0000 http://www.open-lab.net/ja-jp/blog/?p=1985 Reading Time: 2 minutes ワイヤレス テクノロジが世界中で急速に進化を遂げる中、5G ネットワークも著実に拡大を続けています。ワイヤレス RAN の展開には、最近まで従來の RAN ベンダーが提供するクローズドな仕様のアプライアンス ソリューショ … Continued]]> Reading Time: 2 minutes ワイヤレス テクノロジが世界中で急速に進化を遂げる中、5G ネットワークも著実に拡大を続けています。ワイヤレス RAN の展開には、最近まで従來の RAN ベンダーが提供するクローズドな仕様のアプライアンス ソリューションが使用されていましたが、こうしたクローズドなアプローチは大規模展開には向かないものでした。また、インフラも十分に活用できないため、RAN の TCO の最適化の妨げとなり、欠點の多いアプローチであると言えます。 こうしたクローズドなソリューションは拡張性に欠け、5G 時代には適していないと考えられるようになりました。 その結果、通信事業者各社は連攜して、オープンで標準的なインターフェイスを備えるクラウドネイティブな仮想化 RAN ソリューションを商用オフザシェルフ (Commercial-Off…

Source

]]> 1985 NVIDIA Jetson AGX Orin Industrial モジュールで、産業グレードのエッジ AI の未來に http://www.open-lab.net/ja-jp/blog/step-into-the-future-of-industrial-grade-edge-ai-with-nvidia-jetson-agx-orin-industrial/ Sun, 28 May 2023 00:50:18 +0000 http://www.open-lab.net/ja-jp/blog/?p=1672 Reading Time: 2 minutes 組込みエッジ AI は、最も困難な環境にも知能とリアルタイム処理を導入し、産業環境を変革しています。エッジ AI は、農業、建設、エネルギー、航空宇宙、人工衛星、公共部門などでの利用が進んでいます。NVIDIA Jets … Continued]]> Reading Time: 2 minutes 組込みエッジ AI は、最も困難な環境にも知能とリアルタイム処理を導入し、産業環境を変革しています。エッジ AI は、農業、建設、エネルギー、航空宇宙、人工衛星、公共部門などでの利用が進んでいます。NVIDIA Jetson エッジ AI やロボティクス プラットフォームを活用すれば、これらの複雑な環境に向けて AI とセンサー フュージョン向けのコンピューティングをデプロイすることができます。 COMPUTEX 2023 で、NVIDIA は過酷な環境に次のレベルのコンピューティングをもたらす新しい Jetson AGX Orin Industrial モジュールを発表しました。この新しいモジュールは、前世代の NVIDIA Jetson AGX Xavier Industrial と Jetson AGX Orin…

Source

]]> 1672 NVIDIA Jetson Orin Nano 開発者キットで、 AI 搭載ロボットやスマート ビジョン システムなどを開発 http://www.open-lab.net/ja-jp/blog/develop-ai-powered-robots-smart-vision-systems-and-more-with-nvidia-jetson-orin-nano-developer-kit/ Tue, 21 Mar 2023 08:37:29 +0000 http://www.open-lab.net/ja-jp/blog/?p=1558 Reading Time: 4 minutes NVIDIA Jetson Orin Nano 開発者キットは、NVIDIA が GTC 2023 で発表したように、エントリーレベルの? AI? 搭載ロボット、スマート ドローン、インテリジェント ビジョン システムを … Continued]]> Reading Time: 4 minutes NVIDIA Jetson Orin Nano 開発者キットは、NVIDIA が GTC 2023 で発表したように、エントリーレベルの AI 搭載ロボット、スマート ドローン、インテリジェント ビジョン システムを作るための新しい基準となるものです。また、NVIDIA Jetson Orin Nano シリーズを使い始めることを簡素化します。コンパクトなデザイン、多數のコネクタ、最大 40TOPS の AI パフォーマンスにより、この開発者キットはビジョンを実現する最適な製品となります。 開発者キットは Jetson Orin Nano 8GB モジュールとリファレンス キャリア ボードで構成され、すべての NVIDIA Jetson Orin Nano および NVIDIA Jetson Orin NX…

Source

]]> 1558 人人超碰97caoporen国产