NVIDIA PhysicsNeMo は、物理を考慮した機械學習 (physics-ML) モデルとして知られる物理的システムのディープラーニング モデルの構築、トレーニング、ファインチューニングを行うためのフレームワークです。PhysicsNeMo は OSS (Apache 2.0 ライセンス) として提供され、成長する physics-ML コミュニティをサポートしています。
PhysicsNeMo の最新ソフトウェア アップデートであるバージョン 23.05 は、新機能をまとめ、研究コミュニティと産業界がオープン ソースのコラボレーションを通じて研究をエンタープライズ品質のソリューションに発展させることを可能にします。
今回のアップデートでは、1) グラフ ニューラル ネットワーク (GNN) やリカレント ニューラル ネットワーク (RNN) を含む新しいネットワーク アーキテクチャのサポート、2) AI 実務者の使い勝手の向上、の 2 點が大きなポイントとなっています。
グラフ ニューラル ネットワーク対応
GNN は、研究者が物理學、生物學、ソーシャル ネットワークなどで見られるような複雑なグラフ構造を持つ課題に取り組む方法を変えています。グラフの構造を活用することで、GNN はグラフ內のノード間の関係に基づいて學習し、予測することができます。
GNN の応用により、研究者はシステムをグラフやメッシュとして表現するシステムをモデル化することができます。この機能は、計算流體力學、分子動力學シミュレーション、材料科學などの用途で有用です。
GNN を用いることで、研究者は複雑なジオメトリを持つ複雑なシステムの挙動をよりよく理解し、データ內の學習されたパターンと相互作用に基づいて、より正確な予測を生成することができます。
NVIDIA PhysicsNeMo の最新バージョンには、GNN のサポートが含まれています。これにより、特定のユース ケースのために獨自の GNN ベースのモデルを開発することができます。PhysicsNeMo には、Learning Mesh-Based Simulation with Graph Networks (グラフ ネットワークによるメッシュベースのシミュレーションの學習) で紹介された方法に基づく MeshGraphNet アーキテクチャを使用するレシピが含まれています。このようなアーキテクチャは、パラメーター化された渦放出データセットで學習済みの MeshGraphNet モデルを含む PhysicsNeMo で訓練できるようになりました。この學習済みモデルは、NVIDIA NGC を通じて入手可能です．
PhysicsNeMo は、GraphCast: Learning Skillful Medium-Range Global Weather Forecasting (GraphCast: 巧みな中距離の世界天気予報の學習) で提案された GraphCast アーキテクチャも含んでいます 。GraphCast は、グローバルな天気予報のための GNN ベースの新しいアーキテクチャです。気象データの時空間的な関係を効果的に捉えることで、いくつかの既存モデルを大幅に改善します。気象データはグラフとしてモデル化され、ノードは地球のグリッド セルを表しています。このグラフベースの表現により、モデルはデータ內のローカルおよび非ローカル両方の依存関係を捉えることができます。
GraphCast のアーキテクチャは、エンベッダー、エンコーダー、プロセッサ、デコーダーの 4 つの主要コンポーネントで構成されています。エンベッダー コンポーネントは、入力された特徴を潛在的な表現に埋め込みます。エンコーダーは、グリッドの潛在的な特徴のローカル領域をマルチメッシュ グラフ表現のノードにマッピングします。プロセッサは、學習されたメッセージパッシングを用いて各マルチメッシュ ノードを更新します。
最後に、デコーダーは処理されたマルチメッシュの特徴をグリッド表現にマッピングします。マルチメッシュは解像度の高い正二十面體メッシュの集合で、地球全體で均一な解像度を提供します。ERA-5 データセットで GraphCast をトレーニングするためのレシピは、データ並列化のサポートとともに PhysicsNeMo-Launch で提供されています。図 1 は、ERA-5 データセットの 34 変數サブセットに対して PhysicsNeMo で學習した GraphCast モデルを用いた 2m 気溫のサンプル外予測を示しています。
GraphCast の実裝は、メモリのオーバーヘッドを削減するために勾配チェックポイントをサポートしています。また、CuGraphOps のサポート、Apex を使用したレイヤー正規化と Adam オプティマイザの融合、効率的なエッジ機能の更新など、いくつかの最適化を提供しています。
リカレント ニューラル ネットワーク対応
時系列予測は多くのドメインで重要なタスクです。ディープラーニング アーキテクチャ、特に RNN、LSTM (Long Short-Term Memory Network)、および同様のネットワークの適用により、予測能力が大幅に向上しています。
これらのモデルは、時間的な依存性を把握し、時間の経過とともに複雑なパターンを學習する能力に特徴があり、時間的に変化する関係を予測するのに適しています。physics-ML では、これらのモデルは動的な物理システムの進化を予測し、より良いシミュレーションを可能にし、複雑な自然現象の理解や発見を助けるために重要です。
PhysicsNeMo の最新バージョンでは、RNN タイプのレイヤーとモデルのサポートが追加されました。これにより、モデル予測ワークフローにおいて、2D 空間ドメインと 3D 空間ドメインに RNN を使用することができます。図 2 は、PhysicsNeMo の RNN モデルによる Gray-Scott システムの予測値と、 ground truth (正解データ) を比較を示しています。
使いやすさを追求したモジュール
PhysicsNeMo のコードベースは、使いやすさを考慮し、モジュールに再設計されています。これは、使い勝手の良さから、ここ數年で研究者に最も人気のあるディープラーニング フレームワークの 1 つとなっている PyTorch と同じです。
PhysicsNeMo のコア モジュールは、physics-ML モデルのためのコア フレームワークとアルゴリズムで構成されています。PhysicsNeMo-Launch モジュールは、モデルのトレーニングのための PyTorch のようなワークフローを加速するための最適化されたトレーニング レシピで構成されています。このモジュールにより、AI 研究者は PyTorch のような體験をすることができます。NVIDIA PhysicsNeMo Sym は、専門家が PDE ベースの physics-ML モデルをトレーニングするために使用できる、シンボリックな偏微分方程式 (PDE) に基づくモジュールです。
現代のディープラーニング フレームワークの重要な特徴の 1 つは、その相互運用性です。今回の PhysicsNeMo のリリースでは、AI 開発者が PyTorch のモデルを PhysicsNeMo に持ち込んだり、その逆をすることが容易になりました。これは、異なるプラットフォームや環境間でモデルを共有したり、再利用するために役立ちます。
PhysicsNeMo 23.05 のすべての新機能の詳細については、PhysicsNeMo のリリース ノートを參照してください。
GNN を physics-ML に今すぐ活用
NVIDIA PhysicsNeMo の詳細と始め方については、NVIDIA Deep Learning Institute のコース、Introduction to Physics-Informed Machine Learning with PhysicsNeMo (PhysicsNeMo による物理を考慮した機械學習入門) をご覧ください。LaunchPad for PhysicsNeMo の無料ハンズオン ラボで PhysicsNeMo の體験をスタートしましょう。短期間の利用が可能で、ご自身のコンピューティング環境を構築する必要がありません。
ご自身の環境で PhysicsNeMo を試すには、最新の PhysicsNeMo コンテナーをダウンロードするか、PhysicsNeMo pip wheels をインストールしてください。PhysicsNeMo オープンソース フレームワークのカスタマイズや貢獻については、GitHub の NVIDIA/modulus レポジトリをご覧ください。
翻訳に関する免責事項
この記事は、「Develop Physics-Informed Machine Learning Models with Graph Neural Networks」の抄訳で、お客様の利便性のために機械翻訳によって翻訳されたものです。NVIDIA では、翻訳の正確さを期すために注意を払っておりますが、翻訳の正確性については保証いたしません。翻訳された記事の內容の正確性に関して疑問が生じた場合は、原典である英語の記事を參照してください。
