NeMo Framework で実踐する継続事前學習 – 日本語 LLM 編 –

Mon, 20 Jan 2025 04:03:28 +0000

Reading Time: 3 minutes 本記事では、NeMo Framework を使用して、日本語データセットで大規模言語モデル (LLM) の継続事前學習を実行する方法を説明します。 NeMo Framework は、LLM をはじめ、生成 AI モデルを構築、カスタマイズするためのクラウドネイティブなフレームワークです。NGC 上にコンテナーが公開されており、すぐに利用を開始することができます。 NeMo Framework は、NGC 上に公開されているコンテナーを無償利用していただくこともできますが、NVIDIA AI Enterprise の対象ソフトウェアとなっているため、エンタープライズサポートを希望される場合は NVIDIA AI Enterprise ライセンスの購入をご検討ください。

Source

]]>

先進的なソブリン AI モデルが、日本のイノベーションとチャンスを解き放つ

Wed, 09 Oct 2024 02:58:12 +0000

Reading Time: 2 minutes ソブリン AI モデルは、特定の文化的や言語的ニュアンスに合わせて調整されているため、文脈を理解し適切な応答を生成する上でより効果的です。さらに、これらのモデルは地域のイノベーションを支援し、各國がそれぞれのニーズや優先事項に沿った AI 技術を開発することを可能にします。その結果、世界各國から支持されるソブリン AI モデルを開発しようという動きが高まっています。実際に、各國政府は、研究者や企業が自國民のニーズに特化した AI システムを構築できるようにするための構想を開始し、計算インフラに予算を割り當てています。このたび、東京科學大學 (舊?東京工業大學) と産業技術総合研究所 (AIST)は、Llama 3.1 をベースに、日本特有の言語的/

Source

]]>

Naoyuki Yura – NVIDIA 技術ブログ

NeMo Framework で実踐する継続事前學習 – 日本語 LLM 編 –

先進的なソブリン AI モデルが、日本のイノベーションとチャンスを解き放つ