Security – NVIDIA 技術ブログ
http://www.open-lab.net/ja-jp/blog
Mon, 03 Feb 2025 08:25:42 +0000
ja
hourly
1
-
NeMo Guardrails により LLM の脆弱性を防ぐ: 導入編
http://www.open-lab.net/ja-jp/blog/nemo-guardrails-prevents-llm-vulnerabilities-introduction/
Wed, 16 Oct 2024 08:07:48 +0000
http://www.open-lab.net/ja-jp/blog/?p=2822
Reading Time: 3 minutes はじめに 大規模言語モデル (LLM) はその優れた性能により従來手法では実現できなかった様々な目標を達成し注目を集めています。様々な業界が LLM の積極的な導入を進める中、その安全性は徐々に重要な課題になりつつありま … Continued]]>
Reading Time: 3 minutes 大規模言語モデル (LLM) はその優れた性能により従來手法では実現できなかった様々な目標を達成し注目を集めています。様々な業界が LLM の積極的な導入を進める中、その安全性は徐々に重要な課題になりつつあります。 チャットボットなど LLM で構成される対話型アプリケーションにおける安全性とは、例えばハルシネーションによる情報の誤伝搬、プライバシーの侵害、偏見の増幅など様々なリスクからユーザーを保護する事です。 LLM を安全に利用するためには、使いやすくかつ強固なガードレール機能の構築が必須です。「ガードレール」とは LLM の出力、入力、RAG の処理などを制御する特定の方法の事で、政治について話さない、特定のユーザー リクエストに特定の方法で応答する等、
Source
]]>
2822
-
NeMo Guardrails により LLM の脆弱性を防ぐ: ジェイルブレイク防止編
http://www.open-lab.net/ja-jp/blog/nemo-guardrails-prevents-llm-vulnerabilities-jailbreak-prevention/
Wed, 16 Oct 2024 08:07:08 +0000
http://www.open-lab.net/ja-jp/blog/?p=2786
Reading Time: 8 minutes NeMo Guardrails とは NeMo Guardrails とは LLM (大規模言語モデル) ベースの會話型アプリケーションにプログラム可能なガードレールを追加する為のオープンソースのツールキットです。 プロ … Continued]]>
Reading Time: 8 minutes NeMo Guardrails とは LLM (大規模言語モデル) ベースの會話型アプリケーションにプログラム可能なガードレールを追加する為のオープンソースのツールキットです。 プログラム可能なガードレールを追加する主な利點は次のとおりです。 NeMo Guardrails については、機能詳細や導入方法を解説した「NeMo Guardrails によりLLM の脆弱性を防ぐ -導入編-」の記事も併せてご確認下さい。 NeMo Guardrails は、ジェイルブレイクやプロンプト インジェクションのような一般的な LLM の脆弱性から LLM を搭載したチャット アプリケーションを保護するためのいくつかのメカニズムを提供します。 図.
Source
]]>
2786
-
5G ネットワークにおけるセキュリティの新境地
http://www.open-lab.net/ja-jp/blog/a-new-frontier-for-5g-network-security/
Wed, 31 May 2023 05:29:28 +0000
http://www.open-lab.net/ja-jp/blog/?p=1985
Reading Time: 2 minutes ワイヤレス テクノロジが世界中で急速に進化を遂げる中、5G ネットワークも著実に拡大を続けています。ワイヤレス RAN の展開には、最近まで従來の RAN ベンダーが提供するクローズドな仕様のアプライアンス ソリューショ … Continued]]>
Reading Time: 2 minutes ワイヤレス テクノロジが世界中で急速に進化を遂げる中、5G ネットワークも著実に拡大を続けています。ワイヤレス RAN の展開には、最近まで従來の RAN ベンダーが提供するクローズドな仕様のアプライアンス ソリューションが使用されていましたが、こうしたクローズドなアプローチは大規模展開には向かないものでした。また、インフラも十分に活用できないため、RAN の TCO の最適化の妨げとなり、欠點の多いアプローチであると言えます。 こうしたクローズドなソリューションは拡張性に欠け、5G 時代には適していないと考えられるようになりました。 その結果、通信事業者各社は連攜して、オープンで標準的なインターフェイスを備えるクラウドネイティブな仮想化 RAN ソリューションを商用オフザシェルフ (Commercial-Off…
Source
]]>
1985
-
信頼性、安全性、セキュリティに優れた大規模言語モデル対話システムを実現
http://www.open-lab.net/ja-jp/blog/nvidia-enables-trustworthy-safe-and-secure-large-language-model-conversational-systems/
Tue, 25 Apr 2023 04:48:00 +0000
http://www.open-lab.net/ja-jp/blog/?p=1681
Reading Time: < 1 minute 大規模言語モデル?(LLM) は非常に強力で、複雑な質問への回答、創作的な文章の作成、ソース コードの開発やデバッグなどのさまざまなことが可能です。LLM を外部のツールに接続することで、例えばリアルタイムにデータを読み … Continued]]>
Reading Time: < 1 minute 大規模言語モデル (LLM) は非常に強力で、複雑な質問への回答、創作的な文章の作成、ソース コードの開発やデバッグなどのさまざまなことが可能です。LLM を外部のツールに接続することで、例えばリアルタイムにデータを読み込んだり、ユーザーの要求に対して LLM がどのようなアクションを実行するか決定したり、非常に高度な LLM アプリケーションを構築することできます。しかし、このような LLM アプリケーションを安全かつセキュアな方法で構築することは容易ではありません。 NeMo Guardrails は、安全性と信頼性の高い LLM 対話システムを容易に開発するためのオープンソースのツールキットです。生成 AI における安全性は、業界全體の懸念事項です。そこで、NVIDIA は OpenAI の ChatGPT…
Source
]]>
1681
-
DEF CON コンテストで機械學習によるセキュリティ技術を向上させる
http://www.open-lab.net/ja-jp/blog/improving-machine-learning-security-skills-at-a-def-con-competition/
Wed, 30 Nov 2022 02:26:00 +0000
http://www.open-lab.net/ja-jp/blog/?p=1457
Reading Time: 2 minutes 機械學習 (ML: Machine learning) セキュリティは、機械學習システムおよびその上に構築されるデータのセキュリティに焦點を當てた新しい分野です。情報セキュリティとデータ サイエンスの領域が交差する所に位 … Continued]]>
Reading Time: 2 minutes 機械學習 (ML: Machine learning) セキュリティは、機械學習システムおよびその上に構築されるデータのセキュリティに焦點を當てた新しい分野です。情報セキュリティとデータ サイエンスの領域が交差する所に位置します。 最先端の技術が進歩している一方で、機械學習システムのセキュリティとテストのための明確な入門および學習パスは存在しません。では、関心のある実務者は、どのように機械學習セキュリティ技術のスキルアップを始めれば良いのでしょうか。arXiv で関連記事を読むこともできますが、具體的な手順となるとどうでしょう? コンテストは、1 つの有望な機會を提供します。NVIDIA は最近、ハッキングとセキュリティのカンファレンス「DEF CON 30」において、
Source
]]>
1457
人人超碰97caoporen国产