ML 在實踐中 – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Wed, 21 Jun 2023 05:05:12 +0000
zh-CN
hourly
1
196178272 -
NVIDIA AI 紅隊簡介
http://www.open-lab.net/zh-cn/blog/nvidia-ai-red-team-an-introduction/
Wed, 14 Jun 2023 05:02:01 +0000
http://www.open-lab.net/zh-cn/blog/?p=7205
Continued]]>
機器學習有希望改善我們的世界，而且在很多方面它已經做到了。然而，研究和生活經驗繼續表明，這項技術存在風險。過去僅限于科幻小說和學術界的能力越來越多地向公眾開放。負責任地使用和開發人工智能需要在可行的情況下對列舉的風險進行分類、評估和減輕。從純人工智能的角度來看，這是真的，但從標準信息安全的角度來看也是如此。 在標準到位和成熟的測試站穩腳跟之前，各組織都在使用紅隊來探索和列舉人工智能帶來的直接風險。這篇文章介紹了 NVIDIA 人工智能紅隊的理念和 ML 系統的一般框架。 我們的人工智能紅隊是一支由進攻性安全專業人員和數據科學家組成的跨職能團隊。我們使用我們的綜合技能來評估我們的 ML 系統，以從信息安全的角度識別并幫助減輕任何風險。 信息安全有很多有用的范例、工具和網絡訪問，使我們能夠在所有領域加快負責任的使用。該框架是我們的基礎，并將評估工作引向組織內的標準。
Source
]]>
7205
人人超碰97caoporen国产