由于 AI 和 ML 功能，網絡安全軟件現在變得越來越復雜。現在可以在沒有直接人工干預的情況下自動執行安全措施。這些功能強大的解決方案在阻止違規、提供高度詳細的警報和保護攻擊面方面具有真正的價值。盡管如此，持懷疑態度是值得的。
此次對 NVIDIA 專家巴特利·理查德森（ BartleyRichardson ）和丹尼爾·羅勒（ DanielRohrer ）的采訪涵蓋了一些關鍵問題，如人工智能聲稱、部署的隱藏成本以及如何最佳利用演示。他們建議在考慮投資人工智能網絡安全軟件時向供應商提出一系列問題。
Richardson 領導著一個跨學科的 AI 基礎設施和網絡安全工程團隊，致力于 ML 和深度學習技術以及網絡安全的新框架。 Rohrer 是軟件安全副總裁，在 NVIDIA 任職 22 年期間，他擔任過各種技術和領導職務。
1 、您的軟件中運行的是什么類型的 AI ？
許多供應商聲稱他們擁有用于網絡安全的 AI 和 ML 解決方案，但只有一小部分供應商投資于使用 AI 解決作為數據問題的網絡安全核心問題的深思熟慮的方法。供應商可以聲稱他們的解決方案可以做各種事情。但這些說法只有在生態系統中有 X 、 Y 和 Z 時才有效。他們聲稱的條件大部分時間都被掩蓋了。
Rohrer: 這就像是說，如果你的網絡上整天都有完整的 ptrace 日志，你就可以獲得這些偉大的功能。誰有這個？沒有人有這個。成本太高了。
哦，當然，我們可以為你做很多令人驚奇的事情。您只需要捕獲、存儲和編目通過網絡的所有數據包。然后投入大量功能強大且價格昂貴的服務器來分析這些數據包，只需要 100 名新的網絡安全專家來解釋這些結果。每個人都有這些資源，對嗎？
但說真的，人工智能不是魔法。這是數學。人工智能只是另一種技術。你必須批判地看待人工智能。詢問您的供應商，他們的軟件中運行的是什么類型的 AI ，他們在哪里運行？因為人工智能用于一切，但并非一切都是人工智能。過度銷售和交付不足正在市場上造成“人工智能疲勞”。人們一直都在被這些東西轟炸。
2 、您可以提供哪些部署選項？
Rohrer: 許多人都有混合云環境和一個只在您的部分環境中工作的解決方案。當然，對于賽博來說，這往往是不足的。他們的部署有多靈活？它們能在云中運行嗎？在 prem ？在 Linux 、 Windows 或任何需要保護數據并實現目標的環境中？
您需要正確的 multicloud 。例如，我們使用谷歌、阿里云、 AWS 和 Azure 。他們是否在所有這些環境中都有可部署的解決方案，還是僅在其中一個環境中？我們需要這個嗎？有時我們不需要，有時我們需要。網絡安全是我們需要來自任何地方的日志的用例之一。因此，請了解您的解決方案空間，并了解您的部署模型需要多大的靈活性才能解決您的問題。然后把它烤進去。
網絡往往是最難實現的目標之一，因為我們有大量動態的短暫數據。我們經常處于許多復雜的異構環境中，這些環境都是數據密集型和 IO 密集型的。所以，如果你想要一個最壞的情況，網絡往往是它。
Richardson : 部署中也可能存在隱藏成本。如果你有一個環境，供應商說你可以獲得所有這些 AI ，但順便說一句，你必須使用我們的云。如果您還不是云本地用戶，并在時間、工程和金錢上將數據推送到云，則會產生相關成本。
Rohrer: 即使您是云計算原生用戶，也會有 I / O 開銷，無法將您擁有的任何數據推送到他們手中。突然間，你手頭上有一個百萬美元的項目。
3 、我需要購買什么新的基礎設施來運行您的軟件？
Rohrer: 部署模型需要什么基礎架構？你有你需要的東西嗎，或者你能在沒有過高成本的情況下輕易地購買它嗎？你買得起嗎？如果這是一個 on-prem 解決方案，那么提案是否包括您將需要的其他基礎架構？如果是基于云的，它是否包括所有云實例和數據進出費，或者這些都是額外的？
如果你告訴我有些東西是加性的，很好。如果你告訴我有些東西被撕碎并替換了，那就不同了。
4 、您將如何保護我的模型？
人們通常會詢問數據。您如何保護我的數據？ 是否隔離？安全嗎？這些問題問得很好。但當服務提供商為我定制 AI 模型時會發生什么？ 他們針對保護我的環境的微調模型的政策是什么？你是怎么保護我的模特的？
因為如果他們在用 ML 或深度學習做任何真實的事情，那么模型和它所訓練的數據一樣有價值。如果您對這些技術有足夠的經驗，可以從經過訓練的模型中撤銷訓練和微調數據。
這意味著人們有可能訪問我的敏感信息。我的數據沒有泄漏，但我的神經網絡的這個巨大的嵌入空間泄漏了，現在有可能有人做了大量的工作來備份我的訓練數據。并不是很多人都在加密模型。持續的加密/解密會徹底影響吞吐量。應該制定保護這些模型的政策和程序，最好是可以自動實施的政策和程序。確保您的供應商遵循最佳實踐，在這些模型包含數據嵌入時實現盡可能少的權限。
5 、你能對我的數據做什么？
Rohrer: 有許多服務提供商正在聚合客戶的數據和事件，以改進每個人的模型，只要你能提前知道就可以了。但你知道，有一個問題是，你的數據是否被用來改進競爭對手或市場上其他人的模型？ 并確保您對此感到滿意。在某些情況下，如果是天氣數據或其他什么，那也沒關系。有時不太可能。因為其中一些數據和您從中構建的模型對您來說具有真正的競爭優勢。
Richardson: 我總是回到 Facebook 和 Twitter 這樣的公司。它們的真正價值是您的數據。因此，他們可以使用每個人的數據和培訓，這給了他們卓越的能力和額外的價值。他們向您銷售服務或產品，并使用您的數據進行改進。
6 、我可以把我的數據帶到演示中嗎？
Rohrer: 準備演示非常重要，因為這才是大多數人真正需要解決的問題。
是的，理想情況下你應該有一套標準。了解您的需求。也許你有一些事件或錯誤配置或問題。 AI 能解決這個問題嗎？ 我們是否可以看到它在客戶環境中運行，而不僅僅是在您的沙箱環境中？
Rohrer: 將您的問題帶到演示中。
7 、您的解決方案是否需要調整，如果需要，多久調整一次？
Rohrer: 一個建議是將您自己的一些數據帶到表中。如何攝取數據？ 我實際遇到的問題的有效性是什么，而不是演示團隊告訴我應該遇到的問題？并查看它如何處理您的數據。如果除非他們對數據進行調整，否則它無法處理您的數據，那么您知道這不僅僅是購買和部署。現在，經過 3 個月、 6 個月甚至 9 個月的調整后，它就可以部署了。 現在，這不僅僅是購買產品。這是一份采購和集成合同，也是一份支持合同，在您意識到這一點之前，成本就會累計起來。
8 、您的解決方案對我們的工程師來說學習和使用有多容易？
Richardson : 很多人不評估人員負荷。我知道在審判中很難做到這一點。但無論是網絡安全還是其他問題，都要讓你的員工對此進行評估。讓你的工程師參與這個過程。詢問您的工程師每天將如何與新軟件交互？ 我們經常看到這一點，尤其是在網絡安全領域，你在功能 X 中添加了一些東西。最終，這只會給你的人類帶來更多的認知負荷。它產生的噪音超過了他們的處理能力，即使它的假陽性率很低。它是添加劑。
是的，準確率高達 99% ，但你的員工必須處理的事件數量增加了一倍。這對他們沒有幫助。
人工智能不是魔法。這只是數學。但它是在魔法的背景下構建的。只要愿意批判地看待人工智能。這只是另一種技術。這不是解決你所有問題的靈丹妙藥。我們還沒有生活在未來。
關于 Bartley Richardson
BartleyRichardson 是 NVIDIA 網絡安全工程總監，領導一個跨學科團隊，研究 GPU 加速 ML 和深度學習技術，并創建新的網絡安全框架。他的興趣包括 NLP 和應用于網絡數據集和威脅檢測的基于序列的方法。 Bartley 擁有計算機科學與工程博士學位，致力于松散和非結構化邏輯查詢優化，并擁有計算機工程學士學位，專注于軟件設計和 AI 。
Bartley Richardson 的更多信息：
- 使用數據增強零信任安全| NVIDIA 技術博客
- 網絡安全框架： NVIDIA 簡介 Morpheus | NVIDIA 技術博客
- NVIDIA 推出 Morpheus 早期訪問計劃，以實現高級網絡安全解決方案開發| NVIDIA 技術博客
關于 Daniel Rohrer
DanielRohrer 是 NVIDIA 軟件產品安全副總裁。在 NVIDIA 的 23 年中，他擔任過各種技術和領導職務。 Daniel 通過提供先進的技術解決方案、可靠的流程和戰略投資來構建值得信賴的安全解決方案，利用他對“ NVIDIA 的一切”的綜合知識來完善安全實踐。他擁有北卡羅來納大學教堂山分校計算機科學碩士學位。
Daniel Rohrer 的更多信息：
