Recommenders / Personalization – NVIDIA 技術博客

通過全堆棧優化提升 NVIDIA MLPerf Training v1.1 的性能

Wed, 01 Dec 2021 05:30:00 +0000

自 v1.0 以來已經過去了五個月，所以是時候進行新一輪 MLPerf 培訓基準了。在這個 v1.1 版本中，整個硬件和軟件堆棧的優化看到了基于 NVIDIA 平臺提交的基準測試套件的持續改進。這種改進在所有不同的尺度上都是一致的，從單個機器到工業超級計算機，例如由 560 個 NVIDIA DGX A100 系統組成的英偉達 SeleN 和由 768 個節點 A100 系統組成的微軟 Azure NDM A100 V4 集群。越來越多的組織使用MLPerf基準來指導其AI基礎設施戰略。MLPerf（VZX19的一部分）是由學術界、研究實驗室和工業界的人工智能領導者組成的全球聯盟，其使命是建立公平和有用的基準，為在規定條件下進行的硬件、軟件和服務的培訓和推理性能提供公正的評估。為了保持行業趨勢的領先地位，MLPerf不斷發展，定期舉行新的測試，并添加代表AI最先進水平的新工作負載。

Source

]]>

NVIDIA GTC ：頂級對話 AI 、推薦系統和視頻會議會話

Tue, 19 Oct 2021 07:49:00 +0000

NVIDIA GTC就在拐角處！加入 NVIDIA 11 月 8 日至 11 日，我們將主持會議，討論對話人工智能、推薦系統和視頻會議的最新突破。以下是我們的一些頂級課程：對話式人工智能解惑，一個動手演練提交人： NVIDIA 和 SVA 系統 Vertrieb Alexander GmbH 多虧了新的工具和技術，開發對話 AI 應用程序比以往任何時候都更容易！在本課程中，我們將從會話人工智能的概述開始，并討論任何組織如何開始開發會話人工智能。然后，我們將演示如何使用 NVIDIA Riva 構建和部署端到端對話 AI 管道。擁抱臉部如何為無限 transformer s 提供 1 毫秒的推斷延遲推薦人：擁抱面了解 Hugging Face 如何為其新的 Infinity 解決方案的客戶實現 1 毫秒 transformer 推斷，

Source

]]>

使用 HugeCTR TensorFlow 嵌入插件加速嵌入

Fri, 24 Sep 2021 07:47:00 +0000

推薦系統是互聯網的經濟引擎。很難想象任何其他類型的應用程序會對我們的日常數字生活產生更直接的影響：數以萬億計的項目被推薦給數十億人。推薦系統會在大量選項中過濾產品和服務，從而緩解大多數用戶面臨的選擇悖論。隨著數據量的增加，深度學習（ DL ）推薦系統開始顯示與傳統的基于機器學習的方法相比的優勢，例如梯度增強樹。為了給出一個具體的數據點， NVIDIA RAPIDS 。 AI 團隊與 DL 贏得了三場推薦比賽最近：甚至在一年前 NVIDIA 數據科學家詢問為什么深度學習模型還沒有在推薦系統競賽中持續獲勝？時，這種情況也沒有持續發生。嵌入在現代基于 DL 的推薦體系結構中起著關鍵作用，為數十億實體（用戶、產品及其特征）編碼單個信息。隨著數據量的增加，嵌入表的大小也隨之增加，現在這些表跨越多個 GB 到 TB 。在訓練這種類型的 DL 系統時存在著獨特的挑戰，

Source

]]>