Ganesh Kudleppanavar

Ganesh Kudleppanavar 是 NVIDIA 的系統軟件經理,致力于優化機器學習和生成式 AI 模型的性能。他領導 Triton 工具團隊,利用功能強大的 Triton 工具對這些模型進行細致的基準測試,確保這些模型在各種應用程序中得到高效部署和無縫利用。Ganesh 擁有加州州立大學長灘分校電氣工程碩士學位。

Posts by Ganesh Kudleppanavar

數據中心/云端

LLM 基準測試:基本概念

在過去幾年中,作為廣泛的 AI 革命的一部分, 生成式 AI 和 大語言模型 (LLMs) 越來越受歡迎。 4 MIN READ
數據中心/云端

使用 NVIDIA GenAI-Perf 和 OpenAI 兼容 API 測量生成式 AI 模型性能

NVIDIA 提供 Perf Analyzer 和 Model Analyzer 等工具,幫助機器學習工程師測量和平衡延遲與吞吐量之間的權衡, 2 MIN READ