Author:

3 月 19 日下午 2 點，鎖定 NVIDIA AI 網絡中文專場。立即注冊觀看

Joe Delaere

Joe DeLaere 是負責數據中心加速計算的高級產品營銷經理，專注于 GPU 和 AI 用例。此前，他曾在 Altera / Intel 和 Xilinx / AMD 擔任產品管理和營銷職務，專注于基于 FPGA 的數據中心加速解決方案。喬擁有圣何塞州立大學電氣工程學士學位。

數據中心/云端 2024年 8月 12日

大型語言模型（LLM）越來越大，增加了處理推理請求所需的計算量。為了滿足服務當今LLM的實時延遲要求，并為盡可能多的用戶提供服務， 3 MIN READ

生成式人工智能/大語言模型 2023年 9月 8日

大語言模型（LLM）提供異常強大的新功能，拓展了 AI 的應用領域。但由于其龐大的規模和獨特的執行特性，很難找到經濟高效的使用方式。 3 MIN READ

數據中心/云端/邊緣 2022年 8月 30日

多實例 GPU （ MIG ）是 NVIDIA H100 , A100 和 A30 張量核 GPU ，因為它可以將 GPU 劃分為多個實例。 4 MIN READ