Posts by Sam Partee
數據科學
2023年 8月 30日
如何使用 NVIDIA Triton 和 Redis 構建分布式推理緩存
緩存與數組、符號或字符串一樣是計算的基礎。整個堆棧中的各種緩存層在您的 CPU 上掛起時保存來自內存的指令。
3 MIN READ
推薦系統/個性化
2023年 3月 1日
離線到在線: NVIDIA Merlin 實時推薦系統的功能存儲
由于 深度學習 的進步和矢量嵌入的使用,推薦模型近年來進展迅速。這些模型日益復雜,需要強大的系統來支持它們,
3 MIN READ