Posts by Shankar Chandrasekaran
對話式人工智能
2023年 6月 28日
如何使用 PyTriton 在 Python 中部署 AI 模型
人工智能模型無處不在,形式包括聊天機器人、分類和摘要工具、用于分割和檢測的圖像模型、推薦模型等。人工智能機器學習( ML…
2 MIN READ
對話式人工智能
2023年 3月 23日
使用新的 NVIDIA Triton 和 NVIDIA TensorRT 功能為您的 AI 推理提供動力
NVIDIA AI 推理軟件包括NVIDIA Triton 推理服務器,開源推理服務軟件,以及NVIDIA TensorRT,
1 MIN READ
計算機視覺/視頻分析
2022年 11月 30日
自動駕駛的最優 AI 推理流水線設計
自動駕駛汽車必須能夠快速準確地檢測物體,以確保其駕駛員和道路上其他駕駛員的安全。由于自動駕駛( AD )和視覺檢查用例中對實時處理的需求,
3 MIN READ
數據科學
2022年 10月 25日
使用 NVIDIA Triton 推理服務器支持的 Amazon SageMaker 多模型端點在同一 GPU 上運行多個 AI 模型
去年 11 月,AWS 在 Amazon SageMaker 中集成了開源推理服務軟件 NVIDIA Triton Inference…
1 MIN READ
數據中心/云端/邊緣
2022年 9月 21日
使用 NVIDIA Triton 解決人工智能推斷挑戰
在生產中部署 AI 模型以滿足 AI 驅動應用程序的性能和可擴展性要求,同時保持低基礎設施成本是一項艱巨的任務。
3 MIN READ
計算機視覺/視頻分析
2022年 5月 23日
實現智能制造的工業推理管道
在制造過程和質量管理體系中實施質量控制和保證方法,確保最終產品滿足客戶要求和滿意度。表面缺陷檢測系統可以使用圖像數據進行檢查和分類,
1 MIN READ