Kanika Atri – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。Wed, 13 Nov 2024 08:12:39 +0000zh-CN
hourly
1 196178272AI-RAN 上線，為電信公司帶來新的 AI 機遇
http://www.open-lab.net/zh-cn/blog/ai-ran-goes-live-and-unlocks-a-new-ai-opportunity-for-telcos/
Tue, 12 Nov 2024 08:05:42 +0000http://www.open-lab.net/zh-cn/blog/?p=11867Continued]]>AI 正在以新的方式改變行業、企業和消費者體驗。生成式 AI 模型正在轉向推理， 代理 AI 正在實現新的成果導向型工作流，而 物理 AI 則使攝像頭、機器人、無人機和汽車等終端能夠實時做出決策并進行交互。 所有這些用例的共同點是，需要普遍、可靠、安全和超快的連接。 電信網絡必須為這種新型 AI 流量做好準備，此類流量可以直接通過前向回傳無線接入網，也可以從公有云或私有云作為由企業應用生成的完全獨立的 AI 推理流量進行回傳。 本地無線基礎設施提供了處理 AI 推理的理想場所。這是一種新的電信網絡方法，即 AI-RAN 。 基于傳統 CPU 或 ASIC 的 RAN 系統專為 RAN 使用而設計，目前無法處理 AI 流量。AI-RAN 支持基于 GPU 的共同基礎設施，可同時運行無線和 AI 工作負載，從而將網絡從單一用途的基礎設施轉變為多用途的基礎設施，