AI ???? ??? ??? ???? ???? ????. GPU? ???? ?? ????? AI ?????? ??? ?? ??? ???, ?? ???? ???? ???? ???? ??? ?? ?????. ???? ??? AI ????? ?? ???? ???? ??? ????. ???? ?? ?????, ?? ?? ??(Retrieval Augmented Generation, RAG)? ?? ?? ?? ?? ????.
??? ??? ????? ?? NVIDIA? ???? ???? NVIDIA Spectrum-X ???? ???? ??? ???? ????? ???? ????. ?? ?? ? ?? ??? ? ?? AI ?? ??? ??? ? ?? ????. Spectrum-X ??? ???? ?? ??? ???? ?? ???? ???? ? ????. ??? ???? ?????? AI ???? ???? ???? ???? ???(Ethernet) ???? ????? RoCE v2?? ???? ??? ?? ? ????.
Spectrum-X? ?? ???? ?? 48%, ?? ???? ?? 41%?? ??????. ??? ??? ???? AI ??????? ????? ???? ??? ?? ??? ?? ?? ? ?? ?? ??? ????, ?? ? ?? ? ?? ??? ?????.
Spectrum-X? ??? ?? ???? ?????
AI ????? ??? ???? ???? ??, ???? ???? ?? AI ???? ??? ??? ???? ???. DDN, ??? ???(VAST Data), ??(WEKA)? ??? ?? ???? ?????? NVIDIA? ??? Spectrum-X? ?? ?? ???? ???? ??????? AI ???? ???? ??? ??? ???? ????.
Israel-1 ?????? ??? Spectrum-X ??? ??
NVIDIA? Spectrum-X ??? ????? ?? ??? AI ?????? Israel-1? ??????. ? ?????? AI ???? ?? ?? ???? ??? ???? ??? ???? ??? ??????. ? ??? Israel-1? Spectrum-X? ???? ????? ??? ??? ?????? ??? ??? ?????. ??? ?? ????? ?? ??? ???? ????? ???? ??? ??? ??? ?????.
Spectrum-X? ???? ????? ??? ??? ???? ??, Israel-1 ?? NVIDIA HGX H100 GPU ?? ?????? ????? ???? ? ???? ??, ?? ???? ??????. ???? I/O ???(Flexible I/O Tester) ????? ??? ? ???? ????? ?? RoCE v2 ????? ??? ???? ? ? ??? ??, Spectrum-X? ??? ???? ?? ??? ?? ???? ?? ????.
? ???? ?????? ??? GPU ??? ?? 40??? 800??? ???? ??????. ????? ?? ???? Spectrum-X? ? ?? ??? ?????. ?? ???? ??, ?? ?? 20%?? 48%? ????, ?? ???? ?? 9%?? 41%? ?????. ??? ??? DDN, ???, ??? ?? ??? ???? ??? ?? ??? ??? ?????.
AI ??? ?? ??? ???? ???? ??
Spectrum-X? ? ??? ? ??? ???? ???? ????, ????? AI? ??? ??? ???? ?? ??? ???. AI ??? ??? ?? ?? ??(large language model, LLM) ?? ?? ????? ???? ???, ?? ?? ???? ??? ????. ?? ??, ?? ??? ???? ? ??, ? ?, ?? ? ?? ??? ??? ????. ??? ?? ??? ?? ? ???? ????? ??? ??? ????? ?????? ???? ?? ?????. ??? ??? ??? ?????? ?? ?? ??? ???? ????
??? ? ??? ????? ?? ???? ????? ??? ??? ?? ? LLM? ?? ?? ? ?????? ??? ??? ??? ????. ??? ?? ????? ???? ???? ‘???? ???(elephant flow)’? ??? ? ????. ?? ??? ??? ??? ??? ? ?? ??? ???? ???? ?????. ??? ????? ?? ????? ??? ??? ????? ???? ???.
RAG? ???? ???? ????? ??? ??? ? ?? ? ?? ?????. RAG? ???? LLM? ????? ???? ?? ??? ??? ??? ???? ????? ?????. ?? ?? ???? ?? ???? ?? ??? ?? ??? ? ?? ??? ??? ? ??. RAG? ???? ??? ?? ??? ?? ??????? ???? ?? ??? ?? ??? ??? ???? ?????.
?? ????? ????, ????? ??(???)?? ??????? ?????. ??? ??? ????? ????? ??? LLM? ??? ??? ??? ? ??? ????. ?? ??????? ??????, ?? ???? ???? ??? ?? ??? ?? ??? ? ? ????.
? ???????? ???? ???? ?? ?? ??? ??? ???, ????? ?? ??? ????? ?? ?? ??? ???? ???. ?? ?? ?? ?? ?? ?? ??? ??? AI ???? ??, ? ?? ?? ?????.
????? ??? ???? ?? ?? ??
Spectrum-X ???? RoCE ??? ???(Adaptive Routing)? RoCE ?? ??(Congestion Control)? ?? ?????(InfiniBand)?? ??? ?? ?? ??? ??????. ??? ?? ??? ???? ???? ?? ?????? NVIDIA? ???? ????? ?? ??? ???? ???? ???? ? ????.
??? ???
???? ??? ??? ???? ????? ?? ???? ???? ???? ???? ??, ??? ???? ?????? ?? ??? ??? ??? ???? ???? ? ?????. Spectrum-4 Ethernet ???? ??? ?? ???? ???? ???? ?? ?? ??? ?????. ??? ???? ??? ???? ??? ???? ??? ?? ?? ??? ? ???, Legacy Ethernet??? ??? ?? ??? ????? ???.
??? Spectrum-X? ???? ?? ???? SuperNIC ?? ??? ?? ??(data processing unit, DPU)? ??? ??? ??? ??? ??? ???? ???? ?????. ??, ??? ???? ??????? ???? ????. ?? ?? ??? ???? ?? ?? ???? ??? ?????, ??? ???? ?? ?? ?? ???? ??? ??? ?? ? ????.
?? ??
?????? ?? ???? ??? ?? ???? ??, ? ??? ??? ?????. ?? ?? ?????? ?? ???? ??? ??? ??? ? ??? ? ??. Spectrum-X? ?? ?? ?? ?? ?? ??? ??????. ? ??? ???? ???? ?? ?? ?? ??? ??? SuperNIC ?? DPU? ??? ??? ?? ??(?, RDMA ??? ??)? ???? ????. ?? ?? ?? ???? ??? ?????, ?? ???? ????? ???? ?? ???? ??? ?? ? ?? ??? ?????.
??? ??
AI ???? ?? ?? ?? ?? ???, ???, ????? ??? ?? ???, ??? ?? ?????? ???? ??? ?? ??? ? ????. ??? ???? ???? ???? ???? ???? ? ?? ????. Spectrum-X ??? ??? ???? ?? ?? ? ??? ??? ???? ???? ? ??? ??? ???? ???? ? ??? ? ??? ???.
NVIDIA ???? ??
NVIDIA? Spectrum-X? ???? ???? ??? ?? ???, GPU ??? ??? ?? ????? ????? ?? ?? SDK, ?????, ????? ??? ???? ??? ?????. ??? ?? ??? ?????.
- NVIDIA Air: ???, SuperNIC, ????? ?????, ??(Day) 0, 1, 2 ???? ??? ??? ????? ?? ???? ?? ???? ????? ?????.
- NVIDIA Cumulus Linux: ???? API? ???? ??? ???? ?? ???, ??? ??? ??? ???? ???.
- NVIDIA DOCA: NVIDIA SuperNIC? DPU? ?? SDK?, ????, ??, ? ? ??? ???? ??? ????? ???? ??? ?????.
- NVIDIA NetQ: ??? ?? ??? ??? ???? ?? ??? ???? ???? ???? ?? ?? ?????.
- NVIDIA GPUDirect Storage: ????? GPU ??? ??? ???? ??? ??? ???? ? ??? ??? ?? ????? ??? ?? ?????.
Spectrum-X ????
??? ?? ??? ???? ? ??????? ??, ????? ???? ??? AI? ??? ??? ?? ??? ??? ? ????. NVIDIA ??, ‘AI ???? ??? ???: NVIDIA Spectrum-X, AI ???? ???? ???(Optimizing AI Storage Fabrics: NVIDIA Spectrum-X Accelerates AI Storage Networks)’?? ? ?? ??? ?? ? ????. ??, NVIDIA ??? ????? ? ??? ??? ?????.
- DDN ??? ???: DDN? NVIDIA Spectrum-X? ?? AI ???? ???? ???(Accelerating AI Storage Networks with DDN and NVIDIA Spectrum-X)
- DDN ??: DDN? ??? ????? ???? NVIDIA Spectrum-X? ?? AI ???? ???? ???(Accelerating AI Storage Networks with DDN’s Data Intelligence Platform and NVIDIA Spectrum-X for Storage)
- ??? ??? ???: NVIDIA Spectrum-X? ??? ??? ???: AI ???? ??? ????(NVIDIA Spectrum-X and VAST Data Platform: Pioneering the Future of AI Infrastructure)
- ??? ??: AI ???? ???? ??? ??? ???? ?? NVIDIA Spectrum-X ??(NVIDIA Spectrum-X Technology for AI Storage Fabrics and the VAST Data Platform)
- ?? ??? ???: ??? NVIDIA Spectrum-X? ??? AI? HPC ????? ?? ????? ????? ??(How WEKA Redefines Networking for AI and HPC Workloads using NVIDIA Spectrum-X)
NVIDIA GTC 2025?? AI ????? ?? ???? ??(Storage Innovations for AI Workloads) ??? ????, ? ?? ???? ??? ? ????.
