ChatGPT, Stable Diffusion, DALL-E ? ?? ??? ??????? ??? ??? AI? ?? ?? ????. ChatGPT? ??? ?? ??? ???? ?????????. ?? ???? ???? ???? ?? ? ? ?? 1? ? ??? ???? ???????.
??? AI? ???? ??? ???? ??? ????? ??? ???? ????????. ????? CEO? ?? ?? GTC 2023 ????? ????, AI? ??? ??? ??????. ??? ???? ?? ???? ? ?? ???? ?? ???? ??? ???? ??? ?????? AI? ????? ?? ????.
?? ???? ???? NVIDIA BlueField DPU
NVIDIA ?? ??? ?? ??? ?? ???? ??? ??????? ???? ? ??? ??, ??? ? ??? ??? ?????? AI? ??? ??? ? ??? ?????.
?? ???? ?? ? ?? ?? ??? ???? ?????.
- ?? ?? ? ?????? ?????? ??? ???? CPU.
- ?? ??? ???? ?? ????? ????? ? ???? GPU.
- ????? ????, ????, ?? ? ?? ??? ????? ????, ??? ? ???? ? ???? ??? ??? ??? ???? DPU.
?? ????? ?? ??????? ???, ????, ????, ??? ???? OS? ????? CPU ?? ? ?? ??? ?? ??? ??? ? ????. ?????? ?? ????? ????? ??? ???? ?? ?? ????? ?? CPU? ???? ???.
NVIDIA BlueField ??? ?? ??(DPU)? ????? OS ? ??? ?????? ?????? ??????.
NVIDIA? ????? ???? NVIDIA Omniverse ??????? ???? ???? ?? 3?? NVIDIA OVX ???? ??? ????? ??? ??? ??? ?? BlueField-3? ???? ????. ??? ??? ??? ????: NVIDIA, ??? ???? ??????? ???? 3?? OVX ??? ??? ??? ?????.
DPU? ???? ???? ??
??? ???? ???????(OCI)? ?? GTC 2023?? ??? ? ?? ???? ????-3 DPU? ???? ??? ???? ??? ??????. ? ??? ???? ? ?? ??? CPU?? DPU? ?????? ? ??? ????? ?????? ????? ??? ????? ?? ??? ???.
OCI? ????-3 DPU? ??? ???? ???? ???? ???? ??? ???? ??? ??? ??? ?? ????. ??? ??? ??? ???? ???, ???? ???? ????? ??? ???? ????? ?????.
??, Check Point, Cisco, DDN, Dell EMC, ???, ???? ????, ???, VMWare? ??? 24? ??? ????? ???? ????? ???? ?? ????? ???? ?? BlueField ????? ??? ??? ???? ????.
NVIDIA BlueField-3 ??? ??
220? ?? ?????? ??? NVIDIA BlueField-3? 3?? NVIDIA DPU???. ?? 400Gbps? ??? ? ????? ??? ???? ??? ? ?(SoC) ?????. ?? 4?? ??? MAC ??? ???? BlueField-3? 400Gbps(PAM4 112? 4??)? ???? ?? ???? 25, 50 ?? 100Gbps? ??? ???? 4?? ???? ??? ?? ??? ??? ? ????.
BlueField-3? ?? ??? ?? 2?? ???? ???, 4?? ??? ??, ?? 5?? ??? ???? ???? ??? NVIDIA DOCA ????? ?????? ?? ??? ?? ???? ???? ?????.
??? ?? ?? ??? ????-3? ????? ?? 8? ? ??? ???? ??? ?????? ???? ????? ??? ???? ??? ? ????. ?? ??, Bluefield-3? CPU?? HPC/AI MPI ?? ??? ?????? ??? ?? 20% ????, ?? ??? ?????? ?? 1,800? ??? ?? ???? ?????. ??? ??? ????? ???? ??? NVIDIA BlueField DPU? ??????.
BlueField-3 DPU? ?? ? ?? ???? ?????:
- ????: ???? ? ?? ???? ???? ??? ?? ?? NVIDIA ConnectX-7 SmartNIC.
- ????? ??? ???: ?? ??? ??????? ???? ?? ????? ??? ?? ?????? ?? 16?? ARM A78 v8.2? ??? ??? ????. ??? ??? ????? ???? ???? ?????? ??? ????? ?? ??? ?? ???(DPA)? ?? ?????. DPA? 16?? ?????? ??? ??? I/O ? ?? ?????, ???? ?????, ?? ??, ??? ???? ?? ?? IO ????? ??? ??? ?? ??? ?? ??? ???????.
- ???: ?? 64?? DDR5-5600 ??? ?????(80GB ???) ? ?? 32?? PCIe Gen 5.0 ???. PCIe ?????? ?? ???(?????) ?? ?? ???(?? ????)?? ???? GPU ?? ?? ??? SSD ??? ??? ? ????.
“?? ?? ??” ??? ?? BlueField-3? ASPEED AST2600 ????? ?? ????(BMC)? ??? ??? DPU ??????. BlueField BMC? DPU ??? ??? ??? ?????? ??? ???? ???? ??? ?? ???? ??? ? ??? ?? ?? ???????. ?? ?? ??? ??, ???, ??? ? ??? ???? ?????.
DPU BMC? ?? ?? ?? ??? ?? ??? ? ?? ???? ???? ??? ?????. ?? ?????? Redfish ????? ???? ??? ?? ? ?? ????? ?? BlueField DPU? ??????? ??? ? ???, DPU? ?? ????? ??? ? ????.
BMC ?? ? ??? ??? ????:
- ?? ?????? ?? BlueField DPU ???
- BlueField UEFI ?? ??
- BlueField DPU ? ?? ??? ????
- BlueField DPU ??? ???? ? ???
- ?? ???(BlueField OS? ??? ????)
BlueField-3 ???? ?????
NVIDIA? ??? ?? ? ?? ??? ??? ???, ??? ? ?? ?? ??? ????? ??? ???? BlueField-3 ???? ?????. ?? ?? ??? ?? ?? ??? ?? ??? BlueField-3 ??? ??? ? ???, ?? ??? ??? ??? ?? ? ????.
?? ?? ? ?? ???
??? ??? ??? ?? ?? BlueField-3 DPU? ?? ?? ???? ???? ?? ???? ?????.
?????? HPC/AI
HPC ? AI ????? ?? ??? ??? ??? ????? ??? 400Gbps(NDR ????? ? 400GbE)? ???? ??? ?? ?? ??????. ????? Arm ??? ???? ??? ??? CPU?? ??? ?? ?????(MPI) ?????? ??? ?????? ???? ?? ??? ?????? NVIDIA ????? ??? ??? ?????. ?? ?? ??? ??? CPU? ?? ???? ?? ??? ??? ? ????.
B3240: ?? ???? ?????? HPC/AI ?? ??? ??? ? ?? ??? ???? ??? ?????. ? BlueField-3 ???? ?? ?? ?? ?????? AI ????? ??? ? ??? NVIDIA DGX H100? ?? ???? ?????. ? ???? ?? 400Gbps NDR ??, 32GB DDR5 ??? ?????, 2.3GHz? Arm ?? ??? ?????.
B3140H: ???? ?????? ??? ???? ?? ?? ?? ??(HHHL) ? ??? ?????. ? ????? ??? ?? ??? ????? ?? 400Gbps ??? 16GB DDR5 ???? ?????. ??? ??? ???? ?? ???? ?? ??? ?? ??? ??? ??? ?? HPC/AI ??? ???? ??? ? ? ????.
???? ???
???? ??? ??? ???? ?? ???? ????? ??? ??? ???? ?? ????? ???? ??? ??? ????? ???. ?? ???? ???? ?????? ?? ???? ???? ??? ? ??? ?? ???? ???? ??? ?? ???? ?? ??????. ?? 4,096?? ?? ??? ???? BlueField-3? ?? ???? ????? ?? ??? ?? ???? ??? ????? 4~8? ? ?? ?? ????? ???? ? ????.
B3220: ?? 200Gbps ??, 32GB DDR5 ??? ?????, 2.3GHz? Arm ?? ??? ???? B3220? ?? ???? ???? ?? ??? ??? ? ?? ??? ???? ??? ??? ????. ???????? ??? ???? ???????(OCI)? ??? ??? ?? ?? ??? ??? ???? ???????? ???? ?? ???? ??? BlueField-3? ??? ??? ?? ??? ????. ?? B3220 ???? ?????? ? ?? ??, ?? ???? ??, ??? ???? ??????? ??? ??? ???? NVIDIA OVX 3.0 ???? ?????.
B3210: 100Gbps? B3210? ???? ?????? ?????? ?? ??? ???? ? ?? ??? ?????. B3210? ?????? ???? ???? VMware vSphere? ???? ?? ?? DPU?, ?? ?? ??? ??, ??? ? ??? ?????.
????
B3220SH: B3220SH ?? ??? ???? NVMe-oF ?? NVMe/TCP ?? ??? ??? ???? ??? NVMe ???? ???? ????? ????. B3220SH? x32 PCIe Gen 5.0 ?????? ???? ?? 16?? SSD? ???? ? ????.
?? ??? ???? ??
BlueField-3? ?? ??? ?? ??? ?? ???? ??? ????? ??? ??? ???? AI ????? ???? ??????. ?? 3? ???? BlueField-3 ???? ??? ???? ???? ??? ?????.
NVIDIA BlueField-3 DPU? ?????? ?? ??
????? ?????? IT? ???? ??? ?????? AI, ??? ????, ???? ??????? ?? ?? ????? ???? ????. ???? AI ??? ???? ?? ???? ???? ?? GPU? DPU? ???? ?? NVIDIA ?? ????? ???? ????.
NVIDIA DOCA ????? ??? NVIDIA BlueField-3 DPU? ?? ??? ??? ?????, ?????, ????, ?? ??? ?????? ???? ??? ??????? ??? ? ??? ?????. ??? ??? BlueField-3 ????? ? ???? ????? ?????.
? ???? ??? SDK? ???? ?? ???, ?? ???, ?? ??, ??, ?? ??, ???? NVIDIA ??? ???? ??? ??? ??? ??? ? ????. ?? ??? ???? NVIDIA? ?? ????? ???? ? ??? ??? ??? ?????? ???? ??? ??? ???.
