?? ??? ?????? ?? ???? ? ?? NVIDIA? ???? Mamba-Chat ??? ?????.
? ???? ?? ????? NVIDIA? ??? ??? ?? ?? ? ??? ?? ? ??? ? ????? ?? ????? ?????. ? ???? NVIDIA?? TensorRT-LLM? ???? ??????, ?? ???????? ??? ? ??? .nemo ??? ?????.
NVIDIA AI ????? ?? ? ?????? ?????? ???????? ??, ?????? ? ??? ? ??? ??? ???? ? NVIDIA? ??? ??? AI ?? ??? ?? ???? ?????. ?? ??? ?? ????? NVIDIA AI ????????? Nemotron-3, Mixtral 8X7B, Llama 70B ? Stable Diffusion? ?? ?? ??? ??? ???.
???(Mamba-Chat)
Haven?? ??? Mamba-Chat ??? AI ??? ?? ?? ?? ????? ???? ??? ?? ???, ??? ? ??? ???? ????? ?? ??? ??????. ? ???? ?? ??? ?? ???? ?? ??? ?? 4???? ???? ?? ??? ?? ? ? ???? ?? ????? ??? ? ????.
??, ? ????? ??? ??? ?? ????? ??? ? ??? ??? ?? ????? ?????. ?? ?? ???? ??? ??? ??? ?? ?? ????? ???? ??? ?? ???????.
2.8B ??? ??? ???? ???? ??? ??????. ??? ??? ?? ?? ??????? ?? ?? ??? ?? Mamba-Chat? ????? ???? ?? ?? ????? ???? ???? ?????.
? ??? ???? ?? ?????? ???? ? ??? ??? ??? ?? ??? ??? ??? ??? ????? ???? ??????? ?? ?????.
?? ????
NVIDIA? ???? ??????, ?? NGC ????? ??? ??? ?????? ?? ?????? ?? ??? ? ? ????. Mamba-Chat ????? ????? ???? ??? ???? ???? ???? ???? ??? ??? ??? ? ????.
API? ???? ??? ???? ?? ????. NGC ????? ???? ?? NVIDIA ???? ???? ????? ??????? API ?????? ???? ??? ???? ??? ???.
????
NVIDIA AI ??????? ??, ??, ??? ? ?? ???? ???? AI ?? ???? ????, AI ???? ? ??? ????, POC?? ?????? ???? ??? ? ??? ?????. ???? ??? ?? AI ??? ??? ??? ??? ? ??, ???, ?????? ??? ?? ?????.
??? ????? ?? NGC ????? API? ?? ???? ??? ???.
?? ???
- DLI ??: ??? AI ?????? ????
- GTC ??: SQL?? ????: NVIDIA? ?????? ??? ??? ???? ??
- GTC ??: ????? ?? ????: AI ??? ??
- GTC ?? AI/ML ?? ??/??: ?????? ??? ??? ?????? NVIDIA Riva
- SDK: NeMo
- SDK: NeMo Megatron
