?? ?? ??(LLM)? ?? ??? ???? ??? ???? ???????. ??? ??? ??? ?? ?? ?? ??? ?? ??? ?? ????? ????? ????.
??? ?? ??(SLM)? ????? ???? ? ?? ???? ??? ??? ??? ??? ??? ???? ????. SLM? ?? ???? ??? ??? ? ??? ??? ????? ???? ??? ?? ?? ??? ?? ?????. ??? ??? ?? ??? ???? ??? ????? ???? ?? ??? ??? ??? ???? ???? ????? ???? ???.
Microsoft? Phi ???? ? ?? ??? ??? ??? ??? ??? SLM? ?????:
- Phi-4-mini
- Phi-4-????
Phi-4-????? ???, ??? ? ??? ??? ??? ???? ??? ???? ?????.
? ??? ????? ??? ??? ??? ????. ? ???? 2024? 12? ?? ???? ??? Phi-4 14B ???? SLM? ???? ??????, ? ?? ??? ?? ??? ????? ??? ? ?? ?????.
? ??? AI ?????? ? ????? ??, ??? ?? ? ???? ?? Microsoft? ???? AI ???? Azure AI Foundry?? ??? ? ????.
Phi-4-????? ?? ? ????? ? ??? ???? ??? ???? ??? NVIDIA API ????? ?? Phi ???? ? ???? ???? ? ? ????. ?? ?? NIM ??????? ????? ???? ? ??? ??????? ??? ???.
SLM? ???? ?? ??
SLM? ??? ? ??? ?? ???? ??? AI ??? ?????. ?? ??, SLM? ????? ?? ???? ????? ?? ??? ? ????. ????? ??? ?? ??? ???? ?? ?? ???? ???? ?? ? ?? ??? ???? ? ? ????.
SLM? ?? ????? ??? ??? LLM? ?? ????? ? ?? ???? ?? ?? ??? ??? ?? ????. SLM? ?? ???? ??? ??? ???? ? ?? ??? ???? ??? ????. ??? ??? ? ??? ??? ?? ???? ???? ?? ?? ?? ??(RAG) ?? ???? ?? ??? ???? ??? ??? ???? ???? ??? ? ????.
Phi-4-????
Phi-4-????? 56? ?? ????? ???? ???, ??? ? ??? ??? ?????. ?? ?? ?? ?? ??(ASR), ?? ?? ??, ??, OCR, ??? ??? ?? ?? ??? ??? ? ????. ? ??? 21?? ?? 512?? NVIDIA A100-80GB GPU? ???????.
? ??? 6.14%? ?? ???? Huggingface OpenASR ?????? 1?? ??? ?? ASR?? ??? ??? ??????. ?? ???(WER)? ?? ??? ??? ????? ?? ????? ???? ??????. WER? ??? ???? ???? ?? ??? ??(??, ??, ??)? ??? ?????.
?? 1? NVIDIA API ?????? ??? ???? ?? ?? Phi-4-???? ??? QA? ???? ??? ?????. ?? ??, ?? ? ??? ?? ?? ????? ???? ??? ??? ? ????. Python, JavaScript ? Bash? ?? ??? ???? ??? ??????? ? ?? ??? ? ????.
?? ??? ???? ??? ???? ? ??? ??? ?? ????. ?? 2? ??? ?? ???? ???? ?? ?????.
Phi-4-mini
Phi-4-mini? ??? ???? 38? ?? ????? ?? ??? ??, ???, ??? ?? ????? ?????. ???? 128K ??? ? ??? ???? ?? ?????. ? ??? 14? ?? 1024?? NVIDIA A100 80GB GPU?? ???????.
? ?? ?? ?? ???? ????? ??? ?? ???? ??? ???? ???? ?? ???? ??? ??? ?????. ???, ??, ?? ???? ???? ?? ???? ??? ? ????.
???? ?? ??
NVIDIA? ?? ?? ???? ????? ???? ???, ?? ?? ???? ?? ?? ?? ????? ??????. NVIDIA? AI ???? ???? ???? AI ?? ? ???? ?? ??? ????? ??? ? ??? ?? Phi? ?? ???? ????? ? ?? ??? ????? ? ???? ????.
??? ??? ??? NVIDIA NeMo ???? ???? ?? ???? ???? ???????? ?? ?? ??? ??? AI ?????? ?? ??? ???? ????? ??? ? ????.
NVIDIA? Microsoft? ?? ????? ?? Azure? GPU ??? ???? ?? ??, NVIDIA RTX GPU? ???? PC ???? ?? ?? ? ???, ??? AI?? ?? ? ?? ??? ??? ??? ??? ??? ???? ???? ????.
?? ????
???? ??? build.nvidia.com/microsoft?? NVIDIA ?? ????? Phi-4? ??? ???.
Phi-4 ????? ?? ??? ???? ?????? ???, ???, ???? ?? ?? ? ??? ?? ? ??? ?????? ??? ????? ??? ? ????.
?? ???
- GTC ??: ?? ??? ??? ??? ?? ??? ?? ?? ?? ????
- GTC ??: GPU ?? ????? ??? ?? NIM ???(Lablup ??)
- GTC ??: ???? ??? AI ???? ????(??: Lablup)
- NGC ????: Phi-3-Mini-4K-Instruct
- NGC ????: Phind-CodeLlama-34B-v2-Instruct
- NGC ????: Mistral-Nemo-12B-Instruct
