Writer? ? ?? ??? ??? ?? AI ??? Palmyra-Med 70B? Palmyra-Fin 70B? ???? NVIDIA NIM? ??? ??????. ? ???? ?? ? ?? ??? AI ??????? ??? ???? ????, GPT-4, Med-PaLM 2, Claude 3.5 Sonnet? ?? ?? ???? ??? ??? ?????.
?? ?? ?? ??(LLM)? ?? ??? ?? ???, ??? ???? ??? ??? ?? ???? ??? ?? ? ??? ?? ???? ??? ?? ??? ??? ????. Palmyra-Med 70B? Palmyra-Fin 70B? ???? ???, ??? ?? ? ?? ?? ???? ??? ? ???? AI ?????? ???? ? ????? ?????.
Palmyra-Med 70B? Palmyra-Fin 70B? Writer? ??? ?? ??? LLM ??? ???? ?????. ???? ?? ??? Palmyra-X, ??? ??? Palmyra-Vision ?? ?????. Palmyra-Med 70B? ???-? 70B? NVIDIA NIM ???????? ?????? ????, ?????, ?? ??? ???? NVIDIA ?? ????? ??? ? ?? ?? ??? ????? ??? ???? ???????.
?? ??? ???? ? ???, Palmyra-Med 70B? Palmyra-Fin 70B ?? NVIDIA AI ?????? ?? ??? ???????. NVIDIA TensorRT-LLM? ??? ???? ?? ??? ?? ?? ??(TTFT)? ?? 23%? 30% ?????, ?? ?? ??(TPS)? ? ?? ?? ?? 60%?? ??????. ? ?? ??? ?? ??? ???? ???? ?? ??? ?? ???? ??? ???????.
?? 1. NVIDIA TensorRT-LLM ???? Palmyra-Med 70B ? Palmyra-Fin 70B ??? TTFT(??) ? TPS(???)? ??? ??
???? ?? ???? ?? ?? ?? ??
Palmyra-Med 70B? ??? ??? ?? ???? ???? ?? ??? ?????. ??? ??, Palmyra-Med 70B? ?? ?? ?????? ?? 85.9%? ???? 2?? Med-PaLM 2? 2% ??? ??? ?????. Med-PaLM 2? Palmyra? ?? ? ??? ?? 5?? ??? ????? ?? ??? ??? ??????.
? 1? ?? ?? ?? ?? ???? ??? ??? ????? ?? ??(MMLU) ???? ??? ?????. ?????? MMLU ?? ??, ?? ??, PubMedQA ?? ?????. ?? ??? ??? ?????.
| Palmyra-Med | Med-PaLM 2 (5-shot) | GPT-4 | Gemini 1.0 | GPT-3.5 Turbo | |
| MMLU Clinical Knowledge | 90.9 | 88.3 | 86 | 76.7 | 74.7 |
| MMLU Medical Genetics | 94 | 90 | 91 | 75.8 | 74 |
| MMLU Anatomy | 83.7 | 77.8 | 80 | 66.7 | 72.8 |
| MMLU College Medicine | 84.4 | 80.9 | 76.9 | 69.2 | 64.7 |
| PubMedQA | 79.6 | 79.2 | 75.2 | 70.7 | 72.7 |
| ??* | 85.9 | 84.1 | 82.8 | 70.8 | 66 |
*?? ??? 9? ??? ???? ??? ????.
? ?? ??? ?? ??? ??? ??? ?? ??? ??? ? ?? ???? ??? ? ?? ??? ?? ?? ??? ??? ???? ? ??? ? ? ????:
- ?? ?? ? ???: MMLU ?? ???? 90.9%, MMLU ????? 83.7%? ??? ??? Palmyra-Med 70B? ?? ?? ? ?? ???? ?? ??? ??? ??????. ??? ?? ???? ??? ???? ?? ??? ???? ? ?? ?????.
- ??? ? ?? ??: ?? ????? 94.0%, ?? ???? 84.4%? ??? ?? ? ??? ?? ??? ?? ??? ???? ??? ??? ??? ??? ?? ?? ??? ?????.
- ???? ??: PubMedQA?? 80%? ??? ???? Palmyra-Med 70B? ??? ???? ??? ????? ???? ???? ?? ? ?? ?? ?? ??? ???? ??? ??????.
?? ??? ?? ???? ???? ??? ??? AI ???????? ?? ?? ??? ???? ? ??? ?? ????. Palmyra-Med 70B? ?? ?? ?? ??? ??? ??? ?? ?? ??? ?? ????, ?? ?? ?? ??? ???? ?? ??? ?????. ?? ???? ????, ?? ???? ??, ?? ?? ?? ?? ??? ??? ????.
?? ?? ??? ???? ???? ?? ??? ???? ?? ??? AI ?? ??? ? ??? Palmyra-Med 70B? ?????.
70B? ?? ?? ??? ???? ?? ?? ?? ??? ???? ?? ??? AI ?? ??? ? ??? ?????.
??? ?? ??? LLM
?? ???? ??? AI? ????? ? ????, ??? ??, ??? ?? ?? ? ??? ???? ?????. ? ?? ? ??? ?? ?? ??? ??? ??? ?? ?? ??? ???? ???? ??? ?? ??? ??? ? ?? ?? ??? ?? LLM? ???????.
- ?? ??? ?? ? ??: ?? ??? ???? ?? ??? ?? ??? ?????.
- ?? ??: ??, ?? ?? ?? ??? ?? ??? ??? ?????.
- ?? ??: ??? ?? ?? ?? ?? ??? ??? ??? ??? ?????.
- ?? ?? ??: ??? ?? ???? ?? ??? ?? ?? ??? ?????.
Palmyra-Fin? ???? ????? ?? CFA ?? III ??? ???? ??? ??????. ? ??? CFA ?? III ?? ??? ??? ???? 73%? ???? ??? ??? ??? ??? ?????. ??? ??? ??? ? CFA ?? III ??? ?? ?? ???? ?? ?? ??? ??? ? ?????. ?? 11? ?? ?? ???? 60%???, ????? ?? ??? ? ?? ??? ?? ??? ?????.
Palmyra-Fin? ??? ??? ???? 33%? ???? ??? GPT-4? ?? ?? ?? ??? ?? ???? ??? ????.
?? ?? ? ???? ?? ???? ????? Palmyra-Fin? ???? ??? ?? ??? ???? ??? ??? ???? Claude 3.5 Sonnet, GPT-4o, Mixtral 8x7B? ?? ?? ???? ??? ??? ???????.
Palmyra LLM ????
??? ???? LLM? AI ??? ???? ?? ? ???, ???? ??? AI ??????? ???? ??? ???? ????. ??? ?? ?? ??? ?? ??? ???? ??? ???? ?? Palmyra-Med 70B ? Palmyra-Fin 70B ??? ?? ??? ???? ??? ???? ???? ????. ??? ?? ??? ???? ???? ?? ?? ??? ??? ?? ? ?? ??? ??? ? ????.
?? ?? ?? ???? AI ??????? ???? ??, NVIDIA API ????? ?? ???? ? ?? Palmyra-Med 70B ? Palmyra-Fin 70B? ??? ???. ??? ?? ??? ??, Writer ?(sales@writer.com)? ??? ? ????.
?? ???
GTC ??: ??? AI ? LLM ????? ?? ? ?? ??? ????? ??
GTC ??: ??? AI ? LLM? ?? ?? ??? ?????
GTC ??: LLM? ???? ???? ??? ?? ??? ?????(Snowflake ??)
NGC ????: genai-llm-playground
SDK: MONAI ?? ????? ???
???: AI? ?? ?? ????? ??: CLLM? ?? ?? ??
