핵심 포인트

• 26M에서 145M 사이의 초경량 Dense 및 MoE 아키텍처 모델 제공
• PyTorch 기반의 토크나이저, 사전 학습, SFT, LoRA, RLHF 전 과정 코드 포함
• DeepSeek-R1의 추론 능력을 이식하는 모델 증류 및 GRPO 강화학습 구현
• llama.cpp, vLLM, Ollama 등 주요 추론 엔진과의 완벽한 호환성 지원