핵심 역량

• 멀티턴 대화 수행
• 복잡한 지시사항 이행
• 텍스트 요약 및 생성
• vLLM 엔진 기반 고속 추론

강점

• NVFP4 포맷 적용으로 FP8 대비 높은 추론 효율성 확보
• 31B 규모 모델을 4비트 양자화로 메모리 점유율 최적화
• vLLM 지원을 통한 엔터프라이즈급 서빙 가능

훈련 방식

Google Gemma 4 31B IT 기반, NVIDIA ModelOpt를 활용한 NVFP4 4비트 양자화 및 추론 최적화

알아두면 좋은 것

• NVIDIA ModelOpt를 사용한 NVFP4 양자화 적용
• vLLM 추론 엔진과의 호환성 보장
• Google Gemma 4 31B IT 모델을 베이스로 사용
• Apache 2.0 라이선스로 상업적 이용 가능