핵심 역량

• 이미지-텍스트 멀티모달 대화
• 효율적인 텍스트 생성 및 요약
• 전문가 선택적 활성화를 통한 고속 추론
• 복합 문맥 이해 및 응답

강점

• REAP 기법 적용으로 동일 파라미터 대비 높은 추론 효율성 확보
• Gemma 4 기반의 최신 언어 모델 성능 계승
• MoE 구조를 통한 활성 파라미터 최적화 (a4b 추정)

훈련 방식

Gemma 4 21B 기반 REAP 전문가 가지치기 및 Cerebras 가속기를 활용한 MoE 파인튜닝

알아두면 좋은 것

• REAP(Resource-Efficient Adaptive Pruning) 전문가 가지치기 기술 적용
• Cerebras 하드웨어 최적화 학습 데이터 활용
• Gemma 라이선스에 따른 사용 제한 준수 필요
• 이미지 입력을 지원하는 Image-to-Text 기능 포함