핵심 역량

• 다국어 텍스트 생성
• 논리적 추론 및 질의응답
• 긴 문맥 이해 및 요약
• 코드 작성 및 디버깅 보조

강점

• MoE 적용으로 동급 성능 모델 대비 낮은 추론 비용
• MIT 라이선스 기반의 높은 개방성과 상용화 편의성

훈련 방식

MoE 구조와 DSA 메커니즘을 적용한 대규모 사전 학습 기반의 텍스트 생성 모델

알아두면 좋은 것

• MIT 라이선스 적용으로 상업적 활용 및 수정 가능
• MoE 아키텍처 기반의 효율적인 파라미터 활용
• DSA(Dual Sparse Attention) 메커니즘을 통한 추론 최적화
• 중국어 및 영어 데이터셋에 특화된 학습 수행