Claude Opus급 추론 데이터를 이식한 Qwen 3.5 35B MoE 증류 모델
텍스트 생성 및 복합 추론 (Chain-of-Thought)35Bapache-2.0
Qwen 3.5 MoE 아키텍처에 고성능 추론 데이터셋을 증류하여 한국어와 다국어 논리 추론 성능을 극대화한 모델입니다.
핵심 역량
- 단계별 사고(Chain-of-Thought) 추론
- 한국어·영어·중국어 다국어 대화
- 복잡한 논리 및 수학 문제 해결
- 코드 생성 및 디버깅
강점
- Claude급 고난도 추론 데이터 증류를 통한 논리 성능 확보
- MoE 아키텍처를 통한 추론 속도 및 효율성 개선
- 한국어 데이터셋 필터링을 통한 로컬 언어 이해도 향상
훈련 방식
Qwen 3.5 35B MoE 기반, Claude 추론 데이터셋(Opus-4.6-Reasoning)을 활용한 지식 증류 및 Unsloth 최적화 학습
알아두면 좋은 것
- Claude 계열 추론 데이터 3,000개 이상을 활용한 지식 증류 학습
- Qwen 3.5 MoE 구조를 채택하여 파라미터 대비 효율적인 연산 수행
- 한국어(ko)를 포함한 다국어 데이터셋 최적화 및 필터링 적용
- Apache 2.0 라이선스로 상업적 이용 및 수정 가능
73
Likes
4.5k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.