Qwen3.5 기반 추론 특화 병합 모델: GGUF로 로컬 실행 최적화
텍스트 생성, 추론, 도구 사용, 다국어 대화18Bapache-2.0
Qwen3.5 기반의 두 모델을 병합하여 추론 성능을 강화하고 GGUF 포맷으로 양자화하여 로컬 환경에서 효율적으로 실행 가능한 18B 파라미터 모델.
핵심 역량
- 멀티턴 대화
- Chain-of-Thought 추론
- 도구 사용
- 다국어 텍스트 생성
강점
- 로컬 환경에서 18B 모델의 추론 성능 활용 가능
- Apache 2.0 라이선스로 상업적 활용 용이
훈련 방식
Qwen3.5-9B 기반 모델 2종(Qwen3.5-9B-GLM5.1-Distill-v1, Qwopus3.5-9B-v3.5)을 병합한 후 GGUF 포맷으로 양자화.
알아두면 좋은 것
- 한국어를 포함한 다국어 지원
- GGUF 포맷을 통한 로컬 실행 최적화
- 추론 및 에이전트 작업 특화 설계
232
Likes
80k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.