Qwen 3.5 35B MoE의 강력한 성능을 로컬에서 검열 없이 경험하기
멀티모달 이미지 및 텍스트 생성35Bapache-2.0
Qwen 3.5 35B MoE 모델을 기반으로 검열을 해제하고 GGUF 형식으로 양자화하여 로컬 환경에서 이미지와 텍스트를 동시에 처리할 수 있도록 최적화한 모델이다.
핵심 역량
- 이미지 묘사 및 질의응답
- 멀티턴 대화 수행
- 검열 없는 텍스트 생성
- 다국어(영어, 중국어 등) 지원
- 복합 지시문 이행
강점
- MoE 구조를 통한 35B 규모 대비 빠른 추론 속도
- GGUF 형식을 통한 로컬 CPU/GPU 하이브리드 추론 지원
- imatrix 적용으로 일반 양자화 대비 높은 정밀도 유지
훈련 방식
Qwen 3.5 35B A3B 기반으로 검열 해제 튜닝 후 imatrix 기법을 적용하여 GGUF로 양자화
알아두면 좋은 것
- Qwen 3.5 35B A3B 기반의 MoE 아키텍처 적용
- imatrix를 활용한 고품질 GGUF 양자화 버전
- 검열(Uncensored) 해제 처리를 통한 자유로운 응답 생성
- Apache 2.0 라이선스 기반의 오픈 소스 모델
58
Likes
33.2k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.