27B 대형 멀티모달 모델을 로컬에서 효율적으로 실행하는 TurboQuant 양자화 버전
이미지 및 텍스트 이해를 통한 텍스트 생성27Bapache-2.0
Qwen 3.6 27B 모델을 TurboQuant 기법으로 양자화하여 GGUF 포맷으로 제공하는 고성능 시각-언어 멀티모달 모델이다.
핵심 역량
- 이미지 내용 설명 및 분석
- 시각적 질의응답
- 다국어 텍스트 생성 (영어, 중국어)
- 멀티턴 대화 수행
강점
- 27B 파라미터 모델을 양자화를 통해 메모리 점유율 감소
- GGUF 포맷 지원으로 다양한 로컬 런타임에서 실행 가능
- Apache 2.0 라이선스로 상업적 이용 가능
훈련 방식
Qwen 3.6 27B 기반 TurboQuant TQ3_4S 양자화 및 GGUF 포맷 변환
알아두면 좋은 것
- Qwen 3.6 27B 모델을 기반으로 한 양자화 버전
- TurboQuant TQ3_4S 최적화 적용
- GGUF 포맷으로 로컬 추론 엔진 호환성 확보
- 영어 및 중국어 다국어 지원
62
Likes
30.4k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.