Lorbus/Qwen3.6-27B-int4-AutoRound
이미지 및 텍스트 입력을 통한 텍스트 생성27Bapache-2.0
Qwen 3.6 27B 모델을 AutoRound 기법으로 4비트 양자화하여 추론 효율을 극대화한 멀티모달 언어 모델이다.
학습 방식 · Qwen 3.6 27B 기반 AutoRound INT4 양자화 기술 적용
핵심 포인트
- INT4 양자화를 통한 모델 용량 및 VRAM 사용량 대폭 절감
- AutoRound 최적화를 통해 단순 양자화 대비 높은 정확도 유지
- vLLM 및 Transformers 라이브러리를 통한 즉각적인 배포 지원
- 이미지 기반 질의응답
70
LIKES
206.7k
DOWNLOADS
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.
