froggeric/Qwen3.6-27B-MTP-GGUF
멀티모달 이미지 및 텍스트 생성27Bapache-2.0
Qwen 3.6 27B 모델을 llama.cpp에서 실행 가능하도록 GGUF 포맷으로 양자화하고 멀티 토큰 예측(MTP)을 통해 추론 속도를 최적화한 모델입니다.
학습 방식 · Qwen 3.6 27B 기반의 MTP(Multi-Token Prediction) 아키텍처 적용 및 GGUF 양자화
핵심 포인트
- MTP 지원으로 일반 양자화 모델 대비 빠른 추론 속도 구현
- 27B 파라미터 모델을 GGUF 포맷으로 변환하여 소비자용 GPU에서 실행 가능
- Apache 2.0 라이선스 기반의 자유로운 활용성
- 이미지 및 텍스트 입력을 통한 멀티모달 대화
58
LIKES
52.4k
DOWNLOADS
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.