31B 규모의 Gemma 4 멀티모달 모델을 로컬에서 효율적으로 실행하는 GGUF 버전
이미지 및 텍스트 입력 기반 텍스트 생성31Bapache-2.0
Google의 Gemma 4 31B 지시어 튜닝 모델을 Unsloth가 GGUF 형식으로 양자화하여 로컬 환경에서의 추론 효율성을 극대화한 멀티모달 모델이다.
핵심 역량
- 이미지 내용 설명 및 분석
- 멀티모달 대화 수행
- 복잡한 지시어 이행
- 텍스트 기반 추론 및 생성
강점
- GGUF 포맷 지원으로 llama.cpp 등 로컬 런타임 호환성 확보
- 31B 파라미터 모델의 메모리 요구 사양 대폭 절감
- Apache 2.0 라이선스로 자유로운 배포 및 활용 가능
훈련 방식
Google Gemma 4 31B-it 기반 GGUF 양자화 및 imatrix 최적화
알아두면 좋은 것
- Google Gemma 4 31B-it 베이스 모델 사용
- Unsloth의 최적화 기술이 적용된 GGUF 양자화 버전
- Apache 2.0 라이선스로 상업적 이용 가능
- imatrix를 활용한 양자화 품질 보정 적용
341
Likes
1.5M
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.