Gemma 4 26B 멀티모달 모델을 로컬에서: Unsloth의 GGUF 양자화 버전 공개
이미지 및 텍스트 입력을 통한 텍스트 생성 (멀티모달 대화)26Bapache-2.0
Google의 Gemma 4 26B 멀티모달 모델을 Unsloth가 GGUF 형식으로 양자화하여 로컬 환경 추론 효율성을 극대화한 모델이다.
핵심 역량
- 이미지 내용 설명 및 질의응답
- 멀티턴 텍스트 대화
- 시각적 문맥 기반의 텍스트 생성
강점
- 26B 규모 모델을 GGUF 양자화로 메모리 요구량 대폭 감소
- imatrix 기법 적용으로 양자화 효율 및 정확도 유지
- Apache 2.0 라이선스를 통한 자유로운 활용
훈련 방식
Google Gemma 4 26B-A4B-it 기반 Unsloth imatrix GGUF 양자화
알아두면 좋은 것
- Google의 Gemma 4 26B-A4B-it 모델을 기반으로 함
- Unsloth의 최적화 기술과 imatrix 양자화 적용
- Apache 2.0 라이선스로 상업적 이용 가능
- GGUF 포맷 지원으로 llama.cpp 등 다양한 런타임 호환
729
Likes
3.3M
Downloads
1 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.