Google Gemma 4 31B IT QAT 모델의 로컬 실행을 위한 GGUF 버전
이미지 및 텍스트 기반 멀티모달 대화 및 추론31Bapache-2.0
Google의 Gemma 4 31B IT QAT 모델을 GGUF 형식으로 변환하여 로컬 환경에서 효율적으로 실행할 수 있도록 최적화한 모델.
핵심 역량
- 이미지-텍스트 멀티모달 대화
- 텍스트 생성 및 추론
- 로컬 환경에서의 효율적 추론
강점
- QAT 적용으로 일반 양자화 대비 높은 정확도 유지
- GGUF 형식을 통한 로컬 추론 최적화
훈련 방식
Google Gemma 4 31B IT QAT 모델 기반 GGUF 양자화 변환
알아두면 좋은 것
- GGUF 형식으로 변환되어 llama.cpp 등에서 구동 가능
- QAT(Quantization Aware Training) 기법 적용으로 양자화 손실 최소화
- Apache 2.0 라이선스 적용
- 이미지-텍스트 멀티모달 입력 처리 지원
75
Likes
107.5k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.