google/gemma-4-12B-it-qat-q4_0-gguf
텍스트 생성 및 대화형 AI 태스크12Bapache-2.0
Google의 Gemma 4 12B IT 모델을 GGUF 형식으로 양자화하여 로컬 환경에서 효율적으로 실행할 수 있도록 최적화한 모델.
학습 방식 · Gemma 4 12B IT 모델을 QAT(Quantization Aware Training) 기법으로 학습한 후 GGUF 형식으로 양자화
핵심 포인트
- QAT 적용으로 일반 양자화 대비 높은 성능 유지
- 로컬 추론 엔진 호환성
- 대화형 텍스트 생성
- 로컬 환경 추론
155
LIKES
299.5k
DOWNLOADS
1 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.