본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

google/gemma-4-12B-it-qat-q4_0-gguf

텍스트 생성 및 대화형 AI 태스크12Bapache-2.0

Google의 Gemma 4 12B IT 모델을 GGUF 형식으로 양자화하여 로컬 환경에서 효율적으로 실행할 수 있도록 최적화한 모델.

학습 방식 · Gemma 4 12B IT 모델을 QAT(Quantization Aware Training) 기법으로 학습한 후 GGUF 형식으로 양자화

핵심 포인트

  • QAT 적용으로 일반 양자화 대비 높은 성능 유지
  • 로컬 추론 엔진 호환성
  • 대화형 텍스트 생성
  • 로컬 환경 추론

155

LIKES

299.5k

DOWNLOADS

1 / 0

조회수

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.