본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

unsloth/Mistral-Small-4-119B-2603-GGUF

다국어 텍스트 생성 및 대화형 추론119Bapache-2.0

Mistral Small 4 119B 모델을 GGUF 형식으로 양자화하여 로컬 추론 효율성을 극대화한 모델이다.

학습 방식 · Mistral-Small-4-119B-2603 기반 Unsloth Imatrix GGUF 양자화

핵심 포인트

  • 119B급 성능을 GGUF 양자화로 VRAM 요구량 대폭 절감
  • Imatrix 적용으로 동급 양자화 모델 대비 높은 정확도 유지
  • Apache 2.0 라이선스의 자유로운 활용성
  • 멀티턴 대화 수행

39

LIKES

26.6k

DOWNLOADS

0 / 0

조회수

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.