4B 파라미터로 120B급 성능에 도전하는 초경량 멀티모달 GGUF 모델
이미지 및 텍스트 이해를 통한 텍스트 생성4B262K 컨텍스트apache-2.0
Unsloth의 Dynamic 2.0 양자화로 로컬 환경에서 이미지와 텍스트를 초고속으로 처리하는 4B 멀티모달 모델입니다.
핵심 역량
- Unsloth Dynamic 2.0 GGUF 양자화
- 262K 기본 컨텍스트 (최대 1M 확장 가능)
- 201개 이상의 다국어 및 방언 지원
- 이미지-텍스트 통합 비전-언어 파운데이션
- Gated Delta Networks 기반 고효율 추론
알아두면 좋은 것
- MMLU-Pro 79.1, C-Eval 85.1 등 4B 체급 대비 압도적 벤치마크
- 한국어를 포함한 201개 언어 지원으로 글로벌 서비스 적합
- Unsloth Dynamic 2.0 적용으로 기존 양자화 대비 높은 정확도 유지
- GGUF 포맷 제공으로 로컬 CPU/GPU 혼합 추론 용이
141
Likes
313.8k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.