397B급 성능을 효율적으로! Unsloth Dynamic 2.0 양자화로 로컬 실행 최적화
이미지 및 텍스트 입력 기반 텍스트 생성 (멀티모달 이해 및 추론)397B (17B Active)262K 컨텍스트apache-2.0
397B 파라미터의 강력한 멀티모달 성능을 17B 활성화 파라미터와 GGUF 양자화로 최적화한 모델입니다.
핵심 역량
- 397B 총 파라미터 중 17B만 활성화하는 MoE 구조
- 262K 기본 및 최대 1M 토큰 컨텍스트 지원
- 201개 이상의 다국어 및 방언 지원
- 이미지-텍스트 통합 멀티모달 추론
- Unsloth Dynamic 2.0 기반 고정밀 GGUF 양자화
알아두면 좋은 것
- IFBench 76.5점으로 GPT-5.2(75.4)를 상회하는 지시 이행 능력
- 한국어를 포함한 201개 언어 지원으로 글로벌 배포 최적화
- GGUF 포맷 제공으로 소비자급 하드웨어에서의 실행 가능성 확대
- Gated DeltaNet과 Sparse MoE 결합으로 추론 지연 시간 최소화
197
Likes
105.1k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.