TL;DR

unsloth/Qwen3.8-27B-GGUF는 Qwen/Qwen3.8-27B를 Unsloth Dynamic V3.0 preview 방식으로 양자화한 GGUF 배포본입니다. 27B 파라미터의 Qwen3.8 구조를 유지하면서 Thinking mode, reasoning_effort, preserve_thinking을 통해 추론 깊이와 문맥 보존을 조절합니다. Native vision-language 기능으로 이미지와 동영상을 처리하고, 코딩·연구·전문 업무와 장기 에이전트 작업을 겨냥합니다. 기본 컨텍스트는 262,144토큰이며 YaRN 같은 RoPE scaling으로 최대 1,000,000토큰까지 확장할 수 있습니다.

핵심 포인트

• Qwen3.8-27B를 Unsloth Dynamic V3.0 preview 방식으로 양자화한 GGUF 모델입니다. 원본 Qwen/Qwen3.8-27B의 27B 파라미터를 배포 환경에 맞게 압축합니다. 양자화 품질과 실행 편의성을 함께 겨냥한 변환본입니다.
• Qwen3.8-27B는 Gated DeltaNet과 Gated Attention을 결합한 64층 dense 구조를 사용합니다. MTP 학습으로 여러 토큰을 예측하며, 기본 컨텍스트는 262,144토큰이고 RoPE scaling을 적용하면 최대 1,000,000토큰까지 확장할 수 있습니다. 긴 문서와 장기 에이전트 작업을 한 모델 안에서 처리하도록 설계됐습니다.
• Thinking mode가 기본 활성화되며 요청별로 끄거나 reasoning_effort로 추론 깊이를 조절할 수 있습니다. preserve_thinking을 사용하면 이전 메시지의 추론 문맥을 유지할 수 있고, 개발자 도구와 에이전트 환경을 위한 tool calling 및 환경 피드백 처리도 개선됐습니다. 복잡한 작업을 계획부터 완료까지 이어가는 용도에 초점을 맞춥니다.
• Native vision-language 모델로 이미지와 동영상을 입력받아 STEM 도표, 문서와 장시간 영상까지 처리합니다. 동영상에서는 video_preprocessor_config.json의 longest_edge를 469,762,048로 조정하면 224k video tokens에 해당하는 더 높은 프레임률 샘플링을 사용할 수 있습니다. 실행 환경에서 이 전처리 설정을 직접 조정해야 영상 성능을 충분히 활용할 수 있습니다.

제한사항

이미지 분석