z-lab/Qwen3.6-27B-DFlash
텍스트 생성 가속화 (추측적 디코딩)27B (Target 기준)mit
블록 확산(Block Diffusion) 기법을 활용하여 Qwen 3.6 27B 모델의 추론 속도를 비약적으로 향상시키는 전용 드래프트 모델이다.
학습 방식 · Qwen 3.6 27B 기반 블록 확산(Block Diffusion) 기법을 적용한 추측적 디코딩 특화 학습
핵심 포인트
- 최대 15~16개의 추측 토큰(Speculative Tokens)을 동시에 생성하여 추론 속도 개선
- vLLM 및 SGLang 등 최신 추론 프레임워크와의 네이티브 통합 지원
- 병렬 토큰 드래프팅
- 추측적 디코딩 가속
295
LIKES
39k
DOWNLOADS
1 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.
