본문으로 건너뛰기

ud-q4-xl

UD_Q4_XL 양자화

Qwen 27b에 적용한 모델 파일 형식으로, 원문에서는 4비트 계열의 UD_Q4_XL 설정으로 표기됐습니다. 모델의 메모리 사용량과 실행 속도에 영향을 주는 배포 설정이지만, 게시물은 세부 구현은 밝히지 않았습니다.