qwen3.8-27b-q8
Qwen3.8-27b-q8
본문에서 사용한 양자화 언어 모델 표기입니다. 작성자는 이 모델로 추론할 때 Prefill 약 1~1.3k와 초당 30토큰을 얻었고, 긴 사고 과정 때문에 하루 6시간 실행을 가정했습니다.
Qwen3.8-27b-q8
본문에서 사용한 양자화 언어 모델 표기입니다. 작성자는 이 모델로 추론할 때 Prefill 약 1~1.3k와 초당 30토큰을 얻었고, 긴 사고 과정 때문에 하루 6시간 실행을 가정했습니다.