q4-k

정수 기반 양자화 방식의 하나로서 가중치를 4비트 표현으로 압축하는 포맷이다. 이 포맷은 메모리 사용량을 줄이고 메모리 대역폭 요구를 낮추는 대신 특수한 읽기/스케줄링 처리가 필요하다. 원문에서는 Q4_K 포맷을 사용한 엔진 간 성능 비교에서 중요한 변수로 다뤄졌다.