GGUF Q4_K 양자화
GGUF Q4_K는 모델 가중치를 4비트 양자화하여 메모리 사용량을 크게 줄이는 포맷·기법 계열을 가리킨다. 논문 내 WAM 마이크로벤치마크에서는 BF16 대비 가중치 상주 메모리를 312.2 MiB에서 88.1 MiB로 줄이는 데 사용되었고, 출력 유사도를 보존하는지 MAE와 코사인 유사도로 검증했다. 이 기법은 엣지 디바이스에서 대형 블록을 배치 없이 실행할 때 메모리 병목을 해결하는 핵심 요소로 작동한다.