gguf

llama.cpp 프로젝트에서 도입한 모델 저장 형식으로, CPU와 GPU를 효율적으로 활용하여 로컬 환경에서 대규모 언어 모델을 실행하는 데 최적화되어 있다.