Gemma 4 31B 모델을 로컬에서 Claude Code CLI와 연동하여 자율 코딩 에이전트 구축하기

작성자의 시도에 대해 긍정적인 반응이며, 특히 제한된 하드웨어에서 대형 모델을 돌리기 위한 KV 캐시 최적화 팁이 유용하다는 평가이다.

• VRAM 부족 시 llama.cpp의 -ctk q8_0 플래그를 사용하여 KV 캐시 메모리를 절반으로 줄일 것
• Gemma 4 토크나이저 호환성을 위해 llama.cpp b8672 이상 최신 빌드를 사용할 것