prefix-matching
프리픽스 매칭
프롬프트의 앞부분이 이전에 처리했던 내용과 얼마나 일치하는지 확인하는 기법이다. llama.cpp와 같은 엔진은 문자열이 정확히 일치할 때만 저장된 캐시를 불러오므로, 프롬프트 중간에 동적인 데이터가 삽입되면 캐시 효율이 급격히 떨어진다.
중급
프리픽스 매칭
프롬프트의 앞부분이 이전에 처리했던 내용과 얼마나 일치하는지 확인하는 기법이다. llama.cpp와 같은 엔진은 문자열이 정확히 일치할 때만 저장된 캐시를 불러오므로, 프롬프트 중간에 동적인 데이터가 삽입되면 캐시 효율이 급격히 떨어진다.