본문으로 건너뛰기

deterministic-cache

결정적 캐시

모델 호출을 모델 식별자·프롬프트 버전·입력 해시로 결정적으로 식별하여 동일 입력에 대한 반복 추론을 방지하는 캐시 기법이다. 이로 인해 상태 재현 시 인퍼런스 비용이 발생하지 않으며 디버깅과 재생이 비용 없이 가능하다.