본문으로 건너뛰기

caching-proxy

캐시 프록시

LLM 호출을 중계하며 이전 응답을 재사용하는 네트워크 계층으로, 요청을 정규화 → 키 조회 → 응답 제공의 흐름으로 동작하고 과금 이벤트를 원경로와 동일한 신뢰도로 생성해야 수익 흐름이 보장된다.