streamed-response-replay
스트리밍 응답 재생
프록시를 통과하는 스트리밍(예: SSE) 응답을 조립해 동일 키로 저장하고, 이후 동일 요청이 오면 합성된 스트림 이벤트로 재생하는 방식입니다. 완결(finish_reason 확인)된 스트림만 캐시에 저장하며, 부분적으로 중단된 스트림은 캐시 항목으로 만들지 않습니다. 이 설계는 스트리밍 응답의 시퀀스 무결성과 청구 정합성을 유지합니다.
스트리밍 응답 재생
프록시를 통과하는 스트리밍(예: SSE) 응답을 조립해 동일 키로 저장하고, 이후 동일 요청이 오면 합성된 스트림 이벤트로 재생하는 방식입니다. 완결(finish_reason 확인)된 스트림만 캐시에 저장하며, 부분적으로 중단된 스트림은 캐시 항목으로 만들지 않습니다. 이 설계는 스트리밍 응답의 시퀀스 무결성과 청구 정합성을 유지합니다.
