Cache Tree

공통된 프롬프트 접두부를 trunk로 공유하고, 서로 다른 질문이나 작업을 branch로 분기하는 캐시 구조입니다. 각 branch는 부모 캐시를 재사용하면서 새로 추가된 토큰만 계산하므로 여러 주제를 병렬 처리할 때 중복 연산을 줄입니다.