compression-pipeline
압축 파이프라인
입력 프롬프트의 불필요한 토큰을 여러 단계로 순차 처리해 줄이는 체계로, 각 단계는 필터링·의미 기반 프루닝·중복 제거 등 다른 방법을 적용해 최종적으로 원본과 바이트 정확성이 필요한 부분만 보존한다. 이 게시물 맥락에서는 RTK 필터, LLMLingua-2, Caveman, session-dedup 등 도구를 조합해 평균 89% 수준의 토큰 감소를 달성한 과정이다. 압축 과정은 코드·URL·JSON을 손상시키지 않도록 보존 정책과 인플레이션 가드를 병행해 실제 토큰 증가를 방지하는 점이 핵심이다.
