컨텍스트 압축
LLM에 입력되는 긴 텍스트 데이터에서 불필요한 부분을 제거하거나 요약하여 핵심 정보만 남기는 기술이다. 이를 통해 토큰 사용량을 줄이고 모델의 처리 효율을 높여 비용을 절감한다.