rolling-window-compression

대화의 전체 히스토리 중 최신 메시지는 그대로 유지하고 오래된 메시지는 요약본으로 대체하여 컨텍스트를 관리하는 기법이다. 고정된 창(Window) 크기를 넘어서는 데이터를 압축함으로써 LLM의 컨텍스트 윈도우 제한을 극복하고 처리 효율을 높인다. 대화가 길어질수록 기하급수적으로 증가하는 입력 토큰 수를 제어하는 데 핵심적인 역할을 한다.