본문으로 건너뛰기

automatic-compaction

자동 컨텍스트 압축

대화나 작업 기록이 길어질 때 이전 내용을 압축해 모델이 계속 처리할 수 있도록 컨텍스트를 줄이는 과정입니다. 실행 중 자동 압축 시도는 31회였고, 압축을 포함하면 입력 토큰은 131.2M에서 집계됐습니다. 압축은 장기 과업을 이어가게 하지만 추가적인 모델 호출과 입력 처리량을 발생시킵니다.