컨텍스트 윈도우 관리 (context-window-management) 용어 설명 | AI Trends
context-window-management
컨텍스트 윈도우 관리
중급
모델이 한 번에 처리할 수 있는 토큰 제한 내에서 정보를 효율적으로 배치, 요약, 유지하는 기술이다. 대화가 길어지면 이전 내용을 요약 블록으로 압축하면서도 프로젝트 규칙 같은 핵심 정보는 매번 재주입하여 모델의 일관성을 유지한다. 복잡한 코딩 작업에서 모델의 추론 성능을 장기간 유지하는 핵심 메커니즘이다.