컨텍스트 윈도우 팽창 (context-window-growth) 용어 설명 | AI Trends
context-window-growth
컨텍스트 윈도우 팽창
중급
에이전트가 대화 이력이나 워크플로 정보를 유지하기 위해 입력하는 데이터 양이 시간이 지남에 따라 급격히 늘어나는 현상이다. 이는 LLM 호출 시 토큰 사용량을 비선형적으로 증가시켜 API 비용 상승과 응답 지연의 직접적인 원인이 된다. 효율적인 컨텍스트 관리는 에이전트 운영 경제성을 결정하는 핵심 요소이다.