context-window-growth
컨텍스트 윈도우 팽창
에이전트가 대화 이력이나 워크플로 정보를 유지하기 위해 입력하는 데이터 양이 시간이 지남에 따라 급격히 늘어나는 현상이다. 이는 LLM 호출 시 토큰 사용량을 비선형적으로 증가시켜 API 비용 상승과 응답 지연의 직접적인 원인이 된다. 효율적인 컨텍스트 관리는 에이전트 운영 경제성을 결정하는 핵심 요소이다.
컨텍스트 윈도우 팽창
에이전트가 대화 이력이나 워크플로 정보를 유지하기 위해 입력하는 데이터 양이 시간이 지남에 따라 급격히 늘어나는 현상이다. 이는 LLM 호출 시 토큰 사용량을 비선형적으로 증가시켜 API 비용 상승과 응답 지연의 직접적인 원인이 된다. 효율적인 컨텍스트 관리는 에이전트 운영 경제성을 결정하는 핵심 요소이다.
