prompt-context-accumulation
프롬프트 컨텍스트 축적
프롬프트 컨텍스트 축적은 대화형 시스템에서 각 재시도가 이전 채팅 히스토리를 프롬프트에 덧붙이면서 입력 토큰이 점진적으로 증가하는 현상이다. 이 과정은 실패한 툴 호출이 반복될수록 매 턴마다 컨텍스트 크기가 커져 비용과 지연이 기하급수적으로 증가하게 만든다. 토큰 기반 과금과 긴 컨텍스트 비용을 고려할 때 재시도 제어는 비용 관리의 핵심 요소이다.
프롬프트 컨텍스트 축적
프롬프트 컨텍스트 축적은 대화형 시스템에서 각 재시도가 이전 채팅 히스토리를 프롬프트에 덧붙이면서 입력 토큰이 점진적으로 증가하는 현상이다. 이 과정은 실패한 툴 호출이 반복될수록 매 턴마다 컨텍스트 크기가 커져 비용과 지연이 기하급수적으로 증가하게 만든다. 토큰 기반 과금과 긴 컨텍스트 비용을 고려할 때 재시도 제어는 비용 관리의 핵심 요소이다.
