본문으로 건너뛰기

token-accumulation

토큰 누적

중급

대화 세션이 길어짐에 따라 이전 문맥이 토큰 형태로 쌓이는 현상이다. 토크나이저의 배율이 높을수록 누적 속도가 빨라져 API 호출 비용이 급격히 상승하고 워크플로의 효율성이 떨어진다.