본문으로 건너뛰기

Token Reduction

토큰 감소

LLM이 텍스트를 처리하는 단위인 토큰의 수를 줄여 비용과 처리 시간을 최적화하는 과정이다. 토큰 수가 줄어들면 API 호출 비용이 직접적으로 절감된다.