본문으로 건너뛰기

Token Optimization

토큰 최적화

LLM 입력 및 출력에 사용되는 토큰 수를 줄여 비용을 절감하고 처리 속도를 높이는 기법이다. 컨텍스트 윈도우 제한 문제를 해결하는 데 필수적이다.