본문으로 건너뛰기

context-tokens

컨텍스트 토큰

LLM이 한 번의 추론 과정에서 처리하는 입력 텍스트의 기본 단위이다. 이 토큰 수를 줄이면 API 호출 비용이 절감되고 추론 속도가 빨라지는 직접적인 이점이 있다.