token-budget

LLM API 호출 시 사용자가 설정한 최대 토큰 사용량이다. 비용 관리와 응답 속도 최적화를 위해 제한된 예산 내에서 가장 가치 있는 정보를 전달하는 것이 필수적이다.