가변 연산량 설정
모델이 요청별로 할당되는 계산 자원을 동적으로 조정해 간단한 입력에는 적은 연산을, 복잡한 문제에는 더 많은 연산을 투입하도록 하는 기능으로, 동일 모델이라도 처리 정확도와 지연·비용을 상황에 맞게 균형시키는 데 사용된다.
