동시성 제어
동시에 처리되는 요청 수를 조정하는 구성 요소로서, 높은 동시성은 토큰 처리량을 높이는 반면 개별 요청의 지연을 증가시킬 수 있으므로 최적화 목표에 따라 우선순위를 달리 설정해야 한다.
