batch-inference

여러 개의 입력 데이터를 한꺼번에 묶어서 모델에 전달하고 처리하는 방식이다. 실시간 응답보다는 대량의 데이터를 효율적으로 처리해야 하는 분석 작업에 주로 사용된다.