병렬 배치 처리
여러 개의 작업을 동시에 묶어서 처리하는 방식으로, 순차 처리 대비 대기 시간을 줄이고 전체 처리량을 높이는 엔지니어링 기법이다. 특히 네트워크 지연이 큰 외부 API 호출이 많은 LLM 애플리케이션에서 전체 실행 시간을 획기적으로 단축하는 데 필수적이다.