inference-orchestration

여러 모델과 도구 간의 호출 순서를 관리하고 데이터를 전달하는 프로세스이다. 효율적인 오케스트레이션은 불필요한 모델 호출을 줄이고 워크플로를 최적화하여 지연 시간과 비용을 동시에 절감하는 역할을 한다.