모델 오케스트레이션 (model-orchestration) 용어 설명 | AI Trends
model-orchestration
모델 오케스트레이션
중급
모델 오케스트레이션은 여러 모델과 서비스 간의 호출 흐름을 제어하고 상태를 관리하는 구성 요소를 말한다. 요청의 전처리·모델 선택·후처리·재시도 로직과 같은 파이프라인 단계를 조정해 일관된 응답을 보장하며 확장성과 관측성을 제공한다. 오케스트레이터의 설계가 라우팅 정책의 적용 가능성과 시스템 복잡도를 좌우한다.