api-routing

들어오는 API 요청을 특정 조건이나 정책에 따라 적절한 목적지(모델 또는 서버)로 전달하는 프로세스이다. 이를 통해 성능, 비용, 가용성에 따라 최적의 모델을 동적으로 선택하여 실행할 수 있다. 시스템의 효율성과 안정성을 높이는 기술적 수단이다.