cross-region-inference
교차 리전 추론
사용자가 요청을 보낸 리전이 아닌, 가용 자원이 있는 다른 지리적 리전으로 AI 모델 추론 요청을 자동 라우팅하는 기술이다. 이를 통해 특정 지역의 트래픽 급증이나 용량 부족 문제를 해결하고 서비스의 가용성을 극대화할 수 있다.
교차 리전 추론
사용자가 요청을 보낸 리전이 아닌, 가용 자원이 있는 다른 지리적 리전으로 AI 모델 추론 요청을 자동 라우팅하는 기술이다. 이를 통해 특정 지역의 트래픽 급증이나 용량 부족 문제를 해결하고 서비스의 가용성을 극대화할 수 있다.
