fallback-routing
폴백 라우팅
폴백 라우팅은 주 공급자가 한계에 도달하거나 실패할 때 대체 모델이나 API 키로 트래픽을 자동으로 전환하는 라우팅 전략이다. 구현은 라우팅 규칙과 상태 감지를 통해 장애 발생 시 즉시 트래픽을 전환하고 실패한 요청을 보정해 재전송하는 로직을 포함한다. 이 방식은 공급자 장애·요금 제한으로 인한 가동 중단을 줄이는 데 효과적이다.
폴백 라우팅
폴백 라우팅은 주 공급자가 한계에 도달하거나 실패할 때 대체 모델이나 API 키로 트래픽을 자동으로 전환하는 라우팅 전략이다. 구현은 라우팅 규칙과 상태 감지를 통해 장애 발생 시 즉시 트래픽을 전환하고 실패한 요청을 보정해 재전송하는 로직을 포함한다. 이 방식은 공급자 장애·요금 제한으로 인한 가동 중단을 줄이는 데 효과적이다.