모델 호핑
주요 언어 모델이 트래픽 과부하나 오류로 인해 응답하지 못할 때, 자동으로 다른 가용한 모델로 요청을 전환하는 기법이다. 시스템의 가용성과 안정성을 보장하기 위한 전략이다.
데이터 사일로 해결! Amazon Bedrock AgentCore로 구축하는 10초 이내 고객 인사이트 에이