ai-llm-gateway

AI LLM Gateway는 내부에서 관리되는 모델 접근 계층으로 Bedrock에 호스팅된 foundation model에 대한 거버닝과 쿼터 관리를 수행합니다. 에이전트는 이 게이트웨이를 통해 Anthropic Claude 같은 모델에 안전하게 요청을 전달하고 응답을 받습니다. 중앙 제어로 모델 사용량과 권한을 통제하면서 운영 표준을 지킬 수 있게 합니다.