Amazon SageMaker MLflow를 위한 REST API 프록시 구축 가이드

섹션별 상세

기업 보안 정책이나 네트워크 제한으로 인해 SageMaker MLflow SDK를 직접 사용할 수 없는 환경이 존재한다.

Flask 기반 프록시 서비스는 ALB를 통해 들어오는 HTTPS 요청을 가로채고, AWS IAM 인증을 수행하여 SageMaker MLflow로 전달한다.

아키텍처는 ALB, Flask 프록시, SageMaker MLflow의 세 가지 핵심 구성 요소로 이루어지며, 요청을 인증된 AWS API 호출로 변환한다.

AWS CDK를 사용하여 인프라를 배포하고, EC2 인스턴스에 프록시 서비스를 설치하여 즉시 REST API 연동을 시작할 수 있다.

bash

git clone https://github.com/aws-samples/sample-sagemaker-mlflow-rest-apis.git
cd sample-sagemaker-mlflow-rest-apis
npm ci

솔루션 코드를 복제하고 의존성을 설치하는 과정

bash

npx cdk deploy --all --require-approval=never -c mlflowType=tracking

AWS CDK를 사용하여 인프라를 배포하는 명령어

bash

curl -X POST http://<ALB_DNS_NAME>/ajax-api/2.0/mlflow/experiments/create -H "Content-Type: application/json" -d '{"name": "mlflow-experiment"}'

ALB를 통해 MLflow REST API로 실험을 생성하는 예시

HTTPS 종료, WAF를 통한 속도 제한, 내부 ALB 사용 등 보안 조치를 통해 프로덕션 환경에서 안전한 통신을 보장한다.

MLflow: — 머신러닝 라이프사이클을 관리하는 오픈소스 플랫폼. 실험 추적, 모델 패키징, 배포 등을 지원하여 ML 워크플로의 표준화를 돕는다.
Amazon SageMaker: — AWS에서 제공하는 완전 관리형 머신러닝 서비스. 모델 구축, 학습, 배포를 위한 통합 환경을 제공한다.
Flask: — 파이썬으로 작성된 경량 웹 프레임워크. 간단한 설정으로 웹 서비스나 API 서버를 빠르게 구축할 수 있어 마이크로서비스 아키텍처에 자주 사용된다.
Application Load Balancer: — AWS의 로드 밸런싱 서비스. 들어오는 트래픽을 여러 대상(EC2, 컨테이너 등)으로 분산하여 가용성과 확장성을 높인다.
AWS IAM: — AWS 리소스에 대한 접근 권한을 안전하게 제어하는 서비스. 사용자, 그룹, 역할에 정책을 할당하여 최소 권한 원칙을 구현한다.