Amazon Nova 모델을 SageMaker AI와 PEFT(LoRA)로 파인튜닝해 전자상거래 이메일에서 구조화된 정보 추출 수행

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

Parcel Perform은 전자상거래 이메일에서 주문 및 추적 정보를 안정적으로 추출하기 위해 Amazon SageMaker AI로 Amazon Nova 모델을 Supervised Fine-Tuning과 PEFT(LoRA)를 결합해 맞춤화했으며, 이 과정에서 Nova 레시피라는 YAML 구성으로 학습 파라미터와 최적화 설정을 관리했다. LoRA 기반의 PEFT는 소량의 라벨 데이터로도 적응 행렬만 학습해 계산 자원과 메모리를 절약하면서 Bedrock의 온디맨드 추론이나 SageMaker 엔드포인트로 유연하게 배포할 수 있게 했다. 시험 운용 결과 Fine-tuned Nova Micro는 테스트셋에서 최대 94.77%의 추출 정확도와 베이스라인 대비 최대 16.6 퍼센트포인트 향상, 추론 지연 30% 이상 단축, 비용 50% 절감을 기록하여 성능·지연·비용 측면에서 동시 개선을 입증하고 프로덕션 적용으로 이어졌다.

섹션별 상세

Parcel Perform은 다양한 형식의 전자상거래 이메일에서 주문번호·송장번호 등 구조화된 정보를 안정적으로 추출하는 문제에 직면했다. 입력으로는 단순 텍스트 알림부터 복잡한 HTML 문서와 대량의 JavaScript 요소가 섞인 이메일이 포함되었고, 그 결과 모델은 유사한 데이터 타입 간 혼동과 과대생성(hallucination)을 보였다. 이러한 문제를 해결하기 위해 팀은 특정 패턴 인식과 필드 구분 능력을 높이는 방향으로 Fine-tuning을 설계했고, 실무 제약상 토큰 비용과 추론 지연을 함께 최적화할 필요가 있었다.

솔루션은 Amazon SageMaker AI를 이용한 Supervised Fine-Tuning(SFT)과 Parameter-Efficient Fine-Tuning(PEFT)을 결합하여 Amazon Nova Lite 및 Nova Micro 모델을 맞춤화하는 방식으로 구성되었다. 구체적으로 LoRA를 통해 적응 행렬만 학습시켜 파라미터 업데이트를 경량화하고, Nova 레시피라는 YAML 구성 파일로 베이스 모델명·학습 하이퍼파라미터·최적화 설정을 정의하여 학습 작업을 자동화했다. 배포 측면에서는 PEFT로 튜닝한 모델을 Amazon Bedrock의 온디맨드 추론으로 호출하거나, 전체 랭크 SFT 결과물은 Bedrock의 Provisioned Throughput 또는 SageMaker AI 엔드포인트로 배포하는 옵션을 제공하여 운영 요구에 맞춰 추론 형태를 선택할 수 있게 했다.

데이터 준비부터 S3 업로드, SageMaker AI로의 파인튜닝, Bedrock을 통한 배포와 평가 후 프로덕션으로 이행하는 전체 파이프라인 다이어그램이다. — Diagram이미지는 원시 데이터가 데이터 준비 단계를 거쳐 Amazon S3에 저장되고 SageMaker AI에서 Nova 모델을 Fine-tuning한 뒤 튜닝된 모델을 Amazon Bedrock으로 배포하여 평가를 통과하면 프로덕션으로 이동하는 흐름을 시각적으로 보여준다. 해당 다이어그램은 각 단계에서 사용된 서비스와 데이터 피드백 루프를 명확하게 표현하여 본문에서 언급한 학습·배포·운영의 연결 관계를 이해하는 데 직접적인 도움이 된다.

실제 효과는 테스트 데이터셋에서 유의미한 성능 및 비용 향상으로 확인되었다. Parcel Perform의 보고에 따르면 Nova Micro를 Fine-tuning한 모델은 최대 94.77%의 추출 정확도를 기록했으며, 이는 베이스라인 대비 최대 16.6 퍼센트포인트의 개선을 보였고 추론 지연은 30% 이상 감소했으며 비용은 절반 수준으로 낮아졌다. 이러한 성과는 정확도·지연·비용이라는 상호 트레이드오프 영역에서 동시 개선을 달성한 사례로서, 이후 Parcel Perform은 해당 솔루션을 프로덕션 환경에 도입해 물류 운영에 적용했다.

용어 해설

Parameter-Efficient Fine-Tuning(PEFT): — 모델의 전체 가중치를 업데이트하지 않고 저차원 적응 구조만 학습시켜 파인튜닝 비용과 메모리 요구량을 줄이는 기법으로, 본문에서는 LoRA를 통해 소량의 학습 데이터로도 Nova 모델을 커스터마이징하는 데 사용되었다.
Low-Rank Adaptation(LoRA): — 원래 가중치 행렬 대신 저순위 분해 행렬을 학습해 파라미터 업데이트를 경량화하는 방법으로, 본 사례에서는 Nova 모델의 SFT 과정에서 PEFT 구현 수단으로 사용되어 계산 효율성을 높였다.
Supervised Fine-Tuning(SFT): — 레이블이 있는 데이터로 사전학습된 모델을 추가 학습시켜 특정 태스크 성능을 향상시키는 기법으로, 이메일에서 엔티티를 추출하기 위해 Nova 모델을 지도 학습 방식으로 재학습한 절차를 가리킨다.
Amazon Bedrock: — 커스텀 또는 미세조정된 모델을 호스팅하고 온디맨드 또는 프로비저닝 형태로 추론을 제공하는 AWS 서비스로, 본문에서는 PEFT로 튜닝한 모델의 배포 옵션으로 활용되었다.
Nova 레시피(Nova recipe): — Amazon SageMaker AI에 전달하는 YAML 구성 파일로, 베이스 모델 이름·학습 하이퍼파라미터·최적화 설정 등을 정의하여 커스터마이징 작업을 자동화하는 역할을 한다.

기술

Amazon Nova
Amazon SageMaker AI
LoRA
PEFT
Amazon Bedrock
Supervised Fine-Tuning

활용 사례

전자상거래 이메일에서 주문·운송 관련 구조화된 정보 자동 추출
대량 이메일 파이프라인의 비용·지연 최적화