본문으로 건너뛰기
AWS ML Blog조회 1회

Amazon Nova 모델 파인튜닝 실전 가이드: 데이터 믹싱을 활용한 성능 최적화

Nova Forge SDK의 데이터 믹싱 기능을 활용해 모델의 일반 지능을 유지하면서 도메인 특화 성능을 높이는 파인튜닝 워크플로를 상세히 설명한다.

섹션별 상세

01
파인튜닝 시 발생하는 파괴적 망각 현상을 해결하기 위해 데이터 믹싱 기법을 핵심 솔루션으로 사용한다. 데이터 믹싱은 사용자의 도메인 데이터와 Amazon이 큐레이션한 범용 데이터셋을 특정 비율로 혼합하여 학습 배치에 포함시킨다. 이를 통해 모델이 새로운 지식을 습득하면서도 기존의 논리적 추론과 지식 기반을 잃지 않도록 보장한다. 결과적으로 범용 성능 지표인 MMLU를 베이스라인 수준으로 유지하면서 도메인 성능을 동시에 확보할 수 있다.
02
Nova Forge SDK는 원시 데이터를 모델 학습에 적합한 형태로 변환하고 검증하는 자동화된 파이프라인을 제공한다. JSONLDatasetLoader를 통해 Q&A 쌍을 Nova 전용 챗 템플릿 형식으로 변환하며, 이 과정에서 시스템 및 사용자 역할을 구분하는 특수 토큰 충돌을 방지하는 정제 작업을 수행한다. validate() 메서드는 변환된 데이터가 선택한 모델과 학습 방식의 요구사항을 충족하는지 사전에 점검하여 학습 오류를 방지한다. 이러한 전처리는 학습 신호의 오염을 막고 모델의 응답 품질을 높이는 데 필수적이다.
03
학습 설정 단계에서 customer_data_percent 파라미터를 통해 도메인 전문화와 일반 능력 유지 사이의 균형을 정밀하게 조정한다. 기본값인 50%에서 시작하여 도메인 성능이 부족하면 비율을 높이고, 일반 지능이 저하되면 Nova 큐레이션 데이터 비중을 높이는 방식으로 최적화한다. 또한 지시 이행(instruction-following)이나 수학, 코딩 등 특정 역량별 Nova 데이터 비중도 세부적으로 설정할 수 있다. 실험 데이터에 따르면 75:25 비율에서도 MMLU 점수를 거의 완벽하게 보존하며 도메인 성능 향상을 달성했다.
04
파인튜닝 완료 후에는 도메인 성능과 일반 능력을 모두 측정하는 다차원 평가 체계를 반드시 가동해야 한다. MMLU나 IFEval 같은 공개 벤치마크를 통해 일반 지능 유지 여부를 확인하고, 동시에 자체 보유한 테스트 데이터셋으로 도메인 정확도를 측정한다. 한쪽 지표만 확인하면 데이터 믹싱이 의도대로 작동하는지 판단할 수 없기 때문이다. 평가 결과에 따라 데이터 혼합 비율이나 학습 하이퍼파라미터를 조정하는 반복적인 개선 프로세스를 권장한다.
python
customizer = NovaModelCustomizer(
    model=Model.NOVA_LITE_2,
    method=TrainingMethod.SFT_LORA,
    infra=runtime,
    data_s3_path=f"{S3_DATA_PATH}/train.jsonl",
    output_s3_path=f"{S3_OUTPUT_PATH}/",
    mlflow_monitor=mlflow_monitor,
    data_mixing_enabled=True,
)

데이터 믹싱 기능을 활성화하여 Nova 모델 커스터마이저 객체를 생성하는 예시

python
customizer.set_data_mixing_config({
    "customer_data_percent": 50,
    "nova_instruction-following_percent": 13,
    "nova_reasoning-instruction-following_percent": 45,
    "nova_baseline_percent": 10,
})

사용자 데이터와 Amazon 큐레이션 데이터 간의 혼합 비율을 설정하는 예시

MLflow 대시보드에서 학습 중인 모델의 메트릭 변화를 보여주는 차트들
Screenshot학습 단계(Step)에 따른 샘플 소비량, 업로드 시간, 배치 사이즈, 그래디언트 노름(grad_norm), 학습률(lr) 등의 지표를 실시간으로 모니터링하는 화면이다. 이를 통해 학습이 안정적으로 진행되고 있는지, 하이퍼파라미터 설정이 적절한지 시각적으로 확인할 수 있다.

용어 해설

데이터 믹싱(Data Mixing)
— 도메인 특화 데이터와 모델의 일반 능력을 유지하기 위한 범용 데이터를 특정 비율로 혼합하여 학습시키는 기법이다. 파인튜닝 시 모델이 특정 지식만 배우느라 기존의 일반적인 추론 능력을 잃어버리는 '파괴적 망각' 현상을 방지하는 데 핵심적인 역할을 한다.
저순위 적응(LoRA)
— 모델의 전체 가중치를 업데이트하는 대신 일부 저순위 행렬만을 학습시키는 매개변수 효율적 파인튜닝(PEFT) 기법이다. 학습에 필요한 계산 자원과 메모리를 획기적으로 줄이면서도 전체 파인튜닝에 근접하는 성능을 낼 수 있어 실무에서 널리 사용된다.
파괴적 망각(Catastrophic Forgetting)
— 신경망이 새로운 정보를 학습할 때 이전에 학습했던 정보를 급격히 잊어버리는 현상이다. LLM 파인튜닝 시 특정 도메인 데이터에만 집중하면 모델의 전반적인 언어 이해나 논리적 추론 능력이 손상되는 결과로 나타난다.
대규모 다중작업 언어 이해(MMLU)
— 57개의 다양한 주제를 통해 모델의 지식과 문제 해결 능력을 측정하는 대표적인 AI 벤치마크이다. 파인튜닝 후 모델의 일반적인 지능 수준이 유지되었는지 판단하는 핵심 지표로 활용된다.

기술

  • Amazon Nova Forge SDK
  • Amazon SageMaker HyperPod
  • MLflow
  • Python
  • Boto3
  • Hugging Face Datasets

활용 사례

  • 도메인 특화 고객 상담 분류 모델 구축
  • 의료/법률 등 전문 지식 기반 Q&A 시스템 최적화
  • 일반 지능을 유지하면서 특정 지시 이행 능력을 강화한 챗봇 개발
AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 04. 18.수집 2026. 04. 18.출처 타입 RSS

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.