12GB GPU 환경에서 고품질 LoRA 학습을 위한 Epoch와 Repeat 설정 최적화 가이드

사용자들은 각자의 경험에 기반한 다양한 설정값을 공유하며 하드웨어 한계를 극복하기 위한 팁을 주고받고 있다. 특히 총 학습 단계 수의 중요성에 대한 논의가 활발하다.

• 총 Step 수(Total Steps)를 기준으로 학습량을 계산하여 하드웨어 제약에 맞춰 Epoch와 Repeat를 조정하십시오.
• VRAM 부족 시 xformers나 8-bit Adam 같은 메모리 최적화 옵션을 활성화하여 배치 사이즈 확보를 시도하십시오.
• 3D 스타일 학습 시에는 정규화 이미지(Regularization Images)를 사용하여 모델 붕괴를 방지하는 것이 좋습니다.

저순위 적응(LoRA)

— Low-Rank Adaptation의 약자로 거대 모델 전체를 재학습시키는 대신 일부 가중치 행렬만 학습시켜 적은 자원으로 특정 스타일이나 캐릭터를 모델에 주입하는 기법이다. 전체 파라미터의 극히 일부만 업데이트하므로 학습 속도가 빠르고 결과물 용량이 작아 개인 사용자들 사이에서 널리 사용된다.

비디오 램(VRAM)

— 그래픽 카드에 탑재된 전용 메모리로 AI 모델의 크기와 학습 시 배치 사이즈를 결정하는 핵심 하드웨어 자원이다. 12GB 용량은 Stable Diffusion XL이나 Pony 모델을 학습시키기에 최소 사양에 해당하며 메모리 부족 문제를 해결하기 위한 다양한 최적화 설정이 필수적으로 요구된다.

에폭(Epoch)

— 준비된 전체 학습 데이터셋을 모델이 한 번 모두 훑어본 상태를 의미하는 학습 단위이다. 에폭 수가 너무 적으면 모델이 특징을 충분히 배우지 못하는 과소적합이 발생하고 너무 많으면 학습 데이터에만 지나치게 최적화되어 범용성이 떨어지는 과적합 문제가 발생할 수 있다.

프로디지(Prodigy)

— 학습률을 수동으로 설정할 필요 없이 학습 과정에서 실시간으로 최적의 값을 찾아주는 자동 학습률 조정 옵티마이저이다. 사용자의 시행착오를 줄여주지만 적절한 총 학습 단계 수가 확보되지 않으면 성능을 제대로 발휘하기 어렵다는 특성이 있어 정교한 파라미터 설정이 병행되어야 한다.