SD WebUI Forge ControlNet: VRAM OOM 크래시 이후 지속적인 이미지 품질 저하 문제

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

RTX 5080 환경에서 Flowframes와 SD Forge 동시 실행 중 발생한 VRAM OOM 크래시 이후, ControlNet의 선 추출 품질이 영구적으로 저하된 현상에 대한 기술적 분석이다.

배경

사용자가 SD WebUI Forge에서 이미지를 생성하던 중 영상 보간 도구인 Flowframes를 실행하여 심각한 VRAM 부족(OOM) 크래시가 발생했다. 이후 PC 재부팅, 드라이버 클린 설치, 가상환경(venv) 재구축을 수행했음에도 ControlNet의 출력물이 계속해서 노이즈가 심하고 열화된 상태로 출력되는 문제를 겪고 있다.

커뮤니티 반응

사용자의 매우 상세한 트러블슈팅 리포트에 대해 커뮤니티는 놀라움을 표하며, 하드웨어 결함보다는 윈도우 시스템 폴더 내의 숨겨진 PyTorch 캐시나 특정 설정의 잔류 가능성에 주목하고 있다.

실용적 조언

NVIDIA ComputeCache 외에도 윈도우 임시 폴더(%TEMP%) 내의 관련 파일을 삭제해볼 것
사용자 프로필 폴더 내의 .cache 디렉토리에 있는 PyTorch 관련 숨김 폴더를 확인하고 삭제할 것
문제가 지속될 경우 윈도우 시스템 복원이나 GPU 하드웨어 가속 관련 레지스트리 초기화를 고려할 것

섹션별 상세

VRAM OOM 크래시가 하드웨어나 드라이버 레벨의 영구적 설정을 오염시켰을 가능성이 제기됐다. 사용자는 RTX 5080(16GB)을 사용 중이며, 크래시 발생 전에는 깨끗했던 ControlNet의 선 추출 결과가 이후 마치 '타버린(burned)' 듯한 픽셀화 현상을 보인다고 보고했다. 이는 단순한 소프트웨어 설정 오류를 넘어선 GPU 연산 정밀도나 런타임 라이브러리의 잠재적 손상 가능성을 시사한다.

사용자는 문제 해결을 위해 광범위한 기술적 조치를 이미 완료했음을 밝혔다. NVIDIA 스튜디오 드라이버의 클린 설치, 가상환경(venv) 폴더의 완전 삭제 후 재구축, NVIDIA ComputeCache 삭제 등을 진행했으나 증상이 호전되지 않았다. 특히 Forge의 콘솔 로그상으로는 VRAM 상태가 'NORMAL_VRAM'으로 정상 표시되고 있어, 표면적인 메모리 할당 방식의 문제는 아닌 것으로 확인됐다.

ControlNet 가중치(Weight)와 CFG 스케일 조정을 통한 임시 방편의 한계가 지적됐다. 가중치를 0.3 수준으로 낮추면 증상이 일부 완화되지만, 근본적인 선의 열화와 노이즈 문제는 여전히 해결되지 않은 상태이다. 이는 모델의 추론 과정에서 특정 연산 레이어나 텐서 처리 과정에 정밀도 손실이 발생했을 가능성을 뒷받침하는 근거로 활용된다.

Flowframes와 SD Forge 간의 충돌이 윈도우 시스템 깊숙한 곳의 PyTorch 캐시나 레지스트리 수준의 변화를 야기했을 가능성에 대한 논의가 이어졌다. 사용자는 일반적인 가상환경 외부의 숨겨진 설정 파일이나 CUDA 관련 시스템 변수가 AI 모델의 연산 결과에 영구적인 영향을 미칠 수 있는지에 대해 커뮤니티의 전문적인 조언을 구하고 있다.

실무 Takeaway

심각한 VRAM OOM 크래시 이후 소프트웨어 재설치로도 해결되지 않는 영구적인 이미지 품질 저하 현상이 발생할 수 있다.
가상환경(venv) 재구축이나 드라이버 업데이트만으로는 해결되지 않는 딥러닝 런타임 또는 GPU 캐시의 심층적 오염 가능성이 존재한다.
RTX 50 시리즈와 같은 최신 하드웨어에서도 다중 AI 도구 실행 시 발생하는 메모리 경합은 예측 불가능한 시스템 오류를 야기할 수 있다.

언급된 도구

SD WebUI Forge추천

Stable Diffusion 실행을 위한 최적화된 웹 인터페이스

ControlNet중립

이미지 생성 시 구도나 선을 정밀하게 제어하는 확장 기능

Flowframes비추천

AI 기반 비디오 프레임 보간 및 슬로우 모션 생성 도구