본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

GVCLab/PersonaLive

Python0 / 0

영상-대-영상 diffusion 기반의 실시간·스트리밍 초상 애니메이션 도구

TL;DR

PersonaLive는 실시간 스트리밍을 염두에 둔 영상-대-영상 diffusion 프레임워크로, reference 이미지 융합과 마이크로-청크 스트리밍 전략으로 무한 길이의 초상 애니메이션을 생성하는 데 초점을 두고 있습니다. README에는 offline/online 추론 스크립트, WebUI 실행 절차(web_start.sh, 포트 7860), TensorRT 변환(torch2trt.py)을 통한 약 2배 가속 옵션과 xFormers 호환성 주의사항이 구체적으로 적혀 있습니다. 학습은 3단계로 구성되어 있으며 8×H100 기준으로 Stage 1~3이 각각 약 13h, 15h, 20h 소요된다고 명시되어 있어 재현에 필요한 계산 자원이 명확합니다. 저장된 pretrained weights와 inference 코드를 통해 데모 및 연구용 실험을 바로 수행할 수 있으나 라이선스가 학술 연구용으로 제한되어 있으므로 사용 목적을 사전에 확인해야 합니다.

핵심 포인트

  • 이 레포는 학술용 연구 코드와 실시간·스트리밍 추론용 도구를 모두 포함한 프레임워크 형태로 구성되어 있으며, 학습 코드와 추론(WebUI 포함) 코드가 함께 제공됩니다. pretrained_weights 폴더 구조와 inference_online.py/inference_offline.py, web_start.sh 같은 실행 스크립트가 README에 명확히 나와 있어 즉시 실험해볼 수 있는 출발점이 마련되어 있습니다. 라이선스는 오직 학술 연구용으로 제한되어 있어 상업적 사용이나 민감한 용도에는 제약이 있습니다.
  • 실시간 스트리밍 생성은 영상-대-영상(video-to-video) diffusion 파이프라인과 ‘streaming generation’ 전략을 결합해 구현되어 있으며, WebUI에서 reference 이미지 융합(fuse)→Start 순서로 동작합니다. 추론 옵션으로 xFormers, TensorRT, 또는 none을 선택할 수 있고 TensorRT 변환 스크립트(torch2trt.py)를 제공해 성능을 약 2배로 끌어올릴 수 있다는 점이 README에 기술되어 있습니다. RTX 50 시리즈에서는 xFormers 호환성 문제가 있으므로 옵션을 끄는 지침이 포함되어 있어 하드웨어별 예외 처리가 명확합니다.
  • 학습 워크플로우는 세 단계(Stage 1~3)로 구분되며, 8×H100 환경에서의 시간 예측이 제공되어 재현 가능성이 높습니다: Stage 1 약 13시간, Stage 2 약 15시간, Stage 3 약 20시간. 데이터 준비용 스크립트(get_boxes.py, extract_meta_info.py)와 Accelerate 설정 지침이 포함되어 있어 multi-GPU 학습 파이프라인을 바로 구성할 수 있습니다. 초기화용 가중치(X-NeMo, pose_guider, stylegan2_discriminator 등) 다운로드 링크가 준비되어 있어 학습 재현에 필요한 외부 자원 경로가 명확합니다.
  • 사용성과 제약 사항이 README에 구체적으로 기재되어 있어 실무 적용 시 필요한 사전 검토가 용이합니다. WebUI 가이드(포트 7860, web_start.sh)와 ComfyUI 연동 사례가 있어 프로토타입이나 데모용 배포가 수월하며, TensorRT 변환 시 품질 저하 가능성 및 PyCUDA 빌드 문제 대응법도 안내되어 있습니다. 다만 추론은 가능하지만 전체 파이프라인 재학습이나 대규모 커스터마이징을 위해선 고성능 GPU 자원이 필요하므로 인프라 비용을 사전에 검토해야 합니다.

이미지 분석

왼쪽 상단에 reference 포트레이트, 왼쪽 하단에 driving 비디오 프레임, 우측에 모델이 생성한 애니메이션 결과를 보여주는 데모 GIF입니다.
이 이미지에는 입력(reference 이미지와 driving video)과 출력(대형 창의 애니메이션 프레임)이 동시에 제시되어 있어 파이프라인 입출력 관계를 직관적으로 확인할 수 있습니다. 프레임 연속성이 유지된 출력이 보이며 얼굴 표정과 입 모양이 원본 driving 소스와 정합성을 유지하는지 가시적으로 평가할 수 있습니다. 데모 파일을 통해 온라인 추론 인터페이스가 실시간 혹은 스트리밍 생성 시 어떤 품질을 내는지, 얼굴 정합성과 모션 전달 정도를 빠르게 판단할 수 있습니다.
애니메이션 스타일 결과를 보여주는 데모 GIF로, UI 상에서 Target FPS 조절 슬라이더와 Stop Animation 버튼이 보이는 화면입니다.
이 GIF는 스타일화된(캐릭터풍) 출력 예시와 함께 WebUI 컨트롤 요소(Target FPS 슬라이더, Stop 버튼)를 함께 보여주어 사용자가 실시간으로 전송 속도와 애니메이션 생성을 제어할 수 있음을 확인할 수 있습니다. UI에 표시된 제어 흐름으로 인해 로컬 성능 제약 하에서도 프레임 속도를 낮춰 안정적으로 스트리밍할 수 있는 운영 방식이 드러납니다. 또한 애니메이션 결과가 원본 동작을 따르면서도 스타일 변환이 적용되는 사례를 통해 reference fusion 및 스타일 보존 동작 방식을 가늠할 수 있습니다.
논문/시스템 개요 다이어그램으로서 Stage 1~3 학습 구성, 모션 추출기, Spatial/Temporal 모듈 및 마이크로-청크 기반 스트리밍 생성 흐름을 시각화한 그림입니다.
다이어그램은 전체 파이프라인의 세부 모듈 연결과 학습 단계별 역할(이미지-레벨 하이브리드 모션 트레이닝, appearance distillation, 마이크로-청크 스트리밍 생성)을 한 눈에 확인하게 해 줍니다. 모션 추출기→pose guider→spatial/module→temporal module 같은 처리 흐름과 함께 L_mse, L_lpips, L_adv 같은 손실 항이 표기되어 있어 학습 신호와 목적함수를 기반으로 한 동작 방식을 파악할 수 있습니다. 해당 그림 덕분에 연구자가 어떤 모듈을 교체하거나 어떤 단계에서 파인튜닝을 수행해야 할지 설계적 근거를 빠르게 얻을 수 있습니다.
WebUI 사용 가이드 스크린샷으로, 이미지 선택(Select) → reference fuse → Driving FPS 조절 → Start/Reset 순서가 빨간 주석으로 안내되어 있는 화면입니다.
이 가이드는 실제 배포된 WebUI 흐름과 사용자 조작 포인트를 단계별로 제시하여 비개발자나 데모 운영자가 시스템을 빠르게 켜고 테스트할 수 있게 합니다. README의 web_start.sh와 포트(7860) 관련 안내와 직접 연결되며, Driving FPS 조절을 통해 지연과 처리량을 조정하는 운영 기법을 명시적으로 보여줍니다. 실습 시 초기 설정과 데모 시연 절차가 명확하므로 빠른 프로토타이핑이나 데모 준비에 유용합니다.

3.5k

STARS

494

FORKS

+208

TRENDING

0

조회수

watchers 3.5kopen issues 34Apache License 2.0

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.