본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

QuantFunc/ComfyUI-QuantFunc

Python1 / 0

ComfyUI에서 SVDQ 및 Lighting 엔진을 통해 확산 모델의 추론 속도를 2배에서 11배까지 가속하고, LoRA 융합 및 런타임 양자화를 수행하는 고성능 추론 플러그인.

핵심 포인트

  • SVDQ 및 Lighting 엔진을 사용하여 확산 모델 추론 속도를 2배~11배 향상한다.
  • LoRA 가중치를 모델에 영구적으로 융합하여 추론 시 추가 오버헤드를 제거한다.
  • RTX 20/30/40/50 시리즈 및 최신 Blackwell 아키텍처에서 네이티브 FP4 연산을 수행한다.
  • 런타임 양자화된 모델을 디스크로 내보내어 재양자화 과정 없이 즉시 로드한다.

910

STARS

22

FORKS

+232

TRENDING

1

조회수

watchers 910open issues 4

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.