CONFLUX: RL 후학습을 포함한 3D 흉부 CT 합성용 잠재 확산 모델

왜 중요한가

대규모로 통제된 3D 의료 영상 합성은 데이터 부족·프라이버시 제약·희귀 소견 연구에서 직접적인 가치가 있다. 본 논문은 높은 해상도의 흉부 CT 볼륨을 네이티브 3D로 생성하면서 특정 임상 소견을 명시적으로 제어하는 능력을 결합해 실무적 활용 가능성을 확장했다. 또한 GRPO 기반의 RL 후학습을 통해 모델이 요청된 소견을 실제 샘플에 더 신뢰성 있게 반영하도록 성능을 보정한 점이 임상 데이터 증강의 신뢰도를 높인다.

핵심 기여

네이티브 3D 잠재 rectified-flow 생성기 설계

3D convolutional VAE로 원시 CT를 f=8로 축소한 C=16 채널의 잠재 표현을 학습하고, 이 잠재공간에서 single-stream rectified-flow transformer(L=12, d=768, patch p=2)를 학습해 볼륨 생성 비용을 크게 낮췄다. 조건 입력은 18개 이진 소견, 성별, 연령대 원-핫, 재구성 커널 원-핫을 하나의 42차원 벡터로 결합해 adaLN-zero로 블록별 모듈레이션을 수행한다. 이 설계로 tri-planar FID 32.3이라는 분포 수준의 생성 품질을 얻어 기존 3D 잠재 모델들보다 우수한 성능을 보였다.

GRPO 기반의 RL 후학습으로 조건 충실도 향상

flow-matching 학습은 전체 분포 재현을 목표로 하기 때문에 개별 샘플이 요청된 소견을 실제로 반영하는지 보장하지 못한다. 본 논문은 frozen된 latent-space 분류기를 보상 함수로 사용해 stochastic sampler를 통해 롤아웃을 생성하고 group-relative advantages를 계산해 정책을 안정적으로 조정하는 GRPO 후학습을 적용했다. 이 후학습은 독립적인 이미지-스페이스 판별기로 평가했을 때 AP 0.330에서 0.344로, AUROC 0.684에서 0.699로 개선되어 실측 헤드룸의 47%를 회복했다.

약 200,000개 합성 볼륨과 모델 체크포인트 공개

학습된 생성 모델과 CT-RATE 메타데이터 분포를 반영해 생성한 약 200,000개의 조건부 합성 흉부 CT 데이터셋을 공개해 대규모 코호트 보강을 가능하게 했다. 각 합성 볼륨은 요청 소견 벡터와 페어링되어 구체적 조건 하의 연구와 실험에 바로 활용할 수 있다. 모델과 데이터셋은 HuggingFace에 업로드되어 복제 가능성과 재현성을 확보했다.

핵심 아이디어 이해하기

문제의 출발점은 3D 흉부 CT가 고해상도이자 볼륨 데이터여서 픽셀(복셀) 수준에서 직접 생성하면 계산 비용과 메모리 요구가 매우 크다는 점이다. 이를 완화하기 위해 변분 오토인코더가 볼륨을 낮해상도 잠재로 압축하면 생성기는 이 잠재 차원에서만 작동하므로 연산량과 메모리가 크게 줄어든다. 본 논문은 이런 잠재 기반 설계를 채택해 3D 전체 볼륨을 효율적으로 다루는 출발점을 마련했다.

방법론

전체 접근은 세 단계로 구성된다. 첫째, 3D convolutional VAE가 입력 볼륨을 f=8로 다운샘플링해 C=16 채널의 잠재 텐서를 생산하고 L1 재구성 손실, KL 정규화(가중치 10^{-6}), tri-planar LPIPS를 함께 최소화해 디코더로부터 재구성 가능한 잠재를 학습한다. 둘째, rectified-flow transformer는 잠재 공간에서 flow-matching 목표로 학습되며 입력 노이즈에서 데이터 잠재로 가는 직선 경로 z_t=(1-t) z_0 + t ε (t∈[0,1])를 기준으로 각 시점의 속도 ε−z_0를 예측한다. 이 식에서 z_0는 데이터 잠재, ε는 표준가우시안 노이즈이며 t는 시간 변수로서 학습 대상 네트워크는 시간 t에서의 속도를 예측해 역적분으로 샘플을 생성한다.

주요 결과

분포 수준의 품질 평가는 tri-planar 2D-FID로 수행되었고 CONFLUX는 FID 32.3을 기록해 MAISI(74.6)와 GenerateCT(145.4)를 모두 앞섰다. VAE 재구성 상한은 22.6으로 CONFLUX는 이 천장에 근접하는 성능을 보였으며 density와 coverage 지표에서도 MAISI 대비 유의미한 개선을 보였다. 조건 충실도 평가는 독립 이미지-스페이스 판별기를 사용해 AP와 AUROC으로 측정되었고 RL 후학습 이후 AP는 0.330에서 0.344로, AUROC는 0.684에서 0.699로 상승해 실데이터와의 격차(베이스-실데이터)의 47%를 회복했다.

기술 상세

아키텍처는 세부적으로 정의되어 있다. VAE는 입력 볼륨(216×176×200)을 3D group-normalized residual block과 최저 해상도의 3D self-attention을 포함해 f=8로 다운샘플링해 16×27×22×25 크기의 잠재를 생성하며 디코더는 더 깊은 구조로 재구성을 수행한다. 학습 손실은 L1 재구성 항, KL 항(가중치 10^{-6}), 그리고 축별로 평균화한 tri-planar LPIPS로 구성되어 토크나이저 품질을 확보한다.

한계점

논문에서 명시된 중요한 제약은 라벨이 NLP로 추출된 소견이라는 점이다. 즉, 진단 소견의 정답성이 전문가 주석과 동일 수준으로 보장되지 않으므로 충실도 평가는 추출된 라벨에 의존한 한계가 있다. 또한 GRPO 후학습의 절대적 개선 폭은 작으며 독립 판별기의 읽기 성능(실데이터 AP 0.360)이 보상 신호의 상한을 제한한다.

실무 활용

훈련된 모델과 약 200,000개 규모의 조건부 합성 데이터셋은 희귀 소견 보강, 알고리즘 검증, 프라이버시 보존 데이터셋 구축 같은 실무 작업에 직접 활용할 수 있다. 각 합성 볼륨에 조건 벡터가 페어링되어 특정 소견 분포를 모사하는 코호트를 대규모로 생성하는 데 적합하다. 공개된 자원은 연구자와 엔지니어가 조건부 생성 품질을 재현하고 downstream 파이프라인을 실험하는 데 유용하다.

희귀 병변을 포함하는 환자 코호트 증강을 통해 분류기 학습의 클래스 불균형 문제를 완화하는 용도
특정 재구성 커널·연령대·성별 조합을 모사한 조건부 아날로그 데이터를 통한 모델의 민감도·로버스트니스 평가
프라이버시 제약 하에서 실제 데이터 접근이 어려운 환경에서 시뮬레이션 기반의 알고리즘 검증에 사용

코드 공개 여부: 미확인

키워드

latent diffusion model(잠재 확산 모델)3D variational autoencoder(3D 변분 오토인코더)rectified-flow(정류 흐름)adaptive layer normalization(adaLN)group-relative policy optimization(GRPO)

용어 해설

잠재 확산(Latent Diffusion): — 이미지나 볼륨을 직접 생성하지 않고 먼저 VAE로 낮차원 잠재 표현으로 압축한 뒤 그 잠재 공간에서 확산 또는 흐름 모델을 학습하는 기법이다. 데이터의 고해상도 특성을 유지하면서 생성 비용을 크게 낮추는 목적을 갖는다. 본 논문에서는 3D CT를 VAE로 압축하고 잠재공간에서 rectified-flow transformer를 학습하는 방식으로 적용되었다.
변분 오토인코더(Variational Autoencoder): — 인코더가 입력 볼륨을 평균과 분산을 갖는 가우시안 잠재분포로 매핑하고 디코더가 샘플을 재구성하는 생성 모델이다. 입력을 f=8로 축소하여 채널 C=16의 3D 잠재 텐서를 얻하고 재구성 손실, KL 항, tri-planar LPIPS를 함께 최소화해 토크나이저 역할을 수행한다. 본 논문에서는 VAE가 학습 후 고정되어 잠재 생성기만 후속으로 학습된다.
정류 흐름(Rectified-Flow): — 데이터와 가우시안 잡음을 직선 경로로 연결하고 그 경로상 속도(velocity)를 예측하도록 학습해 역방향으로 통합하여 샘플을 생성하는 흐름-매칭 계열의 방법이다. 네트워크는 시간 t에서의 속도를 예측하고, 샘플링 시에는 Euler ODE 통합을 통해 노이즈로부터 데이터 잠재를 복원한다. 본 논문에서는 3D 잠재에 대해 single-stream transformer 구조로 적용되었다.
적응형 레이어 정규화(Adaptive Layer Normalization): — 조건(메타데이터) 벡터로부터 스케일과 쉬프트 파라미터를 생성해 각 블록의 layer normalization을 조정하는 기법이다. 조건을 adaLN-zero 형태로 주입하여 조건이 없을 때는 null 임베딩을 사용해 classifier-free guidance를 가능하게 한다. 본 논문에서는 18개 이상 소견, 성별, 연령대, 재구성 커널을 입력으로 받아 블록별로 조절한다.
그룹 상대 정책 최적화(Group-Relative Policy Optimization): — 정책 그라디언트 기반의 후학습 기법으로, 각 프롬프트별로 여러 롤아웃을 생성한 뒤 그룹 내 평균 보상을 빼고 배치 표준편차로 정규화한 이점을 사용해 안정적인 업데이트를 계산한다. 중요비율의 폭주를 억제하기 위해 잠재 차원을 평균 처리하는 설계를 도입한다. 본 논문에서는 flow 모델에 대해 GRPO를 적용해 조건 충실도를 향상시켰다.

CONFLUX: RL 후학습을 포함한 3D 흉부 CT 합성용 잠재 확산 모델

왜 중요한가

핵심 기여

핵심 아이디어 이해하기

방법론

주요 결과

기술 상세

한계점

실무 활용

키워드

용어 해설

관련 토론

댓글

관련 기사

CARE-X: 임상 지향 흉부 X선 VLM 연구

왜 중요한가

핵심 기여

핵심 아이디어 이해하기

방법론

주요 결과

기술 상세

한계점

실무 활용

키워드

관련 토론

댓글

관련 기사

CARE-X: 임상 지향 흉부 X선 VLM 연구