r-former

R-Former는 MAE로부터 추출된 패치 특성에 학습 가능한 쿼리 토큰을 결합해 예제의 전후 차이를 편집 연산 임베딩으로 변환하는 Transformer 기반 모듈이다. 쿼리 토큰은 self-attention을 통해 이미지 특성과 상호작용하며 미세한 구조적 변화 방향을 압축된 벡터로 캡처한다. 이 모듈의 출력(𝐇_edit)은 이후 connector를 통해 DiT의 조건 공간으로 맵핑된다.