MANCE: 매니폴드 인식 기반 개념 제거 기법

표현에서 특정 속성(예: 성별, 유해성)을 제거할 때 다른 관련 정보들이 손상되지 않도록 하는 것은 개인 정보 보호와 공정성 측면에서 핵심 과제이다. MANCE는 편집을 표현의 자연 분포가 차지하는 매니폴드로 제한하여 목표 개념을 제거하는 동안 제어 개념 보존을 개선하는 실용적 전략을 제시했다. 이 접근은 표현 편집을 downstream 적용(예: activation patching, 재투입)에서 사용할 수 있는 형태로 유지하면서 비선형 신호까지 효과적으로 다루는 결과를 보였다.

신경 표현은 전체 d차원 공간을 균일하게 채우지 않고 입력 분포와 인코더 구조가 결합해 형성한 저차원 구조에 집중한다는 관찰이 출발점이다. 이 구조를 매니폴드로 모델링하면 한 점에서 자연스럽게 발생할 수 있는 변동 방향들이 접공간으로 요약되며, 편집이 이 접공간을 벗어나면 자연 표현의 국소 이웃에서 벗어나 제어 정보가 손상될 위험이 커진다. 따라서 편집 방향을 접공간에 투사하면 목표 신호를 감소시키면서도 자연 분포 내의 변화로 제한되어 다른 개념이 보존될 가능성이 높아진다.

MANCE는 세 단계로 구성된다. 첫째, 각 편집 대상 표현 x_i에 대해 자연 입력에서 얻은 고정된 표현 집합 X^(0)에서 k-NN을 찾아 그 이웃의 평균과 편차 행렬 S_i를 구성하고 SVD를 통해 상위 r개의 우측 특이벡터를 접기저 B_i로 취득한다. 둘째, 현재 라운드의 비선형 개념 프로브 f_t의 입력 그래디언트 ∇f_t(x_i)를 정규화한 뒤 B_i^T로 투사하여 접기저 좌표 c_i를 얻고 특이값 σ_i,ℓ^α로 가중치 재배분해 접공간 내 편집 방향 d_i를 구성한다. 셋째, 편집 단계 크기 λ_i를 각 샘플의 지역 반경 r_i와 분산 내적 ⟨x_i,û_i⟩를 사용한 닫힌형 해로 계산해(λ_i = min(λ_max, ε·r_i / |⟨x_i,û_i⟩|)) d_i 방향으로 x_i의 해당 성분을 감소시키며 H 라운드를 반복한다.

주요 지표는 목표 누출(target leakage, D_S)과 수술성(ΔY)으로, ΔY 예산별로 각 방법의 최선 단계(예산 내) 결과를 비교했다. NLP 39개 설정에서 MANCE++는 DY≤3pp부터 평균 누출을 거의 0pp로 끌어내렸고 DY≤10pp에서는 35/39 설정을 무작위(majority) 수준으로 만들었다. CelebA 비전 실험에서는 저상관(regime)에서 MANCE++가 DY≤1pp에서 39/40, DY≤3pp에서 40/40의 커버리지를 달성하는 등 기존 방법들이 커버하지 못한 고상관 속성에서도 높은 수술성-누출 트레이드오프를 보였다.

전체 구조는 반복적 편집 루프와 로컬 매니폴드 추정으로 구성되어 있으며 입력 표현 집합 X^(0)는 편집 대상과 독립적으로 고정된다. 각 샘플에 대해 k개의 자연 이웃을 가져와 평균 중심화된 행렬 S_i를 SVD로 분해하고 상위 r개의 우측 특이벡터를 접기저 B_i로 취득하여 T_{x_i}(M)을 근사했다. 접기저 좌표 계산은 c_i = B_i^T u_i이며 u_i는 프로브 출력에 대한 입력 그래디언트를 L2 정규화한 벡터이다. 핵심 수식은 단계 크기 산정식 λ_i = min(λ_max, ε·r_i / |⟨x_i,û_i⟩|)로, 여기서 r_i는 i의 k-NN 평균 거리이고 ε는 지역 반경의 비율로 설정된다. 이 수식에서 입력은 현재 표현 x_i와 접공간 기반 편집 방향 û_i이며 처리 흐름은 내적을 통해 편집 방향의 표현 성분을 확인한 뒤 지역 반경으로 허용 가능한 최대 이동을 계산해 그 값으로 스칼라 λ_i를 제한하여 최종 편집을 산출한다. 예시 수치로 r_i=0.5, ε=0.1, |⟨x_i,û_i⟩|=0.2이면 cap-implied λ_i = 0.1·0.5/0.2 = 0.25가 되고 λ_max보다 작으면 λ_i = 0.25로 설정되어 그 크기만큼 x_i의 해당 성분이 축소된다. 이 설계는 편집이 접공간 일차 근사 범위를 벗어나지 않도록 보장해 로컬 지오메트리에 부합하는 변형을 유지한다.

측정은 재학습한 비선형 MLP 프로브를 통해 복구 가능성을 평가하는 경험적 프로브 기반 지표에 의존하므로 완전한 불가역성 보장은 아니다. 매니폴드 추정은 k-NN 기반의 국소 접공간과 TwoNN에 의한 차원 추정에 의존해 자연 표현이 희소하거나 곡률이 큰 영역에서 품질이 저하될 수 있다. 계산 비용 측면에서 매 라운드마다 각 샘플에 대해 k-NN 검색과 SVD를 수행하므로 LEACE 같은 닫힌형 선형 방법보다 학습 및 배포 비용이 크다.