일반형 모델에서 전문형 표현으로의 전환: 비매개(nonparametric) 설정에서의 식별성 확보

일반형 모델은 다양한 태스크를 포괄하는 반면, 태스크 관련 latent를 분리해 필요한 정보만 남기는 표현학습이 필요하다. 본 연구는 시간 축을 따라 태스크 구조를 식별하고 각 시점의 latent를 태스크 관련 부분과 무관한 부분으로 분리하는 이론적 기반을 제시한다. 이는 일반형에서 전문형으로의 전이와 함께 계획성, 일반화,Robustness를 강화하는 데 기여한다.

출발점: ot = ft(st) 및 st → at → gi 형태의 구조를 갖는 비 parametric Generative Process를 가정한다. 목표는 시간-태스크 구조를 식별하고 각 시점에서 태스크-관련 latent를 disentangle하는 것이다. Band conditioning set를 도입해 d-connecting paths를 차단하고, gi를 공유하는 세그먼트 간 의존성만 남아 있음을 보인다. 추가로 일반형에서의 latent 표현은 Task-irrelevant latent와 Task-relevant latent의 혼합으로 과도하게 확장될 수 있는데, sparsity 제약을 적용하면 Ik에 해당하는 latent만 남기는 invertible 매핑 hk를 구성할 수 있다. 이로써 일반형에서 전문형으로의 전이가 이론적으로 보장된다.

단계 1: 시간 세그먼트 S1..SN과 각 세그먼트에 속한 잠재 상태 st를 정의하고, 각 gi가 segment에 속하는지 판단한다. Band conditioning set Zband(k,v,i) = {skL-1, skL+1, svL-1, svL+1} ∩ {s1..sT} ∪ {gi}로 두 세그먼트를 조건화한 뒤, skL와 svL의 d-연결 여부를 확인한다. 패턴은 네 가지 형태(I–IV)로 나타나며, gi가 유일한 collider로 작동한다. Theorem 1은 gi가 Sk와 Sv에 관련있는지의 필요충분조건을 제시한다. 단계 2: Algorithm 1을 통해 모든 세그먼트 쌍에 대해 gi의 포함 여부를 결정하고, T(Sk) 및 T(Sv)을 구성한다. Corollary 1은 임의의 세그먼트 내 대표점들로 동일한 테스트가 가능하다는 것을 보장한다. 단계 3: 수학적으로 Ju(st)의 비영점 패턴이 ground-truth Ju(ˆst)의 패턴의 상호관계로 귀결되도록 하는 충분 조건(Prop. 2)과, sparsity 제약 하에서 ˆst,π(Ik) = hk(st, Ik)로 환원되는 결과(Theorem 2)를 제시한다. 구현적으로는 Task가 주어지지 않은 경우 Task를 추정하고 CI 테스트를 Latent 공간에서 수행한다. 실험은 합성 SCMs와 SportsHHI 데이터로 수행되며, CI를 대체하는 CMI 기반 추정도 병행한다.

주요 벤치마크에서 제안 방법은 시간-구조 식별에서 모든 설정(T, M)에 대해 다른 방법보다 높은 정확도와 MCC를 달성한다(세부 수치는 그림 3의 경향성으로 제시). SportsHHI 데이터에서의 실세계 구조 추정에서 Ours의 mAP는 0.25 ± 0.08, Leap 0.12 ± 0.05, Base 0.09 ± 0.01, Slowfast 0.11 ± 0.02, VitB 0.12 ± 0.03이다(표 3). Latent-wise 태스크-관련 표현 복원 실험에서 Task-relevant latents는 Irrelevant와 구분되며, 관련 부분의 R^2은 높고 무관 부분의 R^2은 낮다(그림 5). Runtime 분석에서 Ours의 추론 시간은 0.01–0.02초로, CCA(0.01–0.04초), Group Lasso(11.2–82.3초), SelTask(0.69–2.40초) 대비 우수하다. 또한, sparsity를 적용하면 태스크-관련 latent가 목표 태스크에 해당하는 좌표만 바뀌도록 제어되며, Without sparsity의 경우 컬러 등 무관 정보가 섞여 들어간다(도 6).

구조: ot = ft(st)와 st → at → gi의 인과 그래프를 가정하고, 세그먼트를 S1..SN으로 분할한 후 각 gi가 어느 세그먼트에 속하는지 식별한다. 핵심 도구는 Band conditioning set(Zband)으로, skL−1, skL+1, svL−1, svL+1 및 gi를 포함한다. Theorem 1은 gi가 Sk와 Sv에 관련 있음을 결정하는 필요충분조건을 제공한다. Corollary 1은 임의의 세그먼트 내 대표점에서도 같은 결정이 가능함을 보장한다. Algorithm 1은 모든 i, (k,v) 쌍에 대해 CI 테스트를 수행해 전체 구조를 재구성한다. Proposition 2는 Ju(st)의 비영점 패턴의 확장을 보장하고, Theorem 2는 sparsity 제약 하에서 ˆst,π Ik가 hk(st, Ik)로 환원되어 ground-truth에 대해 열려 있는 변수의 서브그룹을 추출한다. 구현상 Ta sk가 주어지지 않은 경우 Task를 추정한 뒤 latents에 CI 테스트를 적용한다. 고차원에서는 CI 테스트의 차원을 낮추기 위해 Conditional Mutual Information(CMI)의 변분 하한으로 근사할 수 있다. SportsHHI 데이터에 적용 시 latent 수를 인간 수와 동일하게 설정하고, Latent transition은 MLP로 모델링한다. CI는 Latent trajectories에서 추정한다.

논문은 식별성을 비극단적으로 비모수(nonparametric) 설정에서 다루며, 한계로 finite-sample regime에 대한 분석이 부족하다고 명시한다. Task가 미관찰일 때 Task를 inferred하는 과정에서 CI 테스트의 신뢰도에 의존한다. 구현은 비교적 간단한 estimator에 기초하며, identifiability의 실전적 한계를 완전히 해결하지는 않는다.