수리로의 회귀: 시계열 이상 탐지를 위한 최소한의 디노이징 네트워크

시계열 이상 탐지 분야에서 Attention이나 복잡한 아키텍처 없이도 '데이터 매니폴드 투영'이라는 기본 원리에 충실하면 충분한 성능을 낼 수 있음을 증명했다. JuRe 모델은 기존 복잡한 모델 대비 파라미터 수를 획기적으로 줄이면서도 추론 속도를 20배 이상 향상시켜 실무 적용성을 극대화했다.

기존의 시계열 이상 탐지 모델들은 데이터의 복잡한 패턴을 잡기 위해 Attention Mechanism이나 복잡한 순환 신경망을 사용해왔다. 하지만 이러한 방식은 연산량이 많고 학습이 어렵다는 한계가 있다. 본 논문은 '정상 데이터는 특정 저차원 공간(Manifold)에 모여 있다'는 기초적인 기하학적 가설에서 출발한다.

JuRe의 핵심 원리는 모델을 '수리공(Repairman)'으로 만드는 것이다. 학습 단계에서 정상 데이터에 의도적으로 노이즈를 섞고 이를 원래대로 복구하도록 훈련시키면, 모델은 자연스럽게 정상 데이터가 가져야 할 형태를 학습하게 된다. 즉, 어떤 데이터가 들어오든 모델은 이를 자신이 아는 '정상적인 형태'로 투영(Projection)하려고 시도한다.

결과적으로 이상치가 입력되면 모델은 이를 정상적인 형태로 바꾸려 하지만, 이상치는 정상 매니폴드에서 너무 멀리 떨어져 있기 때문에 수리에 실패하게 된다. 이때 발생하는 입력값과 수리된 결과값 사이의 구조적 차이를 측정함으로써, 복잡한 확률 모델 없이도 명확하게 이상 여부를 판별할 수 있게 된다.

JuRe는 입력 윈도우 x를 H 차원으로 확장하는 1x1 Convolution, 핵심 연산을 수행하는 단일 Residual Block, 다시 원래 차원으로 줄이는 1x1 Convolution으로 구성된다. Residual Block 내부에서는 depthwise-separable convolution을 사용하여 연산 효율성을 극대화했다.

학습 시에는 입력 데이터에 가우시안 노이즈(σ=0.1)를 추가하고 무작위 채널 마스킹(p=0.05)을 적용한다. 손실 함수는 Huber Loss를 기반으로 하며, 원본 값의 복구뿐만 아니라 시간 축에 따른 차분(Difference) 값의 복구도 함께 최적화한다. [입력 윈도우 x와 노이즈 섞인 x_tilde 입력] → [모델 f_theta를 통한 복구] → [원본 x와의 Huber Loss 계산] → [정상 데이터의 매니폴드 학습].

추론 단계에서는 학습된 모델을 고정한 채, 입력값과 출력값 사이의 불일치를 네 가지 지표(진폭, 차분, 트렌드, 상관관계)의 가중합으로 계산한다. 특히 상관관계 점수(scorr)는 채널 간 피어슨 상관계수 행렬의 변화를 측정하여, 개별 수치는 정상이지만 관계가 깨진 이상치를 잡아낸다.

다변량 벤치마크인 TSB-AD에서 AUC-PR 0.404를 기록하며 전체 2위를 차지했다. 이는 470만 개의 파라미터를 가진 Anomaly Transformer(0.068)보다 압도적으로 높으며, 1위인 AxonAD(0.437)와는 근소한 차이다.

단변량 데이터셋인 UCR 아카이브에서는 AUC-PR 0.198로 전체 2위, 딥러닝 기반 모델 중에서는 1위를 달성했다. 특히 기존 SOTA 모델인 AxonAD(0.127)를 크게 앞질렀는데, 이는 JuRe의 디노이징 원리가 단일 채널 데이터에서도 범용적으로 작동함을 보여준다.

Ablation Study 결과, 성능에 가장 큰 영향을 미치는 요소는 '학습 시 노이즈 추가(Corruption)'인 것으로 나타났다. 노이즈를 제거했을 때 AUC-PR이 0.047 감소하여, 모델 구조보다 학습 목적 함수가 성능의 핵심 동인임을 확인했다.

JuRe의 아키텍처는 Proposition 3.1에 근거하여 설계되었다. 이는 매니폴드의 고유 차원 d보다 모델의 은닉 차원 H가 크기만 하면 이론적으로 충분한 투영 능력을 갖춘다는 것을 의미한다. 실험을 통해 H=128에서 성능이 포화됨을 확인했다.

Depthwise-separable convolution을 채택하여 파라미터 수를 O(H^2 K)에서 O(HK + H^2)로 줄였다. 이는 시간적 매끄러움(Temporal smoothness)과 채널 간 혼합(Channel mixing)을 분리하여 처리하는 구조로, 시계열 데이터의 특성을 효율적으로 반영한다.

출력 레이어의 1x1 Convolution을 제로 초기화(Zero-initialization)하여 학습 초기에는 모델이 입력값을 그대로 통과시키는 Identity mapping으로 시작하게 했다. 이를 통해 모델이 정상 데이터와의 미세한 차이(Residual)만을 학습하도록 유도하여 수렴 속도와 안정성을 높였다.

고정된 윈도우 크기(100 타임스텝)를 사용하므로, 이보다 훨씬 길거나 짧은 주기를 가진 이상치 탐지에는 한계가 있을 수 있다. 또한 가우시안 노이즈 스케일이나 마스킹 비율이 데이터셋별로 최적화되지 않은 고정값을 사용한다는 점이 성능의 상한선으로 작용할 수 있다.