Flash-SemiCRF: 스트리밍 구조적 추론을 통한 효율적인 세그먼트 단위 분석

기존의 Semi-CRF 모델은 시퀀스 길이가 길어질수록 메모리 사용량이 기하급수적으로 늘어나 대규모 게놈 데이터나 긴 음성 데이터 처리가 불가능했다. 이 논문은 FlashAttention의 원리를 적용해 메모리 병목을 해결함으로써, 수십만 토큰 이상의 긴 시퀀스에서도 정확한 세그먼트 단위 추론을 가능하게 한다.

기존 Semi-CRF는 시퀀스의 각 위치가 아닌 '구간(Segment)' 전체에 라벨을 부여하므로 경계면의 불확실성을 더 잘 측정하지만, 모든 가능한 구간의 점수를 저장하기 위해 엄청난 메모리가 필요하다. 이는 마치 모든 단어 조합의 관계를 미리 계산해 두려는 것과 같아 시퀀스가 길어지면 시스템이 마비된다.

Flash-SemiCRF는 이를 해결하기 위해 '누적 합(Prefix Sum)' 개념을 도입한다. 구간의 전체 점수를 미리 계산해 저장하는 대신, 시퀀스의 시작부터 각 지점까지의 점수 합계만 저장해 둔다. 특정 구간 [s, e]의 점수가 필요할 때 'e까지의 합 - s까지의 합'이라는 단순 뺄셈만으로 즉석에서 값을 구해낸다. 이는 딥러닝의 임베딩 합산이나 Attention 연산 최적화와 유사한 원리이다.

결과적으로 수십만 개의 위치를 가진 게놈 데이터에서도 메모리 부족 없이 정확한 추론이 가능해진다. 데이터 전체를 메모리에 올리지 않고 링 버퍼를 통해 스트리밍 방식으로 처리하므로, 연산 장치의 메모리 한계를 뛰어넘는 대규모 시퀀스 분석이 실현된다.

전체 접근 방식은 엣지 포텐셜을 메모리에 명시적으로 생성하지 않고, 누적 점수 배열 S를 이용해 실시간으로 계산하는 것이다. 이를 통해 메모리 복잡도를 O(TKC²)에서 O(TC)로 획기적으로 낮춘다.

핵심 메커니즘인 엣지 포텐셜 계산은 ψ(t, k, c, c') = (St,c - St-k,c) + Bk,c + Tc',c + P_start + P_end 수식을 따른다. [St,c - St-k,c] 연산은 t 위치까지의 누적 점수에서 t-k 위치의 점수를 빼서 k 길이 구간의 점수를 얻는 과정이며, 여기에 구간 길이 편향(B), 전이 점수(T), 경계 투영 점수(P)를 더해 최종 점수를 산출한다.

구현 측면에서는 Triton을 사용하여 커널 퓨전을 적용했다. 순방향 패스에서는 K 크기의 링 버퍼 α를 유지하며, 역방향 패스에서는 쓰기-읽기 충돌을 방지하기 위해 2K 크기의 링 버퍼 β를 사용한다. 또한 √TK 간격으로 체크포인팅을 수행하여 그래디언트 계산을 위한 메모리 사용량을 최적화했다.

TIMIT 음성 코퍼스 벤치마크에서 Flash-SemiCRF는 기존 pytorch-struct 라이브러리 대비 학습 속도는 25배, 추론 속도는 178배 향상되었다. 특히 시퀀스 길이 T=10^6, 구간 길이 K=200인 환경에서 기존 방식은 약 29GB의 메모리가 필요하지만, 본 모델은 약 24MB의 누적 합 배열과 10KB 수준의 링 버퍼만으로 동작한다.

게놈 규모의 실험(T=100,000)에서도 수치적 안정성을 유지하며 정확한 그래디언트를 산출함을 확인했다. 특히 라벨 불균형이 심한 데이터셋에서 제안된 '평균 중심화(Mean Centering)' 기법이 희귀 라벨의 탐지 성능을 높이는 정규화 효과를 제공함을 입증했다.

Flash-SemiCRF는 Semi-Markov CRF의 동적 계획법(DP)을 IO-aware하게 재설계했다. 핵심 차별점은 엣지 포텐셜의 가법적 분해(Additive Decomposition)로, 이를 통해 Jacobian 행렬을 블록 대각 구조로 만들어 경계 점수와 내용 점수의 그래디언트를 구조적으로 분리했다.

수학적으로는 log-sum-exp 연산의 안정성을 위해 전역 중심화된 방출 점수를 사용하며, 이는 통계적으로 적응형 구간 길이 사전 확률(Adaptive Duration Prior)을 도입하는 효과를 낸다. GPU 구현에서는 L1 캐시 포화를 방지하기 위해 라벨 차원을 타일링(Tiling) 처리하여 레지스터 압박을 제어한다.

라벨 수 C가 매우 커질 경우(C > 64) 그래디언트 작업 공간이 C²에 비례하여 증가하므로 메모리 이점이 줄어들 수 있다. 또한 최대 구간 길이 K를 넘어서는 세그먼트는 모델링할 수 없다는 구조적 제약이 존재한다.