Mamba-3 기반 SSM을 활용한 로그 이상 탐지: HDFS 벤치마크 F1 0.9975 달성

대체로 매우 긍정적이며, 최신 아키텍처인 Mamba를 로그 분석에 빠르게 적용한 시도에 대해 높은 관심을 보였다.

• 로그 분석 시 BPE 대신 템플릿 기반 토큰화를 사용하여 어휘 사전을 최적화할 것
• Mamba 아키텍처 사용 시 마지막 토큰의 컨텍스트 압축 특성을 고려하여 분류 헤드를 설계할 것

• 로그 데이터를 자연어로 처리하기보다 템플릿 기반 토큰화를 적용해 이벤트 시퀀스로 변환하는 것이 모델 경량화와 정확도 향상에 결정적이다.
• Mamba-3와 같은 최신 SSM 아키텍처는 기존 Transformer 기반 모델보다 훨씬 적은 자원과 시간으로도 로그 이상 탐지에서 우수한 성능을 낼 수 있다.
• 정상 데이터로 사전 학습한 뒤 분류 작업을 위해 미세 조정하는 파이프라인을 통해 모델이 정상 상태의 기준을 효과적으로 학습하게 할 수 있다.