본문으로 건너뛰기
r/neuralnetworks조회 1회

초소형 신경망의 망각·제로데이 탐지 성능

3KB 미만 Custom Architecture가 MLP보다 Task 기억과 Zero-Day 탐지에서 높은 성능을 기록했다

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

작성자는 순수 NumPy로 구현한 3,000개 미만 파라미터의 Custom Architecture를 동일 예산 MLP와 비교했습니다. 5개 Seed의 A/B/A 연속 학습에서 MLP는 Task A 정확도를 약 30% 잃었지만 Custom Architecture의 Forgetting은 +0.0020 ± 0.0033으로 거의 0이었고, Task B Zero-shot 정확도는 90.4%였습니다. 970개 이상의 미확인 Zero-Day 우회 벡터에서는 Recall 95.6%, AUC 0.996을 기록했으며 99% Recall 조건의 FPR은 0.0188이었습니다. ARM 단일 추론 지연시간은 약 15µs였지만 핵심 수식과 Cell Mechanics가 비공개라 세부 재현성은 제한됩니다.

섹션별 상세

01
작성자는 순수 NumPy로 직접 구현한 비표준 신경망을 동일한 파라미터 예산의 MLP와 비교했습니다. 5개 독립 Seed를 사용한 A/B/A 순차 학습에서 MLP는 SQL Injection 분류를 학습한 뒤 XSS 분류 정확도를 약 30% 잃었지만, Custom Architecture의 Forgetting은 +0.0020 ± 0.0033으로 측정됐습니다. 또한 Task B Fine-tuning 전 Zero-shot 정확도 90.4%와 Task B 학습 후 98.5% 이상의 정확도를 기록해, 과거 샘플 Replay Buffer나 Fisher Matrix 없이도 Task 전환에 따른 지식 손실을 줄였다는 점을 강조했습니다.
Task A를 다시 평가했을 때의 Forgetting F를 C1-grow, R-trig, MLP-64별로 비교한 막대그래프입니다.
Chart그래프는 Forgetting F를 A₀ − A₁로 정의하고 값이 클수록 기존 Task 성능 손실이 크다고 표시합니다. C1-grow는 0.032 ± 0.039, R-trig는 0.002 ± 0.003으로 거의 0에 가까운 반면 MLP-64는 0.296 ± 0.150으로 크게 나타나, 표의 A/B/A 실험에서 Custom Architecture가 MLP보다 Task A 기억을 안정적으로 유지했다는 결과를 뒷받침합니다.
02
제로데이 일반화 평가는 표준 Payload만으로 학습한 모델에 970개 이상의 복잡하거나 난독화된 미확인 우회 벡터를 투입하는 방식으로 진행됐습니다. MLP는 [email protected] 78.2%, AUC 0.898을 기록했고 99% Recall로 조정하면 정상 트래픽의 FPR이 1.0에 도달했지만, Custom Architecture는 [email protected] 95.6%, AUC 0.996을 기록하면서 99% Recall 조건에서도 FPR 0.0188을 유지했습니다. 따라서 글의 비교는 단순한 평균 정확도보다 보안 탐지에서 중요한 미확인 공격 대응력과 정상 트래픽 오탐 부담을 함께 측정하는 데 초점을 맞췄습니다.
보지 못한 Payload-Box 우회 벡터에 대한 Zero-Day Recall@0.5를 R-trig, C1-grow, champ-128별로 비교한 표와 막대그래프입니다.
Chart표와 그래프에서 R-trig는 [email protected] 0.956으로 가장 높고, champ-128은 0.849, C1-grow는 0.783을 기록합니다. 이는 표준 Payload로 학습한 뒤 미확인 우회 벡터를 평가했을 때 R-trig 계열이 다른 단일 패스 구조보다 높은 분포 외 탐지 성능을 보였다는 글의 결과와 연결됩니다.
03
모델은 3,000개 미만의 파라미터와 3KB 미만의 메모리로 구성됐고 ARM Edge Hardware에서 단일 추론 지연시간은 약 15µs였습니다. 수작업 BPTT 구현은 수치 Gradient와 대조해 1.7e-10의 차이를 기록했지만, 핵심 수식과 Cell Mechanics는 학술 논문 제출 및 대학 심사를 위해 공개하지 않았습니다. 이 때문에 현재 수치는 재현 가능한 세부 구현보다 A/B/A 순서, 독립 Seed 수, 제로데이 평가 세트, 동일 예산 비교라는 실험 조건을 중심으로 해석해야 합니다.

용어 해설

파국적 망각(Catastrophic Forgetting)
— 온라인 학습에서 새로운 Task B를 익히는 동안 기존 Task A의 가중치 표현이 덮어써져 성능이 급격히 떨어지는 현상입니다. 이 글에서는 A/B/A 순차 평가에서 학습 순서에 따른 기존 지식 손실을 측정했습니다.
분포 외 일반화(Out-of-Distribution Generalization)
— 학습 데이터와 다른 분포의 입력에서도 모델이 분류 규칙을 유지하는 능력입니다. 글에서는 표준 공격 Payload로 학습한 뒤 보지 못한 Zero-Day 우회 벡터를 투입해 Recall과 AUC, 오탐률을 측정했습니다.
귀납적 편향(Inductive Bias)
— 모델이 제한된 데이터나 새로운 Task를 처리할 때 특정 구조와 규칙을 선호하도록 만드는 설계상의 가정입니다. 저자는 과거 샘플이나 Fisher Matrix를 저장하지 않고도 기억 유지와 분포 외 성능을 얻은 원인으로 이 구조적 편향을 지목했습니다.
시간 역전파(Backpropagation Through Time)
— 순환 구조의 여러 시간 단계에 걸쳐 오차를 역방향으로 전달하며 파라미터를 갱신하는 학습 절차입니다. 이 글에서는 수작업으로 구현한 BPTT의 Gradient를 수치 Gradient와 비교해 기계 정밀도 수준인 1.7e-10의 차이를 확인했습니다.
위양성률(False Positive Rate)
— 정상 입력을 공격으로 잘못 판정하는 비율로, 보안 탐지 시스템의 경보 부담을 나타내는 지표입니다. 글에서는 99% Recall 조건에서 MLP의 FPR이 1.0까지 상승한 반면 Custom Architecture는 0.0188을 유지했다고 비교했습니다.

언급된 도구

NumPy중립

PyTorch와 TensorFlow 없이 신경망과 수동 Gradient 계산을 순수 NumPy로 구현하는 데 사용했습니다.

PyTorch중립

비교 대상 구현 프레임워크에서 제외된 도구로 언급됐습니다.

TensorFlow중립

비교 대상 구현 프레임워크에서 제외된 도구로 언급됐습니다.

AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 08. 16.수집 2026. 08. 16.출처 타입 REDDIT

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.