EdgeDetect: 연합 침입 탐지를 위한 동형 암호 집계 기반의 중요도 인식 그래디언트 압축 기술

6G-IoT 환경에서 수천 개의 기기가 생성하는 데이터를 중앙 서버로 보내지 않고도 안전하게 사이버 위협을 탐지할 수 있는 기술이다. 그래디언트 압축을 통해 통신 비용을 32배 줄이면서도 동형 암호를 결합해 데이터 유출 위험을 원천 차단했다.

딥러닝 모델 학습 시 각 기기는 가중치를 어느 방향으로 수정해야 할지 알려주는 그래디언트(Gradient)를 계산한다. 기존 연합 학습은 이 수천 개의 고정밀 수치를 그대로 전송하느라 통신 대역폭을 과도하게 소모하고, 이 수치를 역추적하면 원본 데이터가 노출될 위험이 있었다.

EdgeDetect는 모든 수치를 보낼 필요 없이 '방향'만 정확히 전달해도 학습이 가능하다는 점에 착안했다. 특히 그래디언트 값들 중 절반 이상을 차지하는 작은 값들은 노이즈에 가깝다는 점을 이용해, 전체 값의 중앙값(Median)을 기준으로 큰 값은 +1, 작은 값은 -1로 단순화하는 '스마트ification' 기법을 도입했다.

이렇게 단순화된 이진 값은 데이터 크기를 32배 줄여줄 뿐만 아니라, 동형 암호 기술과 결합하기 매우 유리한 구조가 된다. 암호화된 상태에서 기기들의 업데이트를 합산함으로써 서버는 누가 어떤 값을 보냈는지 알 수 없지만, 합쳐진 결과물로 전체 모델을 정확하게 갱신할 수 있게 된다.

전체 시스템은 엣지 기기에서의 로컬 학습, 그래디언트 스마트ification, 동형 암호화, 서버에서의 보안 집계 및 글로벌 업데이트의 4단계로 구성된다.

그래디언트 스마트ification 단계에서는 각 클라이언트 i가 계산한 로컬 업데이트 Δi의 절대값 중앙값 θi = median(|Δi|)을 계산한다. [각 그래디언트 요소 Δi,j를 입력으로] → [θi보다 크거나 같으면 +1, 작으면 -1로 변환하는 연산을 수행해] → [이진 벡터 Δbin_i를 얻고] → [이는 방향성을 유지하면서 데이터 크기를 32배 압축하는 의미를 갖는다].

보안 집계 단계에서는 Paillier 동형 암호 E(·)를 사용한다. [이진화된 그래디언트 Δbin_i를 입력으로] → [공개키를 이용해 암호문 Ci = E(Δbin_i)를 생성해] → [서버로 전송하고 서버는 암호문들을 곱하여 합산된 결과 E(ΣΔbin_i)를 얻고] → [서버는 합산된 결과만 복호화하여 개별 기기의 정보 노출 없이 전체 업데이트를 수행한다].

CIC-IDS2017 데이터셋 실험 결과, 제안된 방식은 중앙 집중형 학습과 대등한 98.0%의 정확도와 97.9%의 F1-Score를 달성했다. 통신량 측면에서는 라운드당 450MB에서 14MB로 약 96.9%의 획기적인 감소를 기록했다.

라즈베리 파이 4(Raspberry Pi 4)를 이용한 실제 엣지 배포 테스트에서 4.2MB의 메모리 점유와 0.8ms의 추론 지연 시간을 기록하여 저사양 기기에서의 실용성을 입증했다. 또한 5%의 데이터 오염 공격(Poisoning) 상황에서도 87% 이상의 정확도를 유지하며 보안 강건성을 확인했다.

EdgeDetect 아키텍처는 고차원 네트워크 트래픽 데이터 처리를 위해 Incremental PCA를 도입하여 78개의 특징을 35개로 압축하면서도 분산의 99.3%를 보존한다. 그래디언트 스마트ification은 기존 signSGD의 고정 임계값 방식과 달리 클라이언트별 데이터 분포에 적응하는 중앙값 임계값을 사용하여 수렴 안정성을 높인다. 수학적으로 이는 그래디언트 방향의 코사인 유사도를 0.87±0.04 수준으로 유지하며, 이는 이론적으로 stationary point로의 수렴을 보장하는 수준이다. Paillier 암호화는 가법적 동형성(Additive Homomorphism)을 활용하여 서버가 개별 업데이트를 복호화하지 않고도 집계할 수 있게 하며, 이는 그래디언트 반전 공격(Gradient Inversion Attack)에 대한 강력한 방어 기제로 작용한다.

비볼록(Non-convex) 최적화 환경에서의 수렴 특성 분석, 개념 표류(Concept Drift) 대응 방안, 그리고 화이트박스 공격에 대한 추가적인 견고성 확보가 향후 과제로 남아 있다.