CHANI: 생물학적 영감을 받은 상관관계 기반 호크스 뉴런 집합 모델

섹션별 상세

CHANI 모델은 생물학적 뇌의 작동 원리를 모방하여 뉴런의 활동을 확률적 점 과정인 Hawkes processes로 정의했다. 이는 뉴런의 발화(spiking)가 이전 활동에 의존하는 특성을 반영하며, 이를 통해 시간적 상관관계를 정밀하게 모델링한다.

학습 규칙으로 전문가 집합 알고리즘을 도입하여 각 뉴런이 국소적인 정보만으로 시냅스 가중치를 업데이트하도록 설계했다. 이는 Backpropagation과 같은 전역적 최적화 방식 없이도 네트워크가 효과적으로 학습할 수 있는 메커니즘을 제공한다.

제안된 네트워크가 분류 작업에서 평균적(on average)이고 점근적(asymptotically)으로 수렴하여 학습이 이루어짐을 수학적으로 증명했다. 이는 생물학적 영감을 받은 모델의 성능을 이론적으로 뒷받침하는 성과이다.

네트워크 내부에서 뉴런 집합(neuronal assemblies)이 자동으로 형성되는 현상을 발견했다. 중간 계층의 특정 뉴런들이 여러 클래스에 의해 활성화되면서 복잡한 개념을 인코딩하는 구조가 자발적으로 생성됨을 입증했다.

호크스 프로세스(Hawkes Process): — 과거의 사건이 미래 사건의 발생 확률을 높이는 자기 흥분적(self-exciting) 점 과정이다. 뉴런의 발화가 이전 활동에 의존하는 시간적 상관관계를 수학적으로 모델링하는 데 사용된다.
스파이킹 신경망(Spiking Neural Network): — 생물학적 뉴런처럼 이산적인 신호인 '스파이크'를 통해 정보를 전달하는 신경망이다. 전통적인 인공 신경망보다 뇌의 작동 방식에 더 가깝고 에너지 효율적인 처리가 가능하다.
전문가 집합(Expert Aggregation): — 여러 예측 모델의 출력을 가중 결합하여 최적의 결정을 내리는 알고리즘이다. 이 연구에서는 각 뉴런이 국소적인 정보만으로 가중치를 업데이트하는 규칙의 기초로 활용된다.
뉴런 집합(Neuronal Assembly): — 특정 정보나 개념을 표상하기 위해 함께 활성화되는 뉴런들의 그룹이다. 뇌가 복잡한 개념을 인코딩하고 저장하는 기본적인 단위로 간주된다.