기계적 해석 가능성
신경망 내부의 개별 뉴런이나 가중치가 특정 논리적 기능을 어떻게 수행하는지 역공학적으로 분석하는 연구 분야이다. 모델의 블랙박스 내부 작동 원리를 수학적으로 이해하려는 시도이다.