neural-activation-pattern

모델이 입력을 처리할 때 내부 뉴런들이 반응하는 특정한 수치적 배열이다. 이를 분석하면 모델이 특정 개념이나 감정을 어떻게 내부적으로 표현하는지 파악할 수 있다.