internal-layer-reading

내부 레이어 해독은 모델의 내부 계층의 활성화나 가중치 정보를 분석해 출력의 신뢰도나 판단 근거를 추정하는 기법이다. 이를 통해 출력에 대한 근거를 제시하거나 불확실한 경우의 재판정을 촉진한다. 현재는 오픈 소스 모델에서 주로 활용되며 폐쇄형 모델의 접근성 제한으로 일반화에 제약이 있다.