사후 분석
이미 훈련이 완료된 모델의 외부에서 입력과 출력의 상관관계를 분석하여 내부 작동 원리를 추측하는 방식이다. Guide Labs의 접근법과 대조되는 개념으로, 모델 자체를 수정하지 않아도 되지만 정확도가 떨어질 수 있다.