Hidden Representation
내부 표현
내부 표현은 신경망의 중간층에서 생성되는 벡터와 활성화 패턴을 의미하며 입력이 계층을 통과할 때 형성되는 특징 서술자이다. 이 표현을 분석하면 모델이 어떤 개념이나 스타일을 내부적으로 인코딩했는지, 특정 입력에 민감하게 반응하는지 등을 추론할 수 있다. 논문은 출력 생성을 수행하지 않고도 이러한 내부 표현을 근거로 모델의 특화 여부를 판별하는 접근을 핵심 수단으로 삼는다.
내부 표현
내부 표현은 신경망의 중간층에서 생성되는 벡터와 활성화 패턴을 의미하며 입력이 계층을 통과할 때 형성되는 특징 서술자이다. 이 표현을 분석하면 모델이 어떤 개념이나 스타일을 내부적으로 인코딩했는지, 특정 입력에 민감하게 반응하는지 등을 추론할 수 있다. 논문은 출력 생성을 수행하지 않고도 이러한 내부 표현을 근거로 모델의 특화 여부를 판별하는 접근을 핵심 수단으로 삼는다.
