context-based-view

신경망의 각 레이어를 주변 입력(컨텍스트)과 결합된 함수로 바라보는 관점으로, 입력 토큰과 그 주변 문맥을 함께 고려해 레이어 출력이 어떻게 결정되는지를 선형 근사 관점에서 설명하는 접근법이다. 이 관점은 개별 입력이 아니라 입력 분포의 조건부 평균을 통해 레이어 동작을 해석하려고 하며, 컨텍스트 정보를 입력→처리→출력 과정에서 어떻게 통합하는지를 밝히는 데 중요하다. 이 관점은 레이어를 국소적 비선형성 위주의 블랙박스가 아니라 컨텍스트에 따른 평균적 선형 사상으로 근사할 수 있음을 보여 해석성과 이론적 단순화를 제공한다.