Attention Distribution
어텐션 분포
모델이 특정 시점에서 입력 데이터의 어느 부분에 얼마나 집중할지를 나타내는 가중치 할당 방식이다. 자기 검토 시에도 오류를 발생시킨 시점과 동일한 어텐션 분포를 사용하게 되면, 모델은 자신의 실수를 발견하지 못할 가능성이 매우 높다. 이는 모델 내부 연산 과정의 핵심적인 특성이다.
어텐션 분포
모델이 특정 시점에서 입력 데이터의 어느 부분에 얼마나 집중할지를 나타내는 가중치 할당 방식이다. 자기 검토 시에도 오류를 발생시킨 시점과 동일한 어텐션 분포를 사용하게 되면, 모델은 자신의 실수를 발견하지 못할 가능성이 매우 높다. 이는 모델 내부 연산 과정의 핵심적인 특성이다.
