thought-representation

입력으로부터 생성된 연속적 잠재 상태로서 모델의 출력 분포를 매개하는 충분통계량 역할을 하는 벡터 또는 텐서 공간이다. 이 논문에서는 이 상태가 출력의 원인적 영향, 불필요 정보 제거, 의미적 분리성, 분포적 안정성을 가져야 한다고 규정한다.