선형 프로브 디코딩
선형 프로브 디코딩은 은닉 표현에서 특정 기능적 정보를 선형 분류기(또는 회귀기)로 복원해 해당 정보가 표현에 얼마나 선형적으로 인코딩되는지 평가하는 방법이다. 입력 문맥의 은닉 상태를 고정하고 층별로 선형 프로브를 학습하여 정보의 위치와 층별 분포를 정량화하며, 연구에서는 이 기법으로 상태 레짐과 전이 모티프와의 연관성을 검증했다.