임베딩 테이블
임베딩 테이블은 각 토큰을 고정 차원 벡터로 저장한 행렬로서 토큰 인덱스를 행 인덱스로 매핑한다. 본문에서는 GPT-2-small의 WTE에서 32,070개 알파벳 토큰을 행으로 사용해 시각화 대상 벡터를 제공하며 이 행렬의 행들이 시각화의 입력 데이터가 된다. 임베딩 테이블은 토큰 간 유사도를 계산하는 기초 자료로서 차원 축소와 그래프 생성의 출발점이 된다.
