interpretability-lens

모델 내부의 특정 표현이나 계산을 사람이 읽을 수 있는 토큰 예측 또는 개념 방향으로 변환하는 분석 도구입니다. 특정 checkpoint에 맞춰 학습되므로 모델 버전이 바뀌어도 같은 내부 표현을 읽는지는 별도 검증이 필요합니다.