TL;DR

이 리포지토리는 특정 모델에 적용하도록 사전 학습된 Jacobian Lens들을 포함하며 해당 렌즈들은 Anthropic의 Jacobian Lens 라이브러리로 훈련되었다. 라이브러리는 사전 학습된 렌즈를 로드하고 로컬 visualizer로 렌즈 출력을 탐색할 수 있게 하여 입력 토큰이 출력에 미치는 민감도 패턴을 시각화한다. Neuronpedia의 jlens 페이지에서 렌즈 결과를 확인할 수 있는 링크가 제공된다. README에는 적용 대상 모델명, 학습 데이터, 정량적 성능 수치가 기재되어 있지 않아 추가 정보 조회가 필요하다.

핵심 포인트

• 사전 학습된 렌즈 세트를 함께 제공해 사용자가 별도 렌즈 훈련 없이 바로 적용해볼 수 있다.
• Anthropic의 Jacobian Lens 라이브러리로 훈련된 렌즈라는 점이 명시되어 있어 원저작 라이브러리와의 호환성이 분명하다.
• Neuronpedia의 jlens 링크를 통해 웹 기반 탐색 경로를 병행 제공해 로컬 시연 이외의 접근성을 확보한다.
• 사전 학습된 렌즈 팩 제공으로 사용자가 별도 렌즈 훈련 없이 즉시 모델 해석용 렌즈를 적용할 수 있다.