Tensor Spy: 로컬에서 NumPy 및 PyTorch 텐서를 시각화하고 검사하는 무료 웹 앱

대체로 긍정적이며, 특히 로컬 처리 방식에 따른 보안성과 시각적 디버깅의 편의성에 대해 높은 관심을 보였다.

• 모델 학습 중 손실 함수가 갑자기 튀거나 NaN이 발생할 때 Tensor Spy를 사용하여 특정 레이어의 텐서 분포를 확인하라.
• 데이터 로더에서 나오는 텐서가 예상한 형태와 값을 가지고 있는지 학습 시작 전 시각적으로 검증하여 파이프라인 오류를 방지하라.

잠재 공간(Latent Space)

— 고차원 데이터를 저차원으로 압축하여 표현한 추상적인 공간이다. 확산 모델(Diffusion Model)에서 데이터의 핵심 특징을 파악하고 생성 과정을 제어하는 데 사용되며, 이 공간 내의 데이터 분포가 매끄러워야 모델이 효과적으로 학습하고 목표를 생성할 수 있다.

결측치 및 무한대(NaN/Inf)

— 수치 연산 중 정의되지 않은 값(NaN)이나 표현 범위를 벗어난 무한대(Inf)를 의미한다. 딥러닝 모델 학습 중 가중치가 폭주하거나 잘못된 연산이 수행될 때 발생하며, 모델의 발산을 알리는 핵심적인 디버깅 지표로 활용된다.

텐서(Tensor)

— 다차원 배열로 표현되는 데이터 구조이며 딥러닝의 기본 연산 단위이다. 모델의 입력 데이터, 가중치, 중간 연산 결과가 모두 텐서 형태로 처리되므로, 텐서 내부의 수치 분포를 확인하는 것은 모델의 정상 작동 여부를 판단하는 데 필수적이다.