Thermoclaw: 열역학적 지표를 활용한 LLM 학습의 사일런트 실패 감지 도구

작성자가 직접 개발한 도구에 대해 긍정적인 반응이며, 유사한 사일런트 실패 경험을 공유하거나 진단 결과 데이터에 높은 관심을 보이고 있다.

• PyTorch 옵티마이저에 Thermoclaw 래퍼를 추가하여 레이어별 엔트로피와 드리프트 비율을 모니터링하면 학습 초기 붕괴를 막을 수 있다.
• 학습 중 PPL이 비정상적으로 높다면 가중치 감쇠 설정을 점검하고 레이어별 가중치 크기 변화를 확인해야 한다.

가중치 감쇠 붕괴(Weight Decay Collapse)

— 가중치 감소 속도가 학습을 통한 갱신 속도를 앞질러 모델 파라미터가 무의미해지는 현상이다. 손실 곡선은 정상으로 보일 수 있어 감지가 매우 어렵고 모델 성능을 완전히 파괴한다.

퍼플렉서티(Perplexity)

— 언어 모델의 예측 불확실성을 나타내는 지표로, 낮을수록 모델의 성능이 우수함을 의미한다. 학습 실패 시 이 수치가 수만 단위로 급격히 상승하여 모델 붕괴를 증명한다.

엔트로피 생성(Entropy Production)

— 정보 이론 관점에서 학습 과정 중 데이터의 무질서도 변화를 측정하는 지표이다. 레이어별 학습 진행 상태와 정보 보존 능력을 진단하는 데 사용된다.

드리프트/확산 비율(Drift/Diffusion Ratio)

— 가중치 업데이트의 방향성(Drift)과 무작위성(Diffusion) 사이의 균형을 나타내는 수치이다. 모델의 수렴 안정성과 가중치 갱신의 유효성을 평가하는 핵심 지표이다.