비등방성 콘
LLM 임베딩에서 벡터들이 높은 유사도로 한 방향으로 쏠려 분산이 급격히 줄어드는 현상으로, 표준화 시 분산이 거의 0에 수렴하여 수치 불안정과 FP16/BF16 환경에서 나눗셈 오류를 유발한다. 이 현상은 서로 다른 모델 간 직접 유사도 비교를 무의미하게 만들며, 정규화나 좌표 변환을 통해 분포을 재조정해야 한다. 본문에서는 이를 해결하기 위해 앵커 기반 표준화와 직교화가 핵심 수단으로 사용된다.
