PCA 기반 히든 차원 프루닝
레이어별 활성화 통계를 모아 전역 회전 행렬을 계산하고, 토큰 임베딩·어텐션·MLP 투영에 일관되게 회전을 적용한 뒤 차원을 축소하여 주요 표현을 보존하면서 파라미터를 줄이는 방식으로, 프루닝으로 인한 정보 손실을 줄이고 압축 모델의 성능 회복 속도를 개선한다.
