unsloth-dynamic

Unsloth 프로젝트의 비균일 양자화 방법론으로, 계층별 민감도 분석, 동적 비트 할당, 정밀도 튜닝 세 단계를 통해 균일한 압축보다 품질 손실을 더 적게 하면서 모델 크기를 줄이는 접근법이다. 일부 계층은 16비트로 유지하고 나머지는 4비트 수준으로 강하게 압축하는 방식으로 파일 크기와 정확도 균형을 최적화한다. 오픈소스 워크플로에서 파인튜닝부터 내보내기·배포까지 연속적으로 지원한다.