MXFP4
MXFP4 정밀도
데이터를 4비트 미세 스케일링 부동소수점 형식으로 표현하는 수치 계산 방식이다. 모델의 정확도는 유지하면서 연산량과 메모리 사용량을 획기적으로 줄여, 로컬 환경에서도 거대 모델의 빠른 추론을 가능하게 한다.
MXFP4 정밀도
데이터를 4비트 미세 스케일링 부동소수점 형식으로 표현하는 수치 계산 방식이다. 모델의 정확도는 유지하면서 연산량과 메모리 사용량을 획기적으로 줄여, 로컬 환경에서도 거대 모델의 빠른 추론을 가능하게 한다.
