fp8

8비트 부동소수점 데이터 형식을 의미한다. 기존 FP16이나 BF16보다 적은 비트를 사용하여 메모리 대역폭을 절약하고 연산 속도를 높이면서도 모델의 정확도 손실을 최소화하는 최신 최적화 기법이다.