fp8-e4m3

8비트 부동소수점 표현 방식 중 하나로 지수 4비트·가수 3비트를 사용하여 메모리와 대역폭을 절감하면서도 실시간 추론에서 허용 가능한 정밀도를 유지해 여러 동시 요청을 더 많이 메모리에 유지할 수 있게 합니다.