본문으로 건너뛰기

bit-precision

비트 정밀도

중급

데이터를 표현하는 데 사용되는 비트의 개수로, 정밀도가 높을수록 계산이 정확하지만 더 많은 메모리와 연산 자원을 소모한다. 보통 16-bit(FP16)나 32-bit(FP32)가 표준으로 사용된다.