precision-floor
정밀도 바닥(precision floor)
정밀도 바닥은 하드웨어 숫자 형식이 더 작은 덧셈을 소거하는 임계값을 가리킨다. 이 글에서는 단일 레이어에 쓰인 추가값이 bfloat16 해상도보다 작아 각도 기반 도구로는 무시되지만 누적합은 출력에서 실질적 영향을 일으키는 상황이 핵심 이슈로 제시된다. 정밀도 바닥은 관측 가능한 변화와 출력 결과 사이의 역설을 설명하는 개념이다.
정밀도 바닥(precision floor)
정밀도 바닥은 하드웨어 숫자 형식이 더 작은 덧셈을 소거하는 임계값을 가리킨다. 이 글에서는 단일 레이어에 쓰인 추가값이 bfloat16 해상도보다 작아 각도 기반 도구로는 무시되지만 누적합은 출력에서 실질적 영향을 일으키는 상황이 핵심 이슈로 제시된다. 정밀도 바닥은 관측 가능한 변화와 출력 결과 사이의 역설을 설명하는 개념이다.