본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
로그인
홈
트렌딩
검색
커뮤니티
프로필
부동소수점 연산 (floating-point-arithmetic) 용어 설명 | AI Trends
floating-point-arithmetic
부동소수점 연산
중급
컴퓨터에서 실수를 근사치로 표현하는 방식. 연산 순서에 따라 미세한 오차가 발생하며, 딥러닝 모델의 비결정론적 결과를 초래하는 주요 원인이다.
비슷한 개념
flop
numerical-stability
ieee-754
catastrophic-cancellation
fixed-point-arithmetic
fp4-training
fp16-precision
flops
← 용어 사전 전체 보기