본문으로 건너뛰기

Miscalibration

오보정

모델이 예측한 결과의 확률(확신도)이 실제 정확도와 일치하지 않는 현상이다. 특히 도구 사용 에이전트에서 모델이 틀린 답을 내놓으면서도 확신을 가질 경우 시스템의 신뢰성을 저해하므로 이를 분석하고 완화하는 연구가 중요하다.