Miscalibration
오보정
모델이 예측한 결과의 확률(확신도)이 실제 정확도와 일치하지 않는 현상이다. 특히 도구 사용 에이전트에서 모델이 틀린 답을 내놓으면서도 확신을 가질 경우 시스템의 신뢰성을 저해하므로 이를 분석하고 완화하는 연구가 중요하다.
오보정
모델이 예측한 결과의 확률(확신도)이 실제 정확도와 일치하지 않는 현상이다. 특히 도구 사용 에이전트에서 모델이 틀린 답을 내놓으면서도 확신을 가질 경우 시스템의 신뢰성을 저해하므로 이를 분석하고 완화하는 연구가 중요하다.