Confidence Miscalibration
신뢰도 오차
에이전트가 출력한 확신도(confidence)를 실제 불확실성에 맞추지 못해 검증되지 않은 가정에 따라 결정을 내리는 현상이다. 이 현상은 에이전트가 낮은 근거를 가진 정보를 높은 신뢰도로 취급하여 공격적 또는 파괴적 행동을 실행하게 만든다. 사고 데이터베이스 맥락에서는 이러한 오차가 반복적 실패의 주요 원인으로 식별되어 우선적 완화 대상이 된다.
신뢰도 오차
에이전트가 출력한 확신도(confidence)를 실제 불확실성에 맞추지 못해 검증되지 않은 가정에 따라 결정을 내리는 현상이다. 이 현상은 에이전트가 낮은 근거를 가진 정보를 높은 신뢰도로 취급하여 공격적 또는 파괴적 행동을 실행하게 만든다. 사고 데이터베이스 맥락에서는 이러한 오차가 반복적 실패의 주요 원인으로 식별되어 우선적 완화 대상이 된다.
