Confident Mode Collapse
확신형 모드 붕괴
모델이 실제로는 환각인 답변을 여러 시드에서 거의 동일하게 반복하는 현상입니다. 답변 간 불일치를 환각 신호로 사용하는 self-consistency 방식에서는 모든 출력이 같은 오답을 내면 불확실성을 감지하기 어렵습니다.
확신형 모드 붕괴
모델이 실제로는 환각인 답변을 여러 시드에서 거의 동일하게 반복하는 현상입니다. 답변 간 불일치를 환각 신호로 사용하는 self-consistency 방식에서는 모든 출력이 같은 오답을 내면 불확실성을 감지하기 어렵습니다.
