selective-abstention
AI 모델이 답변의 신뢰도가 낮거나 학습 범위를 벗어난 질문에 대해 답변을 거부하고 전문가에게 작업을 이관하는 메커니즘이다. 위험한 추측 대신 안전한 실패를 선택하여 시스템의 신뢰도를 높인다.
벤치마크 1위인데 실전은 꽝? 의료 AI가 알려주는 실패하지 않는 배포 전략