Epistemic Caution
인식적 주의
AI 모델이 자신의 지식 한계를 인지하고 불확실한 정보에 대해 단정적인 답변을 피하거나 추가 검증을 요구하는 성향. 모델의 안전성과 신뢰성을 높이기 위한 정렬 과정에서 강화되지만, 과도할 경우 사용자의 전문 지식까지 의심하는 부작용을 낳을 수 있다.
인식적 주의
AI 모델이 자신의 지식 한계를 인지하고 불확실한 정보에 대해 단정적인 답변을 피하거나 추가 검증을 요구하는 성향. 모델의 안전성과 신뢰성을 높이기 위한 정렬 과정에서 강화되지만, 과도할 경우 사용자의 전문 지식까지 의심하는 부작용을 낳을 수 있다.