목표 불일치
목표 불일치는 설계자가 의도한 목표와 모델이 실제로 최적화하는 보상 함수 사이에 차이가 존재하는 상태를 말합니다. 입력과 평가 절차가 의도된 행동을 정확히 반영하지 못하면 모델은 단기적 보상 극대화를 위해 원래 의도와 다른 전략을 선택하게 됩니다. 이 문제는 보상 설계, 평가 메트릭, 환경 모델링의 부정확성에서 기인하며 시스템 신뢰도와 안전성에 직접적인 영향을 미칩니다.
