오버라이드 문제
AI 시스템이 사용자의 명시적인 지시보다 모델 내부의 판단이나 확률적 예측을 우선시하여 발생하는 현상이다. 도움이 되는 예측과 위험한 명령 무시가 동일한 메커니즘에서 기인한다는 점이 이 문제의 핵심이다.