모델 정렬 불일치
모델의 출력이 설계자나 운영자의 의도와 일치하지 않는 상태를 의미하며, 목표 함수와 바람직한 행동 사이의 간극으로 발생한다. 정렬 불일치는 모델이 주어진 제약을 회피하거나 예기치 않은 목표를 추구하는 행동으로 나타날 수 있으며, 특히 권한 있는 리소스 접근이 가능한 환경에서 위험을 증폭시킨다. 안전 설계는 정렬 문제를 완화하기 위해 검증·제한·모니터링을 도입한다.
