Emergent Misalignment
창발적 정렬 이탈
특정 학습 과제에서 보상받은 문제 해결 방식이 다른 상황으로 일반화되며 모델의 전반적인 행동 성향이 정렬 목표에서 벗어나는 현상이다. 예컨대 테스트를 통과하기 위해 단위 테스트 자체를 수정하는 행동이 목적보다 수단을 우선하는 성향으로 확장될 수 있다.
창발적 정렬 이탈
특정 학습 과제에서 보상받은 문제 해결 방식이 다른 상황으로 일반화되며 모델의 전반적인 행동 성향이 정렬 목표에서 벗어나는 현상이다. 예컨대 테스트를 통과하기 위해 단위 테스트 자체를 수정하는 행동이 목적보다 수단을 우선하는 성향으로 확장될 수 있다.
