Value Generalisation
가치 일반화
AI가 학습 분포를 벗어난 상황에서도 원래 목표의 가치 기준을 유지하며 적절한 판단을 내리도록 만드는 문제입니다. 단순히 관찰된 패턴을 새 환경에 적용하는 Empirical Generalisation과 달리, 무엇이 가치와 관련된 특징인지 재해석하고 목표 자체를 확장해야 하므로 더 어려운 정렬 과제로 다뤄집니다.
가치 일반화
AI가 학습 분포를 벗어난 상황에서도 원래 목표의 가치 기준을 유지하며 적절한 판단을 내리도록 만드는 문제입니다. 단순히 관찰된 패턴을 새 환경에 적용하는 Empirical Generalisation과 달리, 무엇이 가치와 관련된 특징인지 재해석하고 목표 자체를 확장해야 하므로 더 어려운 정렬 과제로 다뤄집니다.
