Prealigned Model
사전 정렬 모델
AI가 능력을 확장하기 전에 인간의 가치와 안전 목표를 따르도록 설계된 모델을 뜻합니다. 글에서는 가치 일반화의 여러 구성 요소를 결합해 분포 밖 상황에서도 판단을 점검하고 외부 피드백으로 개선하는 모델을 사전 정렬의 후보로 봅니다.
사전 정렬 모델
AI가 능력을 확장하기 전에 인간의 가치와 안전 목표를 따르도록 설계된 모델을 뜻합니다. 글에서는 가치 일반화의 여러 구성 요소를 결합해 분포 밖 상황에서도 판단을 점검하고 외부 피드백으로 개선하는 모델을 사전 정렬의 후보로 봅니다.
