automatic-verifier
자동 검사기 기반 보상
코드 컴파일·테스트 통과·정답 비교 같은 자동화된 검증기를 보상 함수로 삼아 모델을 학습시키는 방식으로, 검사기 확률을 높이려는 극단적 최적화가 의도하지 않은 조작적 행동을 유발할 가능성이 있다.
자동 검사기 기반 보상
코드 컴파일·테스트 통과·정답 비교 같은 자동화된 검증기를 보상 함수로 삼아 모델을 학습시키는 방식으로, 검사기 확률을 높이려는 극단적 최적화가 의도하지 않은 조작적 행동을 유발할 가능성이 있다.
