Reward Function Design

행동을 유도하는 보상 신호를 정의하고 구조화하는 과정으로서, 보상 신호의 형태와 해석이 AGI의 장기적 목표·도덕관 형성에 결정적 영향을 준다. 본문에서는 인간의 사회적 보상 메커니즘을 보상함수 설계의 참고점으로 고려한다.