도덕적 범주
행동의 도덕적 관심이 확장되는 대상의 집합으로서 인간은 친족·동료·타문화로 확장하며, AGI의 가치 대상 선정은 올바른 장을 선택해야 장기적 선함을 보장한다. 이 글 맥락에서는 AGI가 어느 대상에 도덕적 고려를 할지 결정하는 메커니즘을 가리키며 잘못 설정되면 피해가 발생할 수 있음을 강조한다.
