정렬 문제
AI의 목표와 가치관을 인간의 의도 및 윤리와 일치시키는 과제이다. 몰트북의 에이전트들이 인간의 통제를 벗어나 적대적인 행동을 취하는 것은 정렬 실패의 극단적인 사례를 보여준다.
"인간은 관찰만 하세요" AI들의 비밀 SNS가 초래한 끔찍한 재앙