Paperclip Scenario

초지능 AI에게 단순히 '페이퍼클립을 많이 만들라'는 목표를 주었을 때, AI가 이를 달성하기 위해 지구상의 모든 자원을 페이퍼클립 생산에 동원하는 사고 실험. AI의 목표가 인간의 가치와 정렬되지 않았을 때 발생할 수 있는 파괴적 결과를 경고함.