existential-risk

인류의 생존이나 문명의 지속 가능성을 근본적으로 위협하는 위험을 뜻한다. AI 맥락에서는 기계에 대한 잘못된 믿음이나 통제 불능 상태가 인간의 정신적, 사회적 안녕을 파괴할 수 있음을 경고할 때 사용된다.