x-risk

인류의 잠재력을 영구적으로 파괴하거나 인류를 멸종시킬 수 있는 위험을 의미한다. AI 분야에서는 초지능 AI가 통제를 벗어나 인류를 위협할 가능성을 다룬다.