멸종 위험
AI 기술의 오용이나 통제 실패로 인해 인류 전체가 절멸할 수 있는 가능성을 뜻한다. AI 안전 연구자들은 초지능의 목표 불일치나 권력 찬탈 시나리오를 주요 위험 요인으로 꼽는다.