AI 위험성
AI 기술이 통제를 벗어나거나 악용될 경우 인류의 안전과 생존에 위협이 될 수 있는 잠재적 위험이다. 핵무기나 기후 변화와 같은 수준의 실존적 위협으로 다루어지며 안전한 정렬 연구의 핵심 주제이다.