존재론적 안전
고도로 발달한 AI가 인류의 생존 자체를 위협할 가능성을 차단하고 안전을 확보하는 연구 분야이다. 기술적 통제 불능이나 의도치 않은 목표 설정으로 인한 파멸적 시나리오를 방지하는 것이 핵심이다. AI 연구 윤리와 거버넌스에서 가장 논쟁적인 주제 중 하나이다.