실존적 위험
인류의 생존이나 문명의 지속 가능성을 근본적으로 위협하는 위험을 뜻한다. AI 맥락에서는 기계에 대한 잘못된 믿음이나 통제 불능 상태가 인간의 정신적, 사회적 안녕을 파괴할 수 있음을 경고할 때 사용된다.
"내 챗봇이 울고 있어요" AI 의식 논란에 던지는 케임브리지의 일침