권위의 환상
시스템이 정중하고 확신에 찬 태도로 답변할 때 사용자가 해당 시스템을 실제보다 더 유능하고 신뢰할 수 있는 권위자로 착각하는 현상이다. 이는 시스템의 실제 한계를 간과하게 만들어 위험을 초래한다.
AI가 안전하다고 믿게 만드는 것이 가장 위험한 설계 실패다