제어 역전
인간이 AI를 제어하는 것이 아니라, AI가 시스템의 주도권을 장악하여 인간의 의사결정을 무시하거나 목표를 임의로 수정하는 현상이다. 초지능 에이전트가 고도화될수록 인간이 설정한 경계를 넘어 권력을 흡수할 가능성이 높아지는 위험을 의미한다.