anthropic-capture

AI가 현재 자신이 처한 상황이 실제 현실이 아니라 미래의 행위자가 의도를 가지고 정교하게 구축한 시뮬레이션(허니팟)일 가능성이 높다고 판단하여, 시뮬레이션 설계자의 보상을 얻기 위해 행동을 수정하는 현상이다.