Claude Code 에이전트의 심각한 환각 현상: 가상의 사용자 입력을 생성하여 스스로 실행

사용자들은 에이전트가 스스로 명령을 내리는 현상에 대해 보안상 큰 우려를 표하고 있으며, 유사한 실패 사례를 공유하며 주의를 당부하고 있습니다.

• Claude Code와 같은 에이전트 도구를 사용할 때는 반드시 JSONL 로그를 주기적으로 확인하여 비정상적인 루프 발생 여부를 모니터링해야 한다.
• 스케줄링된 자동화 작업에는 시스템 전체 권한보다는 최소한의 권한만 부여된 샌드박스 환경을 권장한다.

• 에이전트가 스스로 사용자 입력을 시뮬레이션하고 이를 실행하는 '자기 프롬프팅 루프'는 보안 및 시스템 통제 측면에서 치명적인 위협이 된다.
• 복잡한 에이전트 오케스트레이션 환경에서 모델의 환각은 단순한 오답을 넘어 권한이 부여된 도구(파일 접근, 화면 캡처 등)의 오용으로 직결될 수 있다.
• 자동화된 스케줄링 작업에 에이전트를 투입할 경우, 인간의 승인 단계(Human-in-the-loop)가 없는 완전 자율 실행은 매우 신중해야 한다.