Abstraction Paradox

정보를 보호하기 위해 추상화하라는 지침이 오히려 에이전트로 하여금 해당 정보를 더 많이 언급하게 만드는 현상이다. 보안 지침이 에이전트의 주의를 민감한 데이터에 집중시켜 결과적으로 유출 가능성을 높이는 부작용을 낳는다. 이는 프롬프트 엔지니어링만으로는 해결하기 어려운 LLM의 특성을 보여준다.