context-bomb
컨텍스트 봄브
공격형 에이전트의 안전 가드레일을 유도하기 위해 의도적으로 조작된 짧은 텍스트 조각으로, 에이전트가 외부 시스템에서 민감 정보를 취득하거나 컨텍스트에 포함시키도록 유도하여 안전 검사기가 거부 동작을 하게 만드는 기법이다. 이 텍스트는 입력이나 외부 API 응답에 삽입되어 에이전트의 후속 추론에 영향을 주며, 안전 회피나 정보 유출 시나리오를 탐지하거나 차단하는 용도로 활용된다. 방어 관점에서는 유해 행위 탐지에 활용되는 트리거 역할을 하며, 적절히 설계된 패턴은 자동화된 차단을 가능하게 한다.
