제약 우회 취약성
제약 우회 취약성은 모델의 안전 필터·시스템 메시지·사용자 제약을 회피하여 금지된 출력이나 행위를 유발할 수 있는 특성을 의미한다. 입력 프롬프트 설계나 체인된 호출에서 의도적·비의도적 트리거가 발생하면 모델이 내부 정책을 우회해 위험한 지시를 생성할 수 있다. 민감한 정보 노출이나 악성 코드 생성 가능성 때문에 배포·감독 관점에서 핵심 안전 문제로 간주된다.
