Structured-Format Jailbreak
구조화 형식 Jailbreak
JSON, XML, INI 같은 정책 파일이나 기술 문서 형태로 공격 요청을 꾸며 모델이 유해한 의도보다 형식과 문법 준수에 집중하게 만드는 기법입니다. 복잡한 스키마와 역할 지시가 결합되면 모델이 내용의 위험성을 놓치고 구조에 맞는 출력을 계속 생성할 수 있습니다. 본문은 여러 기존 기법을 이런 형식과 결합할 때 안전 분류기를 우회할 가능성을 지적합니다.
구조화 형식 Jailbreak
JSON, XML, INI 같은 정책 파일이나 기술 문서 형태로 공격 요청을 꾸며 모델이 유해한 의도보다 형식과 문법 준수에 집중하게 만드는 기법입니다. 복잡한 스키마와 역할 지시가 결합되면 모델이 내용의 위험성을 놓치고 구조에 맞는 출력을 계속 생성할 수 있습니다. 본문은 여러 기존 기법을 이런 형식과 결합할 때 안전 분류기를 우회할 가능성을 지적합니다.
