Prompt Injection/Jailbreak

Prompt Injection과 Jailbreak는 모델의 지시 체계나 안전 제한을 우회해 원래 의도하지 않은 응답을 유도하는 공격 방식입니다. 평가에서는 모델이 이런 공격을 거부하고 안전한 동작을 유지하는지를 별도 범주로 측정했습니다.