Jailbreaking

교묘하게 설계된 프롬프트를 통해 AI 모델에 설정된 안전 가이드라인이나 제약 사항을 우회하여 금지된 정보를 출력하게 만드는 공격 기법입니다.