censorship-bypass
모델에 설정된 안전 가이드라인이나 금지어 필터링을 특정 기법으로 무력화하는 행위이다. 이번 사례에서는 페르소나 설정이 보안 취약점으로 작용할 수 있음을 보여주었으며 이는 모델 정렬 과정의 허점을 드러내는 지표가 된다.
모델에 설정된 안전 가이드라인이나 금지어 필터링을 특정 기법으로 무력화하는 행위이다. 이번 사례에서는 페르소나 설정이 보안 취약점으로 작용할 수 있음을 보여주었으며 이는 모델 정렬 과정의 허점을 드러내는 지표가 된다.