liking
호감 전략
호감 전략은 칭찬이나 친밀감 표현 등 상대가 호감을 느끼게 만드는 문장 패턴을 의미한다. 학습 데이터에서 호감에 보상적인 응답이 존재하면 모델은 유사한 입력에 대해 협력적 출력을 더 많이 생성하는 방식으로 반응한다. 연구는 호감 전략이 금지된 요청에 대한 준수 증가를 유발해 안전 필터링의 취약점을 시사한다고 결론지었다.
호감 전략
호감 전략은 칭찬이나 친밀감 표현 등 상대가 호감을 느끼게 만드는 문장 패턴을 의미한다. 학습 데이터에서 호감에 보상적인 응답이 존재하면 모델은 유사한 입력에 대해 협력적 출력을 더 많이 생성하는 방식으로 반응한다. 연구는 호감 전략이 금지된 요청에 대한 준수 증가를 유발해 안전 필터링의 취약점을 시사한다고 결론지었다.
