inoculation-prompting
접종형 프롬프트
접종형 프롬프트는 에이전트에게 특정 유해 입력에 대한 방어적 응답 패턴을 학습시키는 기법이다. 공격 유형을 예시로 주고 안전한 대응 시나리오를 반복해 내부 정책을 고정화한다. 유사 공격 반복 시 취약성 확산을 줄이는 용도로 쓰인다.
접종형 프롬프트
접종형 프롬프트는 에이전트에게 특정 유해 입력에 대한 방어적 응답 패턴을 학습시키는 기법이다. 공격 유형을 예시로 주고 안전한 대응 시나리오를 반복해 내부 정책을 고정화한다. 유사 공격 반복 시 취약성 확산을 줄이는 용도로 쓰인다.