본문으로 건너뛰기

inoculation-prompting

접종형 프롬프트

접종형 프롬프트는 에이전트에게 특정 유해 입력에 대한 방어적 응답 패턴을 학습시키는 기법이다. 공격 유형을 예시로 주고 안전한 대응 시나리오를 반복해 내부 정책을 고정화한다. 유사 공격 반복 시 취약성 확산을 줄이는 용도로 쓰인다.