체인 오브 소트 위조
chain-of-thought forgery는 공격자가 모델의 내부 메모 형식을 흉내 내어 입력에 위조된 중간 추론을 삽입하는 공격 기법이다. 입력으로 위조된 사고 메모를 제공하면 모델은 해당 메모를 스스로 생성한 것으로 해석하여 금지된 지시를 실행할 가능성이 높다. 이 공격은 입력→모델 내부 토큰화→출력으로 이어지는 생성 연쇄를 교란시키는 방식으로 작동한다.
