PsychoPass: 다중 턴 LLM 대화의 기하학적 프로파일링

다중 턴 대화의 공격은 기존 가드레일이 다루지 못하는 대화의 흐름 자체에서 나타난다. PsychoPass 프레임워크는 대화를 임베딩 공간의 경로로 모델링하고, 입력에서 처리, 출력으로 이어지는 궤도를 따라 공격 의도가 드러나는지를 판단한다. 실험에서 간단한 분류기가 거의 완벽한 성능을 보였고, 이는 수많은 턴 수가 예측에 크게 기여하는 혼동 요인 때문임이 지적된다. 그러나 턴 수를 제거하면 남는 기하학적 신호가 여전히 존재하며, 인코더에 따른 성능 편차도 크지 않아 다양한 모델 설정에서도 재현 가능성이 있다. 이 신호는 프리픽스 길이에도 조기 나타나므로 온라인 모니터링에 적용 가능성이 크고, 길이와 모양의 분해를 기반으로 한 이론적 분석은 안전 시스템 설계에 새로운 관점을 제시한다. 다만 수치적 한계는 초기 실험에 의존하므로 실제 운영 환경에서의 일반화와 지속적 검증이 필요하다.