Fisher 정보 매니폴드 이론을 활용한 LLM 행동 드리프트 및 인젝션 모니터링 프록시 Arc Gate

기술적 접근 방식에 대한 관심과 함께, 외부 벤치마크 결과에 대한 투명한 공개를 긍정적으로 평가하는 분위기이다.

• LLM 보안 프록시 도입 시 개별 요청 검사뿐만 아니라 세션 단위의 상태 추적 기능을 고려해야 한다.
• 보안 모델의 성능 측정 시 범용 데이터셋뿐만 아니라 실제 배포 환경의 트래픽을 기준으로 보정 작업을 수행해야 한다.

• LLM 프록시를 통해 API 호출 URL 변경만으로 실시간 행동 모니터링과 인젝션 차단 기능을 구현할 수 있다.
• Fisher 정보 매니폴드 이론을 활용하면 텍스트 내용이 정상적으로 보여도 모델의 기하학적 불안정성을 통해 행동 드리프트를 조기에 감지할 수 있다.
• 개별 프롬프트 검사보다 세션 전체의 상태 변화를 추적하는 방식이 Crescendo와 같은 다단계 조작 공격 방어에 더 효과적이다.