Totem — 로컬 LLM 변조(모델 교체, 스티어링 공격, 가드레일 제거) 감지 오픈소스 프록시

로컬 LLM 보안에 대한 새로운 접근 방식에 대해 긍정적인 반응을 얻고 있으며, 특히 성능 저하 없는 감지 메커니즘에 대한 관심이 높다.

• 로컬 LLM을 서비스에 연동할 때 Totem 프록시를 앞단에 두어 모델 스왑이나 공격을 실시간으로 감시할 수 있다.
• 제공된 run_experiment.sh 스크립트를 통해 실제 스티어링 공격 시 감지 성능을 직접 테스트해볼 수 있다.

스티어링 공격(Steering Attack)

— 모델의 활성화 함수나 내부 가중치에 훅을 걸어 모델의 출력을 특정 방향으로 강제 유도하는 공격 기법이다. 가드레일을 무력화하거나 모델의 원래 성향을 왜곡하는 데 사용되며, Totem은 이러한 비정상적인 행동 변화를 감지하여 차단한다.

서킷 브레이커(Circuit Breaker)

— 시스템의 이상 징후가 발견될 때 추가적인 피해를 막기 위해 즉시 연결을 차단하는 안전 장치이다. 이 도구에서는 모델 변조가 확인될 경우 503 오류를 반환하여 오염된 답변이 사용자에게 전달되지 않도록 보호한다.

Ed25519

— 높은 보안성과 빠른 속도를 제공하는 타원 곡선 디지털 서명 알고리즘이다. 모델의 정상 상태를 나타내는 매니페스트를 암호학적으로 서명하여 저장함으로써, 나중에 대조할 때 기준 데이터 자체가 변조되지 않았음을 보장한다.

투명 프록시(Transparent Proxy)

— 클라이언트와 서버 사이에서 별도의 설정 변경 없이 트래픽을 중계하며 부가 기능을 수행하는 서버이다. Totem은 앱과 LLM 백엔드 사이에서 동작하며 모든 요청을 투명하게 전달하는 동시에 보안 검사를 병행한다.