Secra의 3계층 프롬프트 주입 탐지 엔진 아키텍처 분석

작성자가 공유한 3계층 아키텍처의 효율성과 실무적인 수치(지연 시간, 탐지율)에 대해 긍정적인 반응이 예상되며, 특히 LLM 비용 절감 전략에 대한 관심이 높다.

• 프롬프트 보안 시스템 구축 시 Aho-Corasick 알고리즘을 활용하여 알려진 공격 패턴을 1ms 이내에 먼저 필터링하라.
• LLM 판단은 신뢰도가 낮은 특정 구간(예: 0.25-0.75)의 요청에만 한정하여 사용하여 비용과 지연 시간을 관리하라.

• 결정론적 패턴 매칭(Aho-Corasick)과 확률적 LLM 판단을 계층화하여 보안 탐지의 속도와 정확도를 동시에 확보했다.
• 전체 요청의 7%에만 LLM을 적용하는 조건부 에스컬레이션 전략으로 중앙값 지연 시간을 12ms 수준으로 억제했다.
• Groq 하드웨어와 Llama 3 8B 모델을 조합하여 모호한 구간의 공격 의도를 400ms 이내에 정밀하게 분석한다.