LLM 기반 내부 검색 도구의 안전한 설계: 선언적 레지스트리 패턴

섹션별 상세

LLM이 직접 쿼리 언어를 생성하면 보안 취약점이 발생할 수 있어, 사전에 정의된 필드와 연산자만 허용하는 고정된 어휘 체계를 도입했다.

모든 검색 필드는 ISearchField 인터페이스를 구현하며, 모델 설명, 입력 검증, 1단계 쿼리 생성, 데이터 페칭, 최종 평가라는 5가지 역할을 하나의 정의에서 수행한다.

검색은 2단계로 나뉘어 진행되며, 1단계에서는 인덱싱된 필드를 사용하여 서버에서 대규모 데이터를 1차로 필터링한다.

근거

8~10백만 개의 개인 레코드가 존재하며, 각 레코드는 수백 개의 필드를 포함한다. — Two phases, and a hard limit 섹션
1단계 검색 결과가 2,000건을 초과하면, 시스템은 전체를 로드하지 않고 더 구체적인 검색을 요청한다. — Two phases, and a hard limit 섹션

2단계에서는 1단계에서 걸러진 후보군을 대상으로, 인덱싱되지 않은 복잡한 조건을 메모리에서 최종 평가하여 정확도를 보장한다.

이 설계는 LLM이 정의되지 않은 필드에 접근하는 것을 불가능하게 만들고, 사용자별 권한에 따라 검색 가능한 필드를 제한하여 데이터 보안을 강화한다.