mlld: 안전하고 확장 가능한 LLM 스크립팅 및 오케스트레이션 프레임워크

섹션별 상세

mlld는 데이터의 내용이 아닌 정체성을 추적하는 레이블 전파(Label Propagation) 시스템을 도입했다. 특정 변수에 @patients와 같은 레이블을 지정하면, 해당 데이터가 LLM을 거쳐 요약되거나 base64로 인코딩되는 등 변형이 일어나도 레이블이 유지된다. 이를 통해 보안 정책 엔진은 민감한 레이블이 포함된 데이터가 외부 서버(예: evil.com)로 전송되는 시도를 실시간으로 감지하고 차단한다.

프롬프트 인젝션 방어를 위해 LLM의 판단에 의존하지 않는 런타임 정책 강제 메커니즘을 사용한다. 정책 설정 파일(policy-config.mld)을 통해 허용되는 명령어(git, npm 등)와 금지되는 명령어(sh 등)를 정의할 수 있으며, 자격 증명(Credentials)은 변수 네임스페이스에 직접 노출되지 않도록 키체인 방식으로 관리한다. 이는 에이전트가 탈취되더라도 민감한 API 키나 데이터가 유출되는 것을 방지한다.

대규모 LLM 파이프라인의 안정성을 위해 체크포인트와 재개(Resume) 기능을 지원한다. 수백 번의 API 호출이 필요한 작업 중 특정 지점에서 오류가 발생하더라도, 처음부터 다시 시작할 필요 없이 마지막으로 저장된 체크포인트나 특정 루프 단계에서 작업을 재개할 수 있다. 이는 API 비용 절감과 개발 반복 주기 단축에 직접적인 도움을 준다.

복잡한 작업을 하위 작업으로 분해하는 재귀적 분해(Recursive Decomposition)와 병렬 실행 기능을 제공한다. 수천 개의 파일을 직접 LLM에 입력하는 대신, 파일 트리만 먼저 분석하여 필요한 파일만 선별한 뒤 병렬로 정밀 분석을 수행하는 방식을 취한다. 이를 통해 토큰 사용량을 최소화하면서도 대규모 코드베이스에 대한 보안 감사나 리팩터링 작업을 빠르게 수행할 수 있다.

기술

mlld
Claude API
JavaScript
Shell commands
AST-grep

활용 사례

보안이 강화된 코드 감사 에이전트
민감 정보를 다루는 RAG 시스템
대규모 데이터 병렬 처리 파이프라인
자동화된 일일 업무 보고서 생성

언급된 리소스

GitHubmlld GitHub Repository