에이전트 비용 관리 및 보안을 위한 로컬 라이브러리 'AgentArmor'

섹션별 상세

에이전트가 무한 루프에 빠져 의도치 않은 비용이 발생하는 문제를 해결하기 위해 로컬 환경에서 작동하는 라이브러리 AgentArmor를 개발했다.

python

import agentarmor
agentarmor.init(budget="$5.00", filter=["pii", "secrets"], record=True)

# your existing code, no changes
client = openai.OpenAI()
response = client.chat.completions.create(model="gpt-4o", messages=[...])

AgentArmor를 초기화하고 기존 OpenAI 클라이언트 코드에 적용하는 예시

기존 SDK를 인프로세스(in-process) 방식으로 패치하여 LangChain, LlamaIndex 등 다양한 프레임워크와 호환되며, 프록시 서버를 거치지 않아 네트워크 오버헤드가 없다.

주요 기능으로 실시간 비용 추적을 통한 하드 예산 제한(circuit breaker), 민감 정보 마스킹(redaction), 모든 호출 기록(flight recorder), 도구 호출 화이트리스트 관리를 제공한다.

프롬프트 인젝션 탐지 등 휴리스틱 기반 보안 기능도 포함했으나, 이는 우회 가능하므로 결정론적(deterministic) 기능인 예산 제한과 데이터 마스킹을 주된 보호 수단으로 권장한다.

용어 해설

서킷 브레이커(Circuit Breaker): — 시스템 장애나 과도한 비용 발생 시 특정 기능을 즉시 중단시키는 안전장치이다. 본문에서는 에이전트가 설정된 예산을 초과할 경우 API 호출을 즉시 차단하여 추가 비용 발생을 방지하는 용도로 사용된다.
인프로세스 패칭(In-process Patching): — 프로그램 실행 중 동일한 메모리 공간 내에서 코드의 동작을 수정하는 기술이다. 외부 프록시 서버를 거치지 않고 SDK 수준에서 직접 기능을 가로채어 보안 및 로깅 기능을 추가할 때 사용된다.
프롬프트 인젝션(Prompt Injection): — 사용자가 악의적인 입력을 통해 모델의 시스템 프롬프트를 무력화하거나 의도하지 않은 동작을 수행하게 만드는 공격 기법이다. 본문에서는 휴리스틱 기반 탐지로 대응하지만 우회 가능성이 있음을 명시한다.

언급된 도구

AgentArmor추천

에이전트 비용 제한 및 보안 관리

LiteLLM중립

LLM 추론 프록시 및 SDK

LangChain중립

LLM 프레임워크

LlamaIndex중립

데이터 프레임워크

언급된 리소스

GitHubAgentArmor GitHub Repository