프록시 계층을 통한 LLM 에이전트 규칙 강제화 프로젝트 Caliber

프로젝트의 접근 방식에 대해 긍정적인 관심이 높으며, 특히 추상화 계층의 적절성과 타 접근 방식 대비 트레이드오프에 대한 기술적 논의가 진행 중이다.

• 에이전트의 규칙 준수율이 낮다면 시스템 프롬프트를 수정하는 대신 API 호출 전후를 검사하는 미들웨어나 프록시 도입을 고려하라.

• 에이전트가 복잡한 워크플로에서 시스템 지침을 무시하는 현상을 방지하기 위해 프록시 계층에서의 규칙 강제가 효과적인 대안이 될 수 있다.
• 마크다운 기반의 규칙 설정을 통해 코드 수정 없이도 에이전트의 행동 제약 조건을 유연하게 관리하고 배포할 수 있다.
• 특정 프레임워크나 모델 API에 종속되지 않는 프록시 구조를 통해 다양한 에이전트 아키텍처에 일관된 거버넌스를 적용 가능하다.