멀티 에이전트 시스템을 위한 4,500행 규모의 보안 아키텍처 명세서 공유 및 피드백 요청

작성자가 매우 구체적인 명세서를 공유하며 비판적 검토를 요청했기에, 기술적 타당성과 실현 가능성에 대한 심도 있는 논의가 예상된다.

• AI 에이전트 설계 시 LLM의 판단에만 의존하지 말고, 외부 API 호출을 검증하는 별도의 결정론적 보안 계층을 구축해야 한다.
• 에이전트에게 부여하는 권한은 시간과 범위를 제한한 토큰 방식을 사용하여 오작동 시의 피해를 최소화해야 한다.

• AI 에이전트 보안을 LLM의 판단에 맡기지 않고 운영체제 수준의 결정론적 보안 계층으로 강제해야 한다.
• 모든 외부 API 호출과 코드 실행은 단일한 커밋 레이어를 통해서만 이루어지도록 설계하여 통제력을 확보해야 한다.
• 최소 권한 원칙을 적용한 시간 제한형 기능 토큰을 통해 에이전트의 권한 남용 가능성을 차단해야 한다.
• 시스템의 중요도에 따라 보안 프로필을 차등화하고 다단계 격리 시스템을 통해 오작동하는 에이전트를 관리해야 한다.