VM이나 샌드박스 없이 LLM 에이전트의 코드를 안전하게 실행하는 SafeScript

작성자는 이 방식이 VM 비용을 획기적으로 줄이면서도 보안을 유지할 수 있는 '작지만 극적인 진전'이라고 평가하며 긍정적인 반응을 보였다.

• 에이전트의 도구 실행 비용이 부담된다면 VM 대신 형식 검증이 가능한 제한된 언어 환경 도입을 고려하라.
• LLM의 코드 번역 능력을 활용해 보안성이 검증된 전용 언어로 스크립트를 변환하여 실행하는 파이프라인을 구축하라.

Turing-Complete

— 컴퓨터가 수행할 수 있는 모든 계산을 수행할 수 있는 프로그래밍 언어의 특성입니다. 유연성이 매우 높지만, 프로그램이 멈출지 여부나 보안 취약점 존재 여부를 수학적으로 완벽히 증명하기 어렵다는 단점이 있습니다.

Formal Verification

— 수학적 증명을 통해 소프트웨어나 하드웨어가 설계 의도대로 작동하고 보안 결함이 없음을 확인하는 기법입니다. 런타임 오류나 악성 코드 실행 가능성을 사전에 차단할 수 있어 높은 보안성이 요구되는 시스템에 필수적입니다.

Sandbox

— 외부 코드를 시스템의 다른 부분과 격리된 안전한 영역에서 실행하는 보안 메커니즘입니다. 악성 코드의 시스템 침입을 막아주지만, 실행 시 메모리 점유율이 높고 확장성이 떨어진다는 비용적 한계가 있습니다.