AI 에이전트의 안전한 코드 실행을 위한 프로그래밍 언어 'safescript' 공개

실용적 조언

에이전트가 외부 API를 호출하거나 민감한 데이터에 접근하는 코드를 생성해야 할 때 safescript를 사용하여 권한을 제한할 수 있다.
TypeScript/Python 트랜스파일러를 활용하여 safescript로 작성된 로직이 의도대로 작동하는지 기존 개발 환경에서 먼저 검토할 수 있다.

섹션별 상세

에이전트 코드 실행의 보안 딜레마와 safescript의 정적 분석 접근 방식이 제시됐다. 기존 방식은 느린 샌드박스를 사용하거나 위험을 감수하고 신뢰하는 두 가지 선택지만 존재했다. safescript는 프로그램을 정적 DAG(Directed Acyclic Graph)로 컴파일하여 실행 전 어떤 비밀 정보를 읽고 어떤 호스트와 통신하는지 완전한 시그니처를 생성한다. 이를 통해 실제 코드를 실행하지 않고도 정책 위반 여부를 즉시 확인할 수 있다.

공급망 공격을 방어하기 위한 종속성 관리 시스템이 도입됐다. 외부 라이브러리를 사용할 때 해당 종속성이 접근 가능한 호스트와 데이터 흐름을 명시적으로 선언하고 콘텐츠 해시로 고정한다. 빌드 과정에서 종속성의 내용이 변경되거나 선언된 권한을 벗어나는 동작이 감지되면 즉시 실패하도록 설계됐다. 이는 에이전트가 외부 코드를 가져와 실행할 때 발생할 수 있는 보안 허점을 원천적으로 차단한다.

성능 최적화를 통해 애플리케이션 프로세스 내 직접 실행이 가능해졌다. Docker나 Firecracker 같은 무거운 가상화 환경이 필요 없으므로 실행 오버헤드가 1밀리초 미만으로 억제된다. 에이전트가 코드를 작성하면 정책에 따라 시그니처를 검증한 후 즉시 실행할 수 있어 실시간 응답이 중요한 에이전트 스킬 구현에 유리하다. 현재의 단순 프롬프트 템플릿 기반 스킬을 실제 실행 가능한 안전한 로직으로 대체하는 기반이 된다.

용어 해설

방향성 비순환 그래프(DAG): — 방향은 있지만 순환 경로는 없는 그래프 구조이다. safescript에서는 프로그램의 모든 실행 경로와 데이터 흐름을 정적으로 분석하여 컴파일 단계에서 안전성을 검증하는 기반으로 활용된다.
샌드박스(Sandbox): — 외부 시스템에 영향을 주지 않도록 격리된 실행 환경이다. 에이전트가 생성한 코드를 안전하게 실행하기 위해 주로 사용되나, Docker나 가상 머신 기반의 샌드박스는 실행 속도가 느리고 리소스 소모가 크다는 단점이 있다.
정적 분석(Static Analysis): — 프로그램을 실제로 실행하지 않고 소스 코드나 컴파일된 구조를 분석하여 오류나 보안 취약점을 찾아내는 기법이다. safescript는 이를 통해 실행 전 데이터 흐름과 네트워크 접근 권한을 미리 파악한다.
공급망 공격(Supply Chain Attack): — 소프트웨어의 종속성 라이브러리나 배포 과정을 해킹하여 악성 코드를 삽입하는 공격 방식이다. safescript는 콘텐츠 해시와 명시적 권한 선언을 통해 외부 라이브러리의 무단 동작을 방지한다.
트랜스파일러(Transpiler): — 한 프로그래밍 언어로 작성된 코드를 비슷한 수준의 다른 언어로 변환하는 도구이다. safescript는 TypeScript와 Python으로의 변환을 지원하여 개발자가 익숙한 언어로 코드의 실제 동작을 검토할 수 있게 돕는다.

언급된 도구

safescript추천

에이전트용 안전한 프로그래밍 언어

Docker중립

기존 코드 격리 및 실행 환경

Firecracker중립

마이크로 VM 기반 서버리스 실행 환경

언급된 리소스

Demosafescript Website

GitHubsafescript GitHub