SIGIL: 오픈소스 LLM 프롬프트 보안 및 거버넌스 계층

섹션별 상세

The Seal은 Ed25519 암호화 서명을 사용하여 프롬프트의 무결성을 검증하며, 변조 시 런타임에서 즉시 실행을 중단한다.

python

architect = Architect()
seal = architect.seal(
    node_id="banking_bot",
    instruction="You are a secure banking assistant...",
    expires_in_days=30,
    allowed_tools=["check_balance", "transfer_small"]
)

Architect 클래스를 사용하여 프롬프트에 대한 암호화 서명(Seal)을 생성하는 코드

근거

SIGIL은 외부 서버 의존 없이 로컬 환경에서 암호화 기반 보안을 제공한다. — Why SIGIL? 섹션의 Feature 비교표

The Vow는 파이썬 데코레이터를 통해 런타임 데이터 거버넌스를 강제하며, 민감 정보에 대한 마스킹이나 접근 제어를 수행한다.

python

@vow(classification=Classification.RESTRICTED, action=GovernanceAction.REDACT)
def get_user_email(user_id: str) -> str:
    return db.query(f"SELECT email FROM users WHERE id='{user_id}'")

파이썬 데코레이터를 사용하여 런타임 데이터 거버넌스를 적용하고 민감 정보를 마스킹하는 예시

The Pause는 파일 잠금과 암호화 서명을 결합하여 대규모 작업 수행 전 인간의 승인을 요구하는 Human-in-the-Loop 프로세스를 구현한다.

python

gate = HumanGate()
gate.request_approval(
    action="large_transfer",
    context={"amount": 50000, "to": "external_account"}
)

HumanGate를 통해 특정 작업 실행 전 인간의 승인을 요청하는 프로세스

입력 정규화 기능은 Base64, ROT13, Hex 등 난독화된 공격 패턴을 LLM이 처리하기 전에 디코딩하여 프롬프트 인젝션 시도를 차단한다.

근거

입력 정규화는 Base64, ROT13, Hex 등 난독화된 공격을 LLM 처리 전 디코딩한다. — Input Normalization 섹션

모든 시스템 활동은 Merkle 체인으로 연결된 로컬 감사 로그에 기록되어, 데이터 변조 여부를 수학적으로 증명할 수 있다.

용어 해설

Ed25519: — 고속 디지털 서명 알고리즘으로, 높은 보안성과 성능을 제공하는 공개 키 암호화 방식이다. SIGIL에서는 프롬프트의 무결성을 보장하고 변조를 방지하는 서명 생성에 사용된다.
머클 체인(Merkle Chain): — 각 데이터 블록을 해시값으로 연결하여 데이터의 무결성을 수학적으로 증명하는 구조이다. SIGIL은 이를 통해 감사 로그가 중간에 수정되지 않았음을 보장한다.
프롬프트 인젝션(Prompt Injection): — 사용자가 악의적인 입력을 통해 LLM의 시스템 프롬프트를 우회하거나 의도하지 않은 동작을 수행하게 만드는 공격 기법이다. SIGIL은 입력 정규화와 격리를 통해 이를 방어한다.
인간 개입(Human-in-the-Loop): — AI 시스템의 의사결정 과정에 인간이 직접 개입하여 승인하거나 검토하는 프로세스이다. SIGIL은 이를 통해 민감한 작업 실행 전 인간의 서명을 요구한다.

기술

Python
Ed25519
Merkle Chain

활용 사례

LLM 프롬프트 무결성 검증
민감 데이터 거버넌스
Human-in-the-Loop 승인 프로세스

언급된 리소스

GitHubSIGIL GitHub Repository

SIGIL: 오픈소스 LLM 프롬프트 보안 및 거버넌스 계층

섹션별 상세

용어 해설

기술

활용 사례

언급된 리소스

관련 토론

댓글

관련 피드

관련 토론

댓글

관련 피드