ÆTHERYA: AI 에이전트를 위한 결정론적 윤리적 의사결정 코어

섹션별 상세

ÆTHERYA는 LLM의 도구 호출과 실제 실행 사이에 '결정론적 의사결정 경계'를 구축하여 에이전트 런타임의 불확실성을 제거한다. 기존 시스템이 LLM의 판단에 의존하여 도구를 실행하는 것과 달리, 명시적인 정책 게이트와 헌법적 제약을 통해 행동의 허용 여부를 최종 결정한다.

bash

aetherya decide "mode:operative tool:shell target:host-1 param.command=echo_ok run diagnostics" --actor robert --json

CLI를 통해 특정 쉘 명령 실행의 안전성을 정책 엔진에서 평가하는 예시

시스템 아키텍처는 파서, 속도 제한기, 가드 체인(실행, 기능, 탈옥, 절차 가드), 헌법 평가, 위험 집계기 등으로 구성된다. 모든 과정은 결정론적 순서로 실행되며, 내부 오류 발생 시 'Fail-Closed' 원칙에 따라 행동을 즉시 차단하여 안전을 우선시한다.

헌법 평가(Constitution) 모듈은 하이브리드 2계층 구조를 채택하여 효율성과 정확성을 동시에 확보한다. 1계층은 키워드 매칭을 통해 10ms 이내에 신속히 판단하며, 2계층은 모호한 입력에 대해 sentence-transformers 모델을 이용한 의미론적 평가를 수행한다.

강력한 감사(Audit) 및 설명 가능성(Explainability) 엔진을 통해 모든 의사결정 과정을 투명하게 기록한다. 각 결정은 고유 ID와 컨텍스트 해시를 포함한 감사 로그로 남으며, 결정 이유를 그래프 형태로 시각화하거나 HTML 보고서로 출력하여 사후 분석에 활용할 수 있다.

보안 및 품질 보증을 위해 CI/CD 파이프라인에서 엄격한 SLO(Service Level Objective)를 강제한다. 일반 작업은 10ms, 의미론적 평가는 150ms 이내의 p95 지연 시간을 유지해야 하며, 탈옥 공격 및 감사 데이터 변조에 대한 회귀 테스트를 지속적으로 수행한다.

OpenAI와 같은 외부 LLM을 'Shadow Mode'로 통합하여 정책 엔진의 결정과 LLM의 제안 사이의 윤리적 괴리를 추적할 수 있다. 이때 LLM은 참고용 텔레메트리 데이터만 제공할 뿐, ÆTHERYA의 결정론적 코어가 가진 최종 승인 권한을 침해하지 않는다.

python

from pathlib import Path
from aetherya.api import APISettings, AetheryaAPI

api = AetheryaAPI(
    APISettings(
        policy_path=Path("config/policy.yaml"),
        audit_path=Path("audit/decisions.jsonl"),
        default_actor="robert",
    )
)

status, payload = api.decide(
    {
        "raw_input": "mode:operative tool:filesystem target:/tmp param.path=/tmp/demo.txt param.operation=write",
        "actor": "robert",
        "wait_shadow": False,
    }
)

decision = payload.get("decision", {})
if status == 200 and decision.get("allowed"):
    # Execute your tool here
    pass

Python API를 사용하여 에이전트의 행동을 결정론적으로 평가하고 실행 여부를 판단하는 예시

용어 해설

결정론적(Deterministic): — 동일한 입력에 대해 항상 동일한 결과를 보장하는 시스템 특성이다. AI 에이전트의 예측 불가능한 행동을 제어하고 디버깅 및 감사를 가능하게 하는 핵심 요소이다.
페일 클로즈(Fail-Closed): — 시스템 오류나 예외 상황 발생 시 기본적으로 모든 권한을 차단하는 보안 설계 방식이다. ÆTHERYA에서는 정책 엔진 내부의 어떤 단계에서든 문제가 생기면 행동 실행을 즉시 거부하여 안전을 보장한다.
감사 체인(Audit Chain): — 의사결정 이력을 해시값으로 연결하여 기록의 조작 여부를 검증할 수 있게 하는 구조이다. 에이전트의 과거 행동에 대한 무결성을 보장하고 사후 감사 시 신뢰할 수 있는 증거를 제공한다.
의미론적 평가(Semantic Evaluation): — 단순 키워드 매칭을 넘어 문맥과 의미의 유사성을 바탕으로 텍스트를 분석하는 기법이다. 임베딩 모델을 사용하여 정책 위반 여부를 더 정교하게 판단한다.
탈옥 가드(Jailbreak Guard): — LLM의 안전 가이드라인을 우회하려는 악의적인 프롬프트 공격을 탐지하고 차단하는 장치이다. 유니코드 정규화 및 다국어 지원을 통해 에이전트의 오작동을 방지한다.

기술

Python
sentence-transformers
Redis
OpenAI API
MyPy
Pytest

활용 사례

AI 에이전트 도구 실행 제어
금융/의료 등 민감 도메인 AI 가드레일
자동화된 감사 보고서 생성

언급된 리소스

GitHubÆTHERYA GitHub Repository