결정론적 에이전트 시스템: 검증 가능하고 재현 가능한 자율 AI 프레임워크

섹션별 상세

결정론적 에이전트 시스템은 실행 시퀀스 제어, 명시적 상태 전이, 자율 동작의 경계 설정을 핵심 목표로 설계되었다. 단순한 데모용 에이전트와 달리, 모든 동작이 추적 가능하고 재현 가능한 검증 워크플로우를 지원하여 엔지니어링 관점의 신뢰성을 우선시한다.

시스템에서 정의하는 결정론은 통제된 입력, 설정, 어댑터 동작 하에서 재현 가능한 결과와 검증 가능한 산출물을 생성하는 것을 의미한다. 외부 시스템의 불확실성을 완전히 제거하는 대신, 이를 감지하고 제약하거나 명시적인 계약 위반으로 처리하여 시스템 내부의 일관성을 유지한다.

실행 모델은 입력 정규화, 결정론적 단계 시퀀싱, 상태 전이 경계 제어, 수렴 및 종료 체크의 단계를 거친다. 모든 실행 기록은 구조화된 추적(Trace) 데이터로 생성되어 운영 검토, 실패 분석, 회귀 테스트 및 재현 검증에 활용된다.

bash

curl -X POST http://127.0.0.1:3000/agent/run ^
 -H "content-type: application/json" ^
 -d "{""goal"":""add 2 3"",""demo"":""core"",""mode"":""mock"",""planner"":""det-tools"",""maxSteps"":8}"

HTTP API를 통해 결정론적 도구 플래너를 실행하는 명령

LLM 통합을 위해 llm-live와 llm-mock 플래너를 지원하며, 특히 llm-live는 캐시 기반의 구체화나 결정론적 스텁을 통해 외부 API 호출 없이도 계획 수립 과정을 테스트할 수 있게 한다. 이는 모델의 가변적인 응답에 관계없이 시스템 로직의 정확성을 검증할 수 있게 돕는다.

bash

$env:DAS_LLM_PLAN_TEXT = '{"planId":"demo-llm-live-stub-v1","version":1,"steps":[{"id":"d","kind":"tool.call","toolId":"math/add","input":{"a":2,"b":3},"outputKey":"sum"},{"id":"b","kind":"set","key":"intent","value":"compute"},{"id":"a","kind":"set","key":"goal","value":"sum 2 3"},{"id":"c","kind":"append_log","value":"llm-live:planned"},{"id":"e","kind":"append_log","value":"done"}]}'
npm run demo:agent:llm-live:real

LLM 호출 없이 결정론적 스텁(Stub)을 사용하여 에이전트 실행을 테스트하는 환경 변수 설정 예시

자율 시스템의 안전성을 위해 maxSteps 설정과 상태 고정점(Fixpoint) 체크를 통한 수렴 제어 로직을 포함한다. 에이전트가 무한 루프에 빠지는 것을 방지하고, 실행 비용을 예측 가능하게 만들며, 수렴하지 않는 경우 구조화된 실패 결과를 반환하여 운영 신뢰도를 높인다.

용어 해설

결정론(Determinism): — 동일한 입력과 조건 하에서 시스템이 항상 동일한 결과와 상태 전이를 생성하는 성질이다. AI 에이전트 시스템에서는 비결정론적인 LLM 출력을 제어하고 실행 과정을 재현 가능하게 만들어 신뢰성을 확보하는 핵심 원칙으로 작용한다.
정규화/표준화(Canonicalization): — 데이터나 요청을 단일한 표준 형식으로 변환하는 과정이다. 이 시스템에서는 에이전트의 계획(Plan)을 정규화하여 실행 전 해시 값을 생성함으로써, 논리적으로 동일한 작업이 항상 동일한 식별자를 갖도록 보장한다.
고정점 체크(Fixpoint Check): — 반복적인 연산 과정에서 시스템의 상태가 더 이상 변하지 않는 지점을 찾아내는 기법이다. 자율 에이전트의 루프 실행 시 상태 변화가 멈췄음을 감지하여 무한 루프를 방지하고 실행을 안전하게 종료하는 데 사용된다.
추적성(Traceability): — 시스템의 실행 경로, 결정 근거, 상태 변화를 단계별로 기록하여 사후에 검증할 수 있는 능력이다. 에이전트가 왜 특정 행동을 했는지 파악하고 오류 발생 시 원인을 정확히 규명하기 위한 필수적인 설계 요소이다.
어댑터 패턴(Adapter Pattern): — 서로 다른 인터페이스를 가진 클래스들을 함께 동작할 수 있도록 중간에서 변환해주는 설계 패턴이다. 이 프로젝트에서는 외부 LLM API나 도구들을 시스템 내부의 결정론적 계약(Contract)에 맞게 격리하고 표준화하는 역할을 한다.

기술

TypeScript
Node.js
OpenAI API
PowerShell
HTTP API

활용 사례

감사 가능한 기업용 AI 자동화 워크플로우
재현 가능한 AI 연구 및 실험 환경
안전한 도구 사용(Tool Use) 에이전트 제어
복잡한 상태 전이가 포함된 자율 코딩 에이전트

언급된 리소스

GitHubDeterministic Agent System Repository