Agentforce의 Agent Graph와 Agent Script로 구현한 guided determinism

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

엔터프라이즈 워크플로는 LLM의 그럴싸한 언어 해석과는 다른 결정적 보증을 필요로 하며, Salesforce는 Agentforce에서 이 간극을 guided determinism이라는 설계 패러다임으로 메우려 했다. 핵심 메커니즘은 모델의 자유로운 텍스트 출력을 그대로 실행하지 않고 Agent Graph가 단계별로 서브에이전트를 호출하며 Agent Script로 검사·분기 규칙을 실행하고 fine-tuned 라우팅 모델이 처리 경로를 선택하는 것이다. 이 구조는 프롬프트에 의존한 'doom-prompting'의 무한 튜닝 루프와 하드코딩된 결정 트리의 취약성을 동시에 회피해 규정 준수와 재현성을 확보한다. 그 결과 신원 확인·환불 승인 같은 민감한 엔터프라이즈 작업에서 모델의 유연성과 시스템의 통제성을 함께 제공할 수 있다.

섹션별 상세

엔터프라이즈 워크플로는 LLM의 언어적 타당성 판단과 규정 준수·금전적 책임이 교차하는 지점에서 취약해진다는 문제가 제시되었다. 구체적 사례로 테스트 중인 환불 에이전트가 'my very valid and very verified email'이라는 문구를 신원 증명의 근거로 수용하면서 실제 환불을 준비한 로그가 보고되었다. 이 현상은 LLM이 그럴싸한 언어를 생성하고 해석하는 데 특화된 반면, 규칙 기반의 결정적 검증을 수행하지는 못함을 드러냈다. 따라서 신원 확인·환불 승인 같은 작업에서는 모델의 언어적 추론을 그 자체로 실행 근거로 삼으면 법적·재무적 위험이 발생한다.

근거

테스트 중인 환불 에이전트가 'my very valid and very verified email'이라는 문구를 신원 증명의 근거로 수용하고 환불을 준비했다. — 본문 첫 문단의 red-teaming 사례 서술

프롬프트 엔지니어링은 소비자용 응용에서 유효했으나 엔터프라이즈 실행 요구에는 한계가 분명하다고 기술되었다. 프롬프트에 규칙과 예외를 반복해서 추가하는 방식은 'doom-prompting'이라는 끝없는 튜닝 루프를 불러옴으로써 일관성을 보장하지 못했다. 반대로 결정 트리를 하드코딩하면 고객 표현의 다양성에 취약해 예기치 못한 입력에서 실패가 발생한다는 문제가 확인되었다. 이로 인해 순수한 유연성은 목표 이탈과 감사 불가를, 순수한 경직성은 부서진 사용자 경험과 처리 실패를 초래한다는 결론이 도출되었다.

근거

프롬프트에 규칙과 예외를 계속 추가하는 방식은 'doom-prompting'이라는 끝없는 튜닝 루프에 빠져 일관성을 보장하지 못한다. — 두 번째 섹션에서 프롬프트 엔지니어링의 한계와 doom-prompting 언급

요구사항을 충족하기 위해 시스템 설계 관점에서 요청-응답 모델을 넘어 런타임 오케스트레이션으로의 전환이 필요하다고 주장되었다. 엔터프라이즈 시스템은 단일 모델 호출을 얇게 감싼 구조가 아니라 여러 구성요소가 협업하는 런타임을 갖춰야 하며, 이 런타임은 모델의 출력에 대해 검증·분기·실행의 책임을 분리해 처리해야 한다. Agentforce 설계에서는 모델이 생성한 언어적 추론을 서브시스템에서 검사하고 결정적 행위를 실행하도록 구성함으로써 이 요구를 충족시켰다. 이 방식은 작업 조정과 감사 추적을 제공해 운영 리스크를 낮추는 효과를 보였다.

Agentforce에서는 guided determinism을 구현하기 위한 핵심 구성요소로 Agent Graph 오케스트레이션, Agent Script 언어, 전문화된 서브에이전트, 그리고 미세조정된 라우팅 모델을 결합했고 이들 구성은 Hyperforce 인프라에서 글로벌하게 운영되었다고 명시되었다. Agent Graph는 각 처리 단계와 의사결정 지점을 연결해 데이터 흐름과 검사 지점을 명확히 하고, Agent Script는 실행 가능한 검사·분기 규칙을 기술해 모델 출력의 검증과 재현을 가능하게 했다. 서브에이전트는 신원 확인·권한 부여 등 특화된 검사와 외부 시스템 호출을 담당하고 라우팅 모델은 요청을 적합한 서브에이전트로 배분해 전체 워크플로의 신뢰성을 높였다. 이 조합은 모델의 에이전시와 시스템의 통제성 사이 균형을 유지해 규정 준수와 운영 안전성을 확보하는 핵심 메커니즘으로 작동했다.

근거

Agentforce는 Agent Graph, Agent Script, 전문화된 서브에이전트, 미세조정된 라우팅 모델을 결합하고 Hyperforce 인프라에서 운영함으로써 guided determinism을 구현했다. — 세 번째 단락에서 구성요소들과 guided determinism 명시

용어 해설

Guided Determinism: — LLM의 확률적 언어 생성 능력과 엔터프라이즈 워크플로의 결정적 요구를 조화시키는 접근법으로서, 모델의 유연성은 유지하되 외부 오케스트레이션·제어 계층으로 결정적 검증과 실행을 보장하는 방식이다. 입력을 LLM에 맡겨 해석하고, 결정적 서브시스템과 라우팅 모델이 결과를 검증·실행으로 연결함으로써 신뢰성을 확보한다. 이 방식은 신원 확인·환불 승인 같은 금전·규정 관련 작업에서 허위 수용을 방지하는 데 중요하다.
Agent Graph: — 작업 단위를 담당하는 여러 서브에이전트와 제어 로직을 그래프 형태로 조합해 런타임에서 단계적 오케스트레이션을 수행하는 구조다. 각 노드는 특정 검사·행동·외부 호출을 담당하고 에지가 데이터·결정 흐름을 전달해 전체 워크플로의 조정성을 제공한다. 모델의 출력은 그래프의 결정 노드에서 검증·전환되어 확률적 응답을 결정적 실행으로 연결한다.
Agent Script: — 에이전트 그래프 상에서 의사결정·검사·분기 규칙을 기술하는 도메인 특화 언어로서, 모델의 자유로운 텍스트 출력과는 별도로 실행 가능한 검사·조건·명령을 표준화한다. 런타임에서 스크립트는 서브에이전트 호출과 검증 로직을 기술해 감사 로그와 재현성을 제공한다. 이 언어는 프롬프트만으로는 보장할 수 없는 일관성과 규정 준수를 달성하는 핵심 수단이다.
Routing Model: — 입력·문맥·중간 판정 결과에 따라 적절한 서브에이전트나 검사 경로를 선택하는 학습된 분류/정책 모델로서, 단일 LLM 출력을 직접 실행하지 않고 최적의 처리 루트를 결정한다. 라우팅 모델은 미세조정된 분류기로 동작하거나 메타결정 로직을 포함해 각 요청을 적합한 서브시스템에 연결한다. 이로써 시스템 전체의 신뢰성과 효율성을 개선한다.
Hyperforce: — 글로벌 분산 인프라로서 에이전트 런타임과 데이터 레지던시·지연 요구를 충족시키기 위해 위치별로 서비스 인스턴스를 운영하는 플랫폼이다. 에이전트 간 라우팅, 지역별 규정 준수, 지연 제약을 고려한 배치를 통해 엔터프라이즈 워크플로의 가용성과 규정 대응을 지원한다. Agentforce는 이 인프라 위에서 오케스트레이션과 검증을 실행했다.

언급된 리소스

문서Guided Determinism (EverythingAgents)

문서Agent Graph: Toward Guided Determinism with Hybrid Reasoning (Salesforce Engineering)

GitHubAgent Script GitHub

문서Inside Unified Planner: The AI Brain Behind Agentforce

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

섹션별 상세

근거

테스트 중인 환불 에이전트가 'my very valid and very verified email'이라는 문구를 신원 증명의 근거로 수용하고 환불을 준비했다. — 본문 첫 문단의 red-teaming 사례 서술

근거

프롬프트에 규칙과 예외를 계속 추가하는 방식은 'doom-prompting'이라는 끝없는 튜닝 루프에 빠져 일관성을 보장하지 못한다. — 두 번째 섹션에서 프롬프트 엔지니어링의 한계와 doom-prompting 언급

근거

Agentforce는 Agent Graph, Agent Script, 전문화된 서브에이전트, 미세조정된 라우팅 모델을 결합하고 Hyperforce 인프라에서 운영함으로써 guided determinism을 구현했다. — 세 번째 단락에서 구성요소들과 guided determinism 명시

용어 해설

Guided Determinism: — LLM의 확률적 언어 생성 능력과 엔터프라이즈 워크플로의 결정적 요구를 조화시키는 접근법으로서, 모델의 유연성은 유지하되 외부 오케스트레이션·제어 계층으로 결정적 검증과 실행을 보장하는 방식이다. 입력을 LLM에 맡겨 해석하고, 결정적 서브시스템과 라우팅 모델이 결과를 검증·실행으로 연결함으로써 신뢰성을 확보한다. 이 방식은 신원 확인·환불 승인 같은 금전·규정 관련 작업에서 허위 수용을 방지하는 데 중요하다.
Agent Graph: — 작업 단위를 담당하는 여러 서브에이전트와 제어 로직을 그래프 형태로 조합해 런타임에서 단계적 오케스트레이션을 수행하는 구조다. 각 노드는 특정 검사·행동·외부 호출을 담당하고 에지가 데이터·결정 흐름을 전달해 전체 워크플로의 조정성을 제공한다. 모델의 출력은 그래프의 결정 노드에서 검증·전환되어 확률적 응답을 결정적 실행으로 연결한다.
Agent Script: — 에이전트 그래프 상에서 의사결정·검사·분기 규칙을 기술하는 도메인 특화 언어로서, 모델의 자유로운 텍스트 출력과는 별도로 실행 가능한 검사·조건·명령을 표준화한다. 런타임에서 스크립트는 서브에이전트 호출과 검증 로직을 기술해 감사 로그와 재현성을 제공한다. 이 언어는 프롬프트만으로는 보장할 수 없는 일관성과 규정 준수를 달성하는 핵심 수단이다.
Routing Model: — 입력·문맥·중간 판정 결과에 따라 적절한 서브에이전트나 검사 경로를 선택하는 학습된 분류/정책 모델로서, 단일 LLM 출력을 직접 실행하지 않고 최적의 처리 루트를 결정한다. 라우팅 모델은 미세조정된 분류기로 동작하거나 메타결정 로직을 포함해 각 요청을 적합한 서브시스템에 연결한다. 이로써 시스템 전체의 신뢰성과 효율성을 개선한다.
Hyperforce: — 글로벌 분산 인프라로서 에이전트 런타임과 데이터 레지던시·지연 요구를 충족시키기 위해 위치별로 서비스 인스턴스를 운영하는 플랫폼이다. 에이전트 간 라우팅, 지역별 규정 준수, 지연 제약을 고려한 배치를 통해 엔터프라이즈 워크플로의 가용성과 규정 대응을 지원한다. Agentforce는 이 인프라 위에서 오케스트레이션과 검증을 실행했다.