LangGraph의 Rust 구현체인 Juncture 공개

실용적 조언

기존 LangGraph Python 코드를 Rust로 마이그레이션할 때 Juncture를 활용하여 타입 안전성과 성능을 확보할 수 있다.

섹션별 상세

Juncture는 LangGraph의 핵심인 StateGraph와 Pregel 실행 엔진을 Rust로 재구현했다. Python의 동적 채널 매핑 대신 #[derive(State)] 매크로를 사용하여 컴파일 타임에 타입 안전성을 보장한다.

rust

use juncture::prelude::*;
use serde::{Deserialize, Serialize};

[derive(State, Clone, Debug, Serialize, Deserialize)]
struct MyState {
    #[reducer(replace)] count: i32,
    #[reducer(append)] history: Vec<String>,
}

async fn increment(state: &MyState) -> Result<MyStateUpdate, Box<dyn std::error::Error>> {
    Ok(MyStateUpdate {
        count: Some(state.count + 1),
        history: Some(vec![format!("count -> {}", state.count + 1)]),
    })
}

#[tokio::main]
async fn main() -> Result<(), Box<dyn std::error::Error>> {
    let mut graph = StateGraph::<MyState>::new();
    graph.add_node("increment", increment);
    graph.add_edge(START, "increment");
    graph.add_edge("increment", END);

    let compiled = graph.compile()?;
    let result = compiled
        .invoke(MyState { count: 0, history: vec![] }, &RunnableConfig::default())
        .await?;

    println!("Result: {:?}", result);
    Ok(())
}

Juncture를 사용한 상태 정의 및 그래프 실행 예시 코드

실행 엔진은 tokio::spawn과 JoinSet을 활용하여 노드 간 병렬 실행을 지원하며, CowState를 통해 상태 복제 비용을 최소화했다. 이를 통해 순차 실행 시 452배, 스트리밍 시 547배의 성능 향상을 확인했다.

LangGraph Python과의 의미적 동등성을 목표로 하여 add_node, add_edge 등 기존 API를 그대로 지원한다. 또한 WASM 환경과 Fermyon Spin 등 엣지 컴퓨팅 환경에서의 배포를 지원한다.

내장된 juncture-telemetry를 통해 Langfuse와 호환되는 관측성을 제공한다. 이를 통해 별도의 설정 없이도 대시보드 확인 및 클라우드 데이터 전송이 가능하다.

용어 해설

Pregel 실행 엔진(Pregel): — 그래프 기반의 병렬 처리 모델로, 노드 간 메시지 전달을 통해 상태를 업데이트하며 대규모 그래프 연산을 효율적으로 수행하는 실행 엔진이다.
상태 그래프(StateGraph): — 에이전트의 워크플로를 상태 머신으로 정의하는 LangGraph의 핵심 구조로, 노드 간의 상태 전이와 흐름을 제어한다.
웹어셈블리(WASM): — 웹 브라우저 및 엣지 환경에서 고성능 실행을 가능하게 하는 이진 명령어 형식으로, Rust 코드를 컴파일하여 다양한 환경에서 실행할 수 있게 한다.

언급된 도구

Juncture추천

Rust port of LangGraph

LangGraph추천

Agent orchestration framework

Langfuse추천

Telemetry

Tokio추천

Async runtime

언급된 리소스

GitHubJuncture GitHub Repository