LangGraph로 에이전트를 만들고 있다고 생각했지만, 사실은 화려한 if-else 문이었습니다

커뮤니티 반응

작성자가 공유한 '단순 워크플로우와 에이전트의 차이'에 대해 많은 사용자가 공감하며, 특히 도구 호출 기반의 자율적 라우팅 방식에 높은 관심을 보였다.

주요 논점

01찬성다수

하드코딩된 if-else 구조는 에이전트라고 부르기 어려우며, LLM이 직접 도구를 선택하고 추론하는 구조가 진정한 에이전트이다.

합의점 vs 논쟁점

합의점

LLM 에이전트의 핵심은 자율성(Autonomy), 메모리(Memory), 복원력(Resilience) 세 가지 기둥에 있다.
도구의 docstring이 곧 에이전트의 라우팅 로직이 된다.

실용적 조언

LangGraph에서 자율적인 에이전트를 구현하려면 create_react_agent를 사용하고 각 도구에 명확한 설명을 추가하라.
대화의 연속성을 위해 AsyncSqliteSaver를 사용하여 체크포인트를 저장하라.
에러 발생 시 프로그램을 종료하지 말고 에러 메시지를 LLM에게 다시 전달하여 해결책을 찾게 하라.

섹션별 상세

기존의 의도 분류(Intent Classification) 기반 하드코딩 라우팅을 create_react_agent를 통한 도구 호출 방식으로 대체했다. 9개의 도구에 상세한 docstring을 작성하여 LLM이 직접 상황에 맞는 도구를 선택하게 함으로써 시스템의 자율성을 확보했다. 이 과정을 통해 개발자가 모든 경로를 미리 정의할 필요가 없는 유연한 구조로 전환됐다.

AsyncSqliteSaver를 도입하여 사용자별 스레드 기반의 영구 메모리를 구현했다. 데이터베이스에 대화 상태를 저장함으로써 봇 재시작 후에도 이전 맥락을 유지하고 정보를 누적하여 멀티 턴 대화가 가능해졌다. 이는 단순한 일회성 응답기에서 지속적인 관계를 맺는 에이전트로 진화하는 핵심 요소로 작용했다.

에러 발생 시 시스템이 즉시 중단되는 대신, 에러 내용을 설명하는 문자열을 LLM에 반환하도록 예외 처리 로직을 강화했다. LLM은 발생한 문제를 텍스트로 전달받아 무엇이 잘못되었는지 스스로 추론하고 다음 단계를 결정한다. 이러한 구조는 API 실패와 같은 예외 상황에서도 시스템이 멈추지 않고 우아하게 대처하는 복원력을 제공했다.

이미지 분석

Infographic
에이전트가 되기 위해 필요한 자율성(모호한 입력 해결 및 도구 선택), 메모리(대화 맥락 기억), 복원력(API 실패 처리)을 시각적으로 정의했다. 각 요소가 에이전트의 '에이전트성'을 구성하는 기둥임을 강조하며 본문의 핵심 주장을 뒷받침한다.
진정한 에이전트의 세 가지 핵심 요소인 자율성, 메모리, 복원력을 설명하는 인포그래픽이다.

용어 해설

도구 호출(Tool Calling): — LLM이 사용자의 요청을 해결하기 위해 외부 API나 함수를 스스로 선택하고 실행하는 기능이다. 모델이 도구의 이름과 설명을 이해하고 필요한 인자를 생성하여 전달함으로써 정해진 시나리오를 벗어난 자율적 행동을 가능하게 한다.
지속성/영구 메모리(Persistence): — 에이전트의 상태나 대화 기록을 데이터베이스 등에 저장하여 세션이 종료되거나 시스템이 재시작되어도 정보를 유지하는 기술이다. 이를 통해 과거의 맥락을 기억하고 장기적인 상호작용을 수행할 수 있는 기반이 된다.
독스트링(Docstring): — 프로그래밍 코드 내에 함수나 클래스의 용도를 설명하는 문서화 문자열이다. 에이전트 환경에서는 LLM이 이 설명을 읽고 해당 도구가 어떤 상황에 필요한지 판단하는 핵심적인 라우팅 근거로 활용된다.

언급된 도구

LangGraph추천

에이전트 워크플로우 및 상태 관리 프레임워크

create_react_agent추천

ReAct 패턴 기반의 자율 에이전트 생성 함수

AsyncSqliteSaver추천

SQLite 기반의 비동기 상태 저장 및 체크포인트 관리

언급된 리소스

문서Towards AI Full Breakdown