Deep Research 구축기: SOTA급 연구 에이전트를 달성한 방법

섹션별 상세

에이전트 하네스 설계 시 과도한 수동 최적화를 지양하고 미래 모델의 성능 향상을 자연스럽게 흡수할 수 있는 유연한 구조를 지향했다. 7개월 전의 복잡한 아키텍처가 오히려 병목 현상을 일으켰던 경험을 바탕으로, 모델의 도구 호출 능력을 신뢰하는 단순한 오케스트레이션 로직으로 전환했다.

컨텍스트 엔지니어링을 통해 장기 연구 과제에서 발생하는 토큰 누적 문제를 해결했다. 기존 ReAct 방식은 도구 호출 결과가 누적되어 토큰 사용량이 이차함수적으로 증가하지만, Tavily는 도구 출력을 '반성(Reflection)'으로 요약하여 다음 단계의 컨텍스트로 사용함으로써 토큰 증가를 선형적으로 억제했다.

도구 자체가 컨텍스트 엔지니어링 기능을 내장하여 모델의 부담을 줄였다. Tavily의 검색 도구는 웹 페이지의 원문 전체를 던지는 대신 가장 관련성 높은 정보 조각(Chunk)만 반환함으로써 모델의 환각 현상을 줄이고 지연 시간을 단축했다.

text

n + 2n + 3n + ... + mn = n * m(m+1) / 2

기존 ReAct 기반 에이전트의 이차함수적 토큰 소비 모델

text

n + n + n + ... + n = nm

Tavily의 반성(Reflection) 기반 컨텍스트 엔지니어링을 적용한 선형적 토큰 소비 모델

생산 환경에서의 에이전트 구축을 위해 비결정론적 특성을 핵심 설계 고려 사항으로 취급했다. 도구 세트를 최소화하여 모델의 선택 오류를 방지하고, 단순한 벤치마크 점수보다는 실제 사용성 개선을 위한 방향성 피드백과 실행 추적(Trace) 모니터링에 집중하여 신뢰성을 확보했다.

용어 해설

에이전트 하네스(Agent Harness): — LLM 모델이 실제 환경에서 작동할 수 있도록 컨텍스트 관리, 도구 호출, 루프 제어, 오류 처리 등을 담당하는 소프트웨어 계층이다. 모델의 추론 능력을 실제 애플리케이션 로직과 연결하는 가교 역할을 수행하며, 미래의 모델 성능 향상을 유연하게 수용할 수 있도록 설계하는 것이 중요하다.
컨텍스트 엔지니어링(Context Engineering): — LLM의 제한된 컨텍스트 윈도우 내에 가장 관련성 높고 정제된 정보만을 배치하기 위한 큐레이션 기법이다. 불필요한 토큰 소비를 줄이고 모델의 환각 현상을 방지하며, 특히 장기적인 연구 과제에서 정보의 밀도를 유지하여 추론의 정확도를 높이는 데 필수적이다.
리액트 패턴(ReAct Pattern): — 모델이 추론(Reason)과 행동(Act)을 번갈아 수행하며 문제를 해결하는 프롬프트 구조이다. 각 단계의 사고 과정과 도구 실행 결과를 컨텍스트에 누적하며 진행되는데, 이 과정에서 이전 단계의 데이터가 계속 쌓이면서 토큰 사용량이 기하급수적으로 늘어나는 단점이 존재한다.
비결정론적 특성(Non-determinism): — 동일한 입력에 대해 항상 같은 출력을 보장하지 않는 LLM의 확률적 특성이다. 에이전트 설계 시 이러한 불확실성을 고려하여 도구 호출 재시도, 모델 캐스케이드, 가드레일 설치 등의 방어적 설계를 통해 시스템의 안정성을 확보해야 한다.

기술

Tavily Advanced Search
LLM
LangChain
DeepResearch Bench

활용 사례

심층 시장 조사 에이전트
자동화된 기술 문서 분석
장기 대화 히스토리 유지 챗봇

언급된 리소스

DemoTavily Research Early Access

GitHubLangChain Open Deep Research implementation