Deep Research 구축기: SOTA급 연구 에이전트를 달성한 방법

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

연구 에이전트는 방대한 정보를 수집하고 합성하는 지식 노동의 핵심 도구로 부상하고 있다. Tavily 팀은 기존의 복잡한 오케스트레이션 대신 모델의 자율성을 극대화하고 컨텍스트를 효율적으로 관리하는 'Deep Research' 시스템을 구축했다. 특히 도구 출력을 즉시 컨텍스트에 넣는 대신 '반성(Reflection)'으로 요약하여 전달하는 방식을 통해 토큰 소비를 선형적으로 유지하며 효율성을 66% 개선했다. 이러한 접근법은 비용 절감뿐만 아니라 DeepResearch Bench에서 SOTA급 품질을 동시에 확보하는 결과로 이어졌다.

배경

LLM 에이전트 및 ReAct 패턴에 대한 이해, RAG(검색 증강 생성) 시스템의 기본 개념, 토큰 소비 및 컨텍스트 윈도우 최적화 지식

대상 독자

LLM 에이전트를 프로덕션 환경에 배포하려는 개발자 및 AI 연구원

의미 / 영향

이 연구 결과는 LLM 에이전트의 고질적인 문제인 비용과 지연 시간을 아키텍처 개선만으로 획기적으로 낮출 수 있음을 보여준다. 특히 컨텍스트 관리 방식의 변화는 대규모 RAG 시스템이나 복잡한 다단계 추론이 필요한 에이전트 설계의 새로운 표준이 될 가능성이 높다.

섹션별 상세

에이전트 하네스 설계 시 과도한 수동 최적화를 지양하고 미래 모델의 성능 향상을 자연스럽게 흡수할 수 있는 유연한 구조를 지향했다. 7개월 전의 복잡한 아키텍처가 오히려 병목 현상을 일으켰던 경험을 바탕으로, 모델의 도구 호출 능력을 신뢰하는 단순한 오케스트레이션 로직으로 전환했다.

컨텍스트 엔지니어링을 통해 장기 연구 과제에서 발생하는 토큰 누적 문제를 해결했다. 기존 ReAct 방식은 도구 호출 결과가 누적되어 토큰 사용량이 이차함수적으로 증가하지만, Tavily는 도구 출력을 '반성(Reflection)'으로 요약하여 다음 단계의 컨텍스트로 사용함으로써 토큰 증가를 선형적으로 억제했다.

도구 자체가 컨텍스트 엔지니어링 기능을 내장하여 모델의 부담을 줄였다. Tavily의 검색 도구는 웹 페이지의 원문 전체를 던지는 대신 가장 관련성 높은 정보 조각(Chunk)만 반환함으로써 모델의 환각 현상을 줄이고 지연 시간을 단축했다.

text

n + 2n + 3n + ... + mn = n * m(m+1) / 2

기존 ReAct 기반 에이전트의 이차함수적 토큰 소비 모델

text

n + n + n + ... + n = nm

Tavily의 반성(Reflection) 기반 컨텍스트 엔지니어링을 적용한 선형적 토큰 소비 모델

생산 환경에서의 에이전트 구축을 위해 비결정론적 특성을 핵심 설계 고려 사항으로 취급했다. 도구 세트를 최소화하여 모델의 선택 오류를 방지하고, 단순한 벤치마크 점수보다는 실제 사용성 개선을 위한 방향성 피드백과 실행 추적(Trace) 모니터링에 집중하여 신뢰성을 확보했다.

실무 Takeaway

도구 호출 결과를 그대로 컨텍스트에 쌓지 말고 '요약된 반성(Reflection)' 형태로 변환하여 전달하면 토큰 비용을 최대 66%까지 절감할 수 있다.
에이전트용 도구는 원시 데이터를 모두 제공하는 대신 도구 단에서 관련성 높은 정보만 추출하여 반환함으로써 모델의 추론 효율을 높여야 한다.
복잡한 오케스트레이션 로직을 직접 코딩하기보다 모델의 자율성을 활용하고 가드레일을 통해 예외 상황을 관리하는 것이 성능 유지에 유리하다.

언급된 리소스

DemoTavily Research Early Access

GitHubLangChain Open Deep Research implementation