챕터별 상세
딥 리서치 에이전트의 정의와 Tavily의 접근 방식
딥 리서치는 인터넷에서 정보를 찾아 합성하고 요약하여 가치 있는 결과물을 도출하는 지식 노동의 핵심이다. Tavily는 시장 조사, 기업 분석, 금융 및 의료 리서치 등 90% 이상의 사용 사례가 리서치에 집중되어 있음을 확인했다. 이를 위해 에이전트 구축의 높은 진입장벽을 해결하고자 최적화된 Deep Research API를 출시했다. 사용자는 자연어 프롬프트만으로 복잡한 리서치 작업을 수행할 수 있다.
에이전트 API 구축을 위한 7개월간의 여정
Tavily는 딥 리서치 API를 완성하기 위해 7개월 동안 개발 과정을 거쳤다. 초기 모델 기반 시스템을 구축했으나 모델의 진화와 도구 연결 방식의 변화로 인해 전체 시스템을 처음부터 다시 설계해야 했다. 모델과 에이전트 하네스(Harness), 도구 간의 공진화(Co-evolution)를 이해하는 것이 중요했다. 급변하는 모델 환경 속에서 지속 가능한 소프트웨어 아키텍처를 구축하는 것이 가장 큰 도전 과제였다.
Deep Research API의 주요 기능과 아키텍처
API는 Mini, Pro, Auto 세 가지 모드를 제공하여 리서치의 깊이와 비용을 조절할 수 있다. Pro 모드는 멀티 에이전트 시스템을 활용하고 Mini는 단일 에이전트 시스템으로 작동한다. MLA, APA, Chicago 등 다양한 인용 형식을 지원하며 Markdown 또는 구조화된 JSON 출력이 가능하다. 특히 MCP(Model Context Protocol) 서버 연동을 통해 GitHub, Notion 등 기업 내부 데이터와 공개 웹 데이터를 결합한 하이브리드 리서치를 지원한다.
벤치마크 1위 달성과 토큰 효율성 극대화
Tavily의 딥 리서치 에이전트는 Deep Research Benchmark에서 1위를 기록했다. 주목할 점은 성능뿐만 아니라 토큰 소비 효율성이다. 경쟁 솔루션인 LangChain의 오픈 딥 리서치가 약 2억 개의 토큰을 소비할 때, Tavily는 단 7,000만 개의 토큰으로 더 높은 성능을 냈다. 이는 불필요한 노이즈 토큰을 제거하고 유익한 정보만 유지하는 컨텍스트 엔지니어링의 결과이다. 낮은 비용과 지연 시간으로 더 나은 성능을 낼 수 있음을 입증했다.
상용 수준의 신뢰성 확보를 위한 가드레일 설계
에이전트의 실행 시간이 수 시간으로 늘어남에 따라 실패 모드(Failure Modes)도 기하급수적으로 증가한다. Tavily는 10시간 이상의 장기 실행 에이전트를 위해 다양한 가드레일과 이상 탐지 시스템을 구축했다. 모든 도구 호출과 LLM 응답에 대해 속도 제한(Rate Limiting)이나 외부 서비스 장애에 대비한 폴백(Fallback) 메커니즘을 적용했다. 이를 통해 장시간 실행 후에도 품질이 낮은 결과물이 나오는 상황을 방지하고 시스템의 신뢰성을 확보했다.
토큰 절감을 위한 구체적인 컨텍스트 엔지니어링 기법
웹 검색 결과는 토큰 볼륨이 매우 크기 때문에 이를 모델에 그대로 전달하면 비용이 급증한다. Tavily는 검색 결과를 낮은 토큰 표현으로 증류(Distillation)하여 모델에 전달하는 방식을 사용했다. 또한 글로벌 및 로컬 수준의 중복 제거(Deduplication)를 통해 동일한 URL이나 정보가 반복적으로 처리되는 것을 방지했다. 에이전트 로그(Trace)를 직접 읽으며 불필요한 정보가 입력되는 지점을 찾아 알고리즘으로 개선하는 '지루한 최적화' 과정을 반복했다.
에이전트 개발의 미래와 Tavily의 로드맵
에이전트 실행 시간이 길어질수록 사람이 로그를 분석하는 것은 불가능해진다. 미래에는 LLM이 에이전트의 실행 로그를 읽고 실패 지점이나 이상 징후를 파악하는 '에이전트를 위한 에이전트' 모델이 중요해질 것이다. Tavily는 검색 인프라 자체에서 컨텍스트 엔지니어링을 수행하여 사용자에게 노이즈가 제거된 고품질 데이터만 반환하는 것을 목표로 한다. 더 빠르고 깊이 있는 검색 기능을 통해 에이전트 개발자들의 고충을 해결할 계획이다.
용어 해설
- 딥 리서치(Deep Research)
- — 인터넷상의 방대한 정보를 검색, 합성, 요약하여 고품질의 분석 보고서를 생성하는 AI 에이전트의 핵심 기능이다. 단순 검색을 넘어 정보의 신뢰성을 검증하고 구조화된 결과물을 도출하는 복합적인 추론 과정을 포함한다.
- 컨텍스트 엔지니어링(Context Engineering)
- — LLM에 입력되는 컨텍스트 윈도우 내의 정보를 최적화하여 모델의 추론 정확도를 높이고 토큰 소비를 줄이는 기법이다. 불필요한 정보를 필터링하거나 핵심 내용만 증류하여 모델이 가장 중요한 데이터에 집중하게 만든다.
- 모델 컨텍스트 프로토콜(MCP)
- — AI 모델이 외부 도구, 데이터 소스 및 서비스와 표준화된 방식으로 통신할 수 있도록 설계된 프로토콜이다. 이를 통해 에이전트는 GitHub, Notion 등 다양한 플랫폼의 데이터에 안전하고 일관되게 접근할 수 있다.
- 중복 제거(Deduplication)
- — 검색 결과나 데이터 처리 과정에서 중복되는 URL 또는 동일한 정보를 식별하여 제거하는 프로세스이다. 특히 멀티 에이전트 시스템에서 반복되는 정보 처리를 방지하여 토큰 낭비를 막는 데 필수적이다.
- 토큰 효율성(Token Efficiency)
- — 동일한 품질의 결과물을 생성하기 위해 사용하는 토큰의 양을 최소화하는 성능 지표이다. 비용 절감뿐만 아니라 추론 속도 향상과 컨텍스트 윈도우 제한 극복을 위해 상용 AI 서비스 구축 시 핵심적으로 고려된다.
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 01. 01.수집 2026. 02. 21.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
