에이전트 컴파일: 웹 자동화의 추론 비용 절감을 위한 LLM 재실행 위기 완화

섹션별 상세

웹 에이전트의 지속적인 추론 루프는 반복 작업 시 토큰 비용과 지연 시간을 선형적으로 증가시키는 '재실행 위기'를 유발한다. 5단계 워크플로우를 500회 반복할 경우, 기존 방식은 약 150달러의 비용이 발생한다. 이 문제는 에이전트의 확장성을 제한하는 근본적인 병목으로 작용한다.

'컴파일-실행(Compile-and-Execute)' 아키텍처는 LLM의 추론과 브라우저 실행을 분리하여 이 문제를 해결한다. DOM Sanitization Module(DSM)을 통해 웹 페이지 정보를 토큰 효율적인 형태로 변환하고, LLM이 이를 바탕으로 결정론적인 JSON 워크플로우를 생성한다. 이 과정은 단 한 번의 LLM 호출로 완료된다.

생성된 JSON 워크플로우는 경량 런타임에 의해 실행되며, 이후 추가적인 LLM 호출이 필요하지 않다. 이로 인해 추론 복잡도가 O(M x N)에서 상각된 O(1)로 감소하며, 500회 반복 작업 기준 비용이 0.1달러 미만으로 절감된다. 이는 기존 방식 대비 1,000배 이상의 비용 효율 개선을 의미한다.

근거

500회 반복 작업 기준 추론 비용을 150달러에서 0.1달러 미만으로 절감. — Abstract section 출처

제로샷 컴파일 성공률은 80-94% 수준이며, 모듈화된 JSON 중간 표현을 통해 인간 개입(Human-in-the-Loop) 패칭을 적용하면 실행 신뢰도를 거의 100%까지 높일 수 있다. 이 방식은 대규모 자동화가 불가능했던 영역에서 경제적인 자동화를 가능하게 한다. 결과적으로 결정론적 컴파일은 프로덕션 수준의 웹 자동화를 위한 새로운 패러다임을 제시한다.

활용 사례

Web Automation
Data Extraction
Form Filling

언급된 리소스

논문Agentic Compilation: Mitigating the LLM Rerun Crisis for Minimized-Inference-Cost Web Automation