RAG는 죽었는가? 세금 법률 AI 구축 사례

섹션별 상세

00:00

RAG의 효용성 논쟁

컨텍스트 윈도우가 확장됨에 따라 RAG가 불필요해졌다는 주장이 제기된다. 그러나 세금 규정 준수와 같이 정확한 인용과 높은 신뢰도가 요구되는 분야에서는 여전히 RAG가 필수적이다. 단순 검색을 넘어 정확한 출처를 기반으로 한 결정이 필요하기 때문에 RAG를 완전히 대체하기 어렵다.

RAG는 LLM이 외부 데이터를 참조하여 답변의 정확도를 높이는 기술이다.

01:24

Sphere의 세금 자동화 솔루션

Sphere는 세금 규정 준수 업무를 자동화하는 기업이다. 미국 내 주, 도시별로 상이한 세법과 국제 세금 규정을 다룬다. 기존에는 대규모 세무 전문가 팀이 수작업으로 처리하던 업무를 AI로 전환한다.

04:35

T-RAM 아키텍처

Sphere는 T-RAM(Tax Review and Assessment Model)을 구축했다. 이 시스템은 법률, 판례, 세무 당국 게시물을 분석하여 세금 부과 여부를 결정한다. 결정론적 엔진을 사용하여 AI가 내린 판단의 근거를 명확히 제시한다.

결정론적 시스템은 입력에 대해 항상 동일하고 예측 가능한 결과를 출력하는 시스템을 의미한다.

07:04

데이터 수집 및 처리의 어려움

세금 데이터는 HTML, PDF, 스프레드시트 등 비정형 포맷으로 존재한다. 특히 이미지 기반 PDF나 복잡한 표 형태의 문서에서 정보를 추출하는 과정이 까다롭다. 시스템은 이러한 다양한 소스에서 관련 구절을 찾아내고 세금 부과 가능성을 평가한다.

09:18

인간 전문가의 검토 워크플로

T-RAM은 세무 전문가가 검토할 작업 목록을 생성한다. 전문가는 AI가 제시한 판단과 근거 문서를 검토하여 최종 승인한다. 이 과정에서 AI는 전문가의 작업 속도를 두 자릿수 이상 향상시킨다.

주목할 인용

“I think for some use cases, it's certainly true [that RAG is dead]. I think for us, and or at least for this particular problem, because we are so sensitive to accuracy and we're so sensitive to the exact right citation... I don't think, you know, agents are just searching over the file system... we could switch over and not lose accuracy.”
일부 사례에서는 RAG가 죽었다는 말이 사실일 수 있습니다. 하지만 우리처럼 정확성과 정확한 인용이 중요한 문제에서는 단순히 파일 시스템을 검색하는 에이전트만으로는 충분하지 않습니다.
Alex Bowcut·00:38
RAG가 불필요해졌다는 주장에 대한 견해를 밝히며