본문으로 건너뛰기

NTT DATA가 LlamaIndex를 활용하여 엔터프라이즈 RAG 및 문서 파싱을 혁신하는 방법

NTT DATA가 LlamaIndex의 고급 인덱싱 및 파싱 기능을 활용하여 엔터프라이즈급 RAG 시스템의 정확도와 개발 속도를 높인 실전 사례를 소개한다.

챕터별 상세

00:00

NTT DATA의 AI 전략과 비전

NTT DATA는 AI를 고객 솔루션과 내부 운영 전반에 걸친 핵심 변화 동력으로 정의했다. 2027년까지 모든 업무 프로세스에 AI가 내재화된 'AI-Enabled Company'가 되는 것을 목표로 삼았다. 이를 위해 글로벌 AI 오피스를 중심으로 하이퍼스케일러 및 혁신적인 스타트업들과의 파트너십 생태계를 구축하고 있다. 내부적으로는 HR, 조달, 재무, 법무 등 전 부서의 운영 방식을 AI 중심으로 전환하고 있다.
02:18

LlamaIndex 도입 배경과 RAG 최적화

엔터프라이즈 환경에서 대규모 문서를 파싱하고 인덱싱하는 과정은 AI 개발의 핵심적인 병목 구간이다. LlamaIndex 도입 전에는 인덱싱과 데이터 검색을 위해 커스텀 솔루션을 직접 구축해야 했으며, 이는 많은 시간 소요와 잦은 오류를 야기했다. LlamaIndex는 문서 파싱 및 인덱싱 프로세스를 단순화하여 엔드투엔드 AI 개발 효율을 높였다. 특히 Retrieval-Augmented Generation 시스템에서 챗봇과 정보 검색 플랫폼의 성능을 향상시키는 중추적인 역할을 수행한다.

RAG는 외부 지식 베이스에서 관련 정보를 검색하여 LLM의 답변 정확도를 높이는 기술이다.

03:06

고급 인덱싱 기법의 활용과 성과

LlamaIndex가 제공하는 Recursive Retriever와 Surrounding Context Window 기능을 통해 문서의 계층 구조를 유지하며 검색 성능을 높였다. 규제 문서와 같이 챕터, 섹션, 서브섹션이 복잡하게 얽힌 문서에서 문맥을 정확히 파악하는 것이 가능해졌다. 또한 Auto-RAG 및 에이전트 기반의 문서 파싱 파이프라인을 적용하여 처리 속도와 정확도를 개선했다. 복잡한 레이아웃을 가진 문서에서도 데이터의 구조적 무결성을 유지하며 정보를 추출할 수 있게 되었다.

Recursive Retriever는 상위 노드에서 하위 노드로 재귀적으로 검색을 수행하여 정밀도를 높이는 기법이다.

04:07

개발 생산성 향상과 미래 전망

LlamaIndex는 복잡한 기초 컴포넌트 구축 부담을 줄여 개발팀이 혁신적인 기능 구현에 집중할 수 있게 한다. Agentic AI의 도입은 코드 작성부터 테스트, 유지보수에 이르기까지 소프트웨어 개발 패러다임을 근본적으로 변화시키고 있다. 엔지니어들 사이에서 새로운 기술을 실험하고 한계를 확장하려는 에너지가 높아지고 있다. 이러한 기술적 진보는 NTT DATA가 목표로 하는 전사적 AI 전환을 가속화하는 핵심 동력이 된다.

Agentic AI는 스스로 목표를 설정하고 도구를 사용하여 과업을 수행하는 자율적인 AI 시스템을 의미한다.

언급된 리소스

AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 02. 04.수집 2026. 02. 21.출처 타입 YOUTUBE

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.