챕터별 상세
RAG 개념 및 환경 설정
RAG는 외부 문서에서 정보를 검색하여 LLM의 응답 정확도를 높이는 기법이다. 사용자 입력과 관련된 문서를 지식 베이스에서 검색하고, 이를 LLM에 전달하여 답변을 생성한다. 실습을 위해 필요한 가상 환경을 구성하고 의존성 패키지를 설치한다.
벡터 데이터베이스 구축
문서를 벡터화하기 위해 임베딩 모델을 사용하며, 이를 저장할 벡터 데이터베이스로 ChromaDB를 활용한다. PDF 문서를 로드하고 RecursiveCharacterTextSplitter를 사용하여 텍스트를 청킹한다. 청킹된 텍스트는 임베딩되어 ChromaDB에 저장되며, 이후 유사도 검색의 기반이 된다.
에이전틱 RAG 아키텍처 설계
에이전틱 RAG는 단순 검색을 넘어 검색 필요 여부 판단, 쿼리 재작성, 답변 생성 및 환각 검사 단계를 포함한다. LLM은 사용자 질문을 분석하여 검색 도구 호출 여부를 결정한다. 검색 결과가 불충분할 경우 쿼리를 재작성하여 다시 검색을 수행한다.
에이전트 상태 및 그래프 구현
LangGraph의 State 객체를 정의하여 에이전트가 유지해야 할 메시지, 질문, 컨텍스트, 재시도 횟수 등을 관리한다. 그래프 구조를 정의하고 챗봇, 검색 도구, 컨텍스트 정리, 답변 생성 노드를 연결한다. 각 노드는 조건부 엣지를 통해 다음 단계를 결정한다.
LangGraph Studio를 활용한 디버깅
LangGraph Studio를 실행하여 정의한 에이전트 그래프를 시각화하고 상호작용한다. 사용자 질문 입력 시 에이전트가 어떤 노드를 거쳐 답변을 생성하는지 실시간으로 추적한다. 검색이 필요한 경우 리트리버 노드가 활성화되고, 답변 생성 후 환각 검사 노드가 작동한다.
답변 성능 개선 및 프롬프트 최적화
시스템 프롬프트를 수정하여 답변의 구조와 가독성을 개선한다. 마크다운 문법을 적용하고 출처와 페이지 번호를 명시하도록 지시한다. 모델을 GPT-4o에서 다른 모델로 변경하여 답변의 상세함과 에이전틱한 요소가 어떻게 변화하는지 확인한다.
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 05. 18.수집 2026. 05. 18.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
