코드 한 줄 없이 구축하는 고급 확장형 RAG 시스템: NyRAG 가이드

• •Vespa 기반의 검색 엔진 활용
• •LLM 응답 생성 데모
• •노코드 인터페이스 제공

RAG는 외부 지식을 검색하여 LLM의 답변 정확도를 높이는 기술이다.

• •uv 패키지 매니저 권장
• •Docker 기반 로컬 배포
• •Vespa Cloud 연동 지원

Docker는 애플리케이션을 컨테이너화하여 어디서든 동일하게 실행할 수 있게 돕는 도구이다.

• •웹 템플릿 기반 자동 크롤링
• •임베딩 및 청킹 파라미터 설정
• •YAML 기반 구성 관리

임베딩은 텍스트를 컴퓨터가 이해할 수 있는 벡터 숫자로 변환하는 과정이다.

• •다양한 LLM API 공급자 지원
• •검색 결과 최적화 파라미터
• •인덱싱 프로세스 자동화

OpenRouter는 여러 LLM API를 하나의 인터페이스로 사용할 수 있게 해주는 서비스이다.

• •로컬 문서 인덱싱 지원
• •마크다운 변환 처리
• •Vespa 기반 벡터 검색

OCR은 이미지 속의 텍스트를 인식하여 디지털 데이터로 변환하는 기술이다.