챕터별 상세
LLM 비용 문제와 유닉스 철학의 재발견
LLM 기반 제품들이 소비하는 막대한 토큰 문제를 해결하기 위해 유닉스 시스템의 '모든 것은 파일이다'라는 오래된 철학을 도입했다. Vercel의 소프트웨어 엔지니어는 복잡한 파이프라인이나 고도의 튜닝 대신, 에이전트가 파일 시스템을 직접 탐색하게 함으로써 비용 문제를 해결했다. 모델은 이미 방대한 코드로 학습되어 디렉토리 구조와 Bash 스크립트 이해도가 매우 높다는 점을 활용했다.
파일 시스템 기반 컨텍스트 관리의 작동 원리
에이전트가 작업을 받으면 ls나 find 명령어로 파일 시스템을 탐색하고, grep과 cat을 사용해 필요한 내용만 검색한다. 전체 문서를 모델에 전달하는 대신 검색된 특정 정보 조각만 모델에 전송하여 컨텍스트 윈도우를 깨끗하게 유지한다. 이 방식은 모델이 불필요한 데이터에 토큰을 낭비하지 않게 하며 결과적으로 구조화된 출력을 더 정확하게 생성하도록 돕는다.
벡터 DB 기반 RAG와의 성능 및 비용 비교
기존 RAG는 벡터 DB에 데이터를 임베딩하고 시맨틱 검색을 수행하지만, 특정 값을 정확히 찾아야 할 때는 부정확한 결과를 반환할 수 있다. 반면 파일 시스템 아키텍처는 grep을 통해 정확한 매칭(Exact Match)을 수행하므로 정밀도가 높다. 또한 파일 간의 계층적 관계가 디렉토리 구조에 보존되어 있어, 데이터를 벡터로 평탄화할 때 발생하는 정보 손실이 없다.
실전 사례: 기업 정책 연구 에이전트 구축
JSON, Markdown, TXT 등 다양한 형식의 기업 정책 문서가 담긴 폴더를 대상으로 에이전트를 구축했다. Gemini 2.5 Flash 모델에 Vercel의 bash-tool을 연결하고 문서 경로에 대한 접근 권한을 부여했다. 사용자가 휴가 정책을 물으면 에이전트는 ls로 파일 목록을 확인하고 grep으로 'off days' 등의 키워드를 검색하여 정확한 문서 위치와 내용을 찾아 답변을 생성했다.
보안을 위한 샌드박스 격리 환경
에이전트에게 서버 명령어 실행 권한을 주는 위험을 방지하기 위해 격리된 샌드박스 환경을 사용했다. Vercel의 bash-tool은 인메모리 방식과 가상 머신(VM) 격리 방식의 두 가지 보안 옵션을 제공한다. 인메모리 방식은 가볍고 빠르며, VM 격리 방식은 프로덕션 환경에서 더 강력한 보안 보장을 제공하여 에이전트가 프로덕션 시스템에 직접 접근하는 것을 차단한다.
아키텍처 선택 기준: 파일 시스템 vs RAG
데이터가 고도로 구조화되어 있고 명확한 키워드 매칭이 필요한 경우에는 Bash 도구 기반의 파일 시스템 방식이 유리하다. 반면 단어의 의미적 유사성이 중요하거나 비정형 데이터가 산재한 경우에는 기존 RAG 방식이 더 적합하다. 최적의 결과를 위해서는 데이터의 성격과 쿼리의 복잡도에 따라 두 방식을 적절히 혼합하여 사용하는 것이 권장된다.
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 01. 22.수집 2026. 02. 21.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
