TinySearch, 로컬 모델용 웹 검색 업데이트

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

TinySearch는 웹페이지를 그대로 작은 local model의 context window에 전달하지 않고 BM25와 로컬 ONNX embeddings로 관련 chunk를 선별하는 self-hosted MCP/FastAPI 도구입니다. v0.6.1에서는 CDP를 통해 사용자가 운영하는 브라우저의 profile, proxy, cookies, fingerprinting 설정을 재사용할 수 있게 됐으며, 검색과 URL 수집을 분리하고 최대 5개 URL을 동시에 처리합니다. 8개 research query benchmark에서 웹 콘텐츠가 146,878 tokens에서 53,426 tokens로 줄어 약 64% 감소했지만, 페이지 구조에 따라 절감 폭은 80% 이상부터 거의 없음까지 달랐습니다. 모델은 검색 후 유용한 URL을 고르고, TinySearch가 해당 페이지에서 필요한 근거만 추출하는 흐름입니다.

섹션별 상세

TinySearch는 웹 검색 결과 전체를 모델의 context window에 밀어 넣는 대신 BM25와 로컬 ONNX embeddings로 관련 텍스트 조각을 먼저 고르는 self-hosted MCP/FastAPI 도구입니다. 검색 결과에는 원문 페이지 텍스트와 source URL이 함께 포함되므로 중간 LLM이 내용을 재작성하거나 요약하지 않습니다. 특히 4B·9B 같은 작은 local model에 50k tokens의 스크랩 결과를 전달하는 비효율을 줄이는 구조입니다.

v0.6.1에서는 CDP를 통한 bring-your-own-browser 기능을 추가해 TinySearch가 사용자가 직접 운영하는 Chromium 세션을 사용할 수 있게 됐습니다. 기존 자체 Chromium 대신 사용자 브라우저의 profile, proxy, cookies, fingerprinting 설정을 활용하므로 새 headless Chromium 세션을 경계하는 사이트의 수집 성공률을 높이는 방식입니다. 다만 작성자는 CDP/browser 접근이 여전히 깨지는 특이한 웹사이트의 사례를 피드백 대상으로 꼽았습니다.

검색과 scrape_urls를 분리해 검색 단계에서는 Chromium을 실행하거나 embedding model을 불러오지 않고 빠르게 후보를 고르게 했습니다. 이후 scrape_urls는 최대 5개 URL을 하나의 브라우저에서 동시에 처리하고, 질의 기반 관련 chunk 재정렬 또는 정제된 페이지 전체 반환 중 하나를 선택합니다. 관련 링크도 질의와의 순위와 함께 돌려주지만 도구가 웹 전체를 자동으로 크롤링하지 않아 다음 이동 경로를 모델이 결정합니다.

재현 가능한 8개 research query benchmark에서 동일한 웹페이지의 입력량이 146,878 tokens에서 53,426 tokens로 줄어 약 64%의 web content 감소가 측정됐습니다. 페이지가 비대한 사이트에서는 80%를 넘는 감소가 나타났지만 이미 정돈된 페이지에서는 변화가 거의 없었고, 작성자도 64%를 보편적 보장으로 간주하지 않았습니다. benchmark script가 repository에 포함돼 동일 조건의 재현과 반박이 가능하도록 했습니다.

용어 해설

BM25 검색 알고리즘(BM25): — BM25는 검색어와 문서의 단어 빈도, 문서 길이를 바탕으로 관련도를 계산하는 정보 검색 알고리즘입니다. TinySearch는 이를 1차 검색에 활용해 웹페이지에서 질의와 가까운 텍스트 조각을 빠르게 고릅니다.
ONNX 임베딩(ONNX Embeddings): — ONNX Embeddings는 텍스트를 벡터로 변환하는 임베딩 모델을 ONNX 형식으로 실행하는 방식입니다. TinySearch는 이를 로컬에서 구동해 외부 API나 중간 LLM 없이 검색 결과의 의미적 유사도를 계산합니다.
Chrome DevTools Protocol(CDP): — CDP는 외부 프로그램이 Chromium 기반 브라우저를 제어할 수 있도록 하는 프로토콜입니다. TinySearch는 사용자가 직접 운영하는 브라우저의 프로필, 쿠키, 프록시, fingerprinting 설정을 재사용하는 데 CDP를 활용합니다.
Model Context Protocol(MCP): — MCP는 AI 모델이나 에이전트가 외부 도구를 호출할 수 있도록 연결하는 프로토콜입니다. TinySearch는 웹 검색과 페이지 수집 기능을 MCP 도구로 제공해 모델이 필요한 URL과 근거만 받아보도록 구성합니다.

언급된 도구

TinySearch추천링크

BM25와 로컬 ONNX embeddings로 웹페이지에서 관련 chunk를 선별하고 MCP/FastAPI 인터페이스로 제공하는 self-hosted 검색·스크래핑 도구

FastAPI중립

TinySearch의 웹 도구 인터페이스 구성

MCP중립

검색과 페이지 수집 기능을 AI 모델 또는 MCP client가 호출하도록 연결

언급된 리소스

GitHubTinySearch