Lore: 클라우드 없이 내 컴퓨터에서만 작동하는 오픈소스 AI 세컨드 브레인

실용적 조언

Lore는 사용자의 모든 데이터와 AI 추론 과정을 로컬 장치 내에서만 처리하도록 설계됐다. RAG 파이프라인과 벡터 검색, LLM 추론이 외부 API 호출 없이 기기 내부에서 완결되므로 프라이버시 보호가 강력하다.

사용자 경험의 마찰을 줄이기 위해 전역 단축키인 Ctrl+Shift+Space를 통한 즉각적인 캡처 기능을 제공한다. 별도의 포맷팅이나 폴더 분류 없이 자연어로 입력하면 시스템이 이를 생각, 질문, 할 일, 지침 등으로 자동 분류한다.

기술적 구현을 위해 LLM 추론 엔진으로는 Ollama를 사용하며, 로컬 벡터 저장소로는 LanceDB를 채택했다. 이를 통해 윈도우, 맥OS, 리눅스 등 다양한 운영체제에서 일관된 성능과 기능을 제공한다.

검색 증강 생성(RAG): — 외부 지식 베이스에서 관련 정보를 검색하여 LLM의 답변 생성에 활용하는 기법이다. 모델의 학습 데이터에 없는 최신 정보나 개인 데이터를 참조할 수 있게 하여 할루시네이션을 줄이고 정확도를 높인다.
벡터 검색(Vector Search): — 데이터를 수치화된 벡터로 변환하여 의미적 유사성을 기반으로 정보를 찾는 기술이다. 키워드가 일치하지 않아도 문맥상 유사한 내용을 찾아낼 수 있어 RAG 시스템의 핵심 구성 요소로 쓰인다.
로컬 추론(Local Inference): — 클라우드 서버가 아닌 사용자의 개인 기기에서 AI 모델을 직접 실행하는 방식이다. 데이터가 외부로 전송되지 않아 프라이버시가 보호되며 인터넷 연결 없이도 AI 기능을 사용할 수 있다.

Ollama추천링크

로컬 LLM 추론 엔진

LanceDB추천링크

로컬 벡터 데이터베이스 저장소