주요 기능

• vLLM, Ollama, llama.cpp를 활용하여 로컬 모델과 API 기반 모델을 통합 채팅 환경에서 실행한다.
• MCP(Model Context Protocol)와 파일 시스템, 셸 접근 권한을 갖춘 에이전트로 복합적인 작업을 자동화한다.
• 하드웨어 사양을 스캔하여 최적의 모델을 추천하고 다운로드 및 서빙을 자동화하는 Cookbook 기능을 제공한다.
• IMAP/SMTP 연동과 CalDAV 동기화를 통해 이메일과 캘린더를 AI 에이전트가 직접 관리하도록 구현한다.
• ChromaDB와 fastembed를 사용하여 지속적인 메모리와 기술 학습이 가능한 에이전트 환경을 구축한다.

어떻게 동작하는가

FastAPI 기반의 백엔드가 로컬 모델 서빙 엔진(Ollama, vLLM) 및 벡터 데이터베이스(ChromaDB)와 통신하며, MCP를 통해 외부 도구와 데이터를 에이전트 워크플로에 통합한다.