클라우드 의존성 없는 로컬 AI 에이전트 워크플로 엔진 공개

섹션별 상세

이 프로젝트는 클라우드 의존성을 제거한 로컬 AI 에이전트 구축을 목표로 한다. 15MB의 경량 바이너리로 구성되어 라즈베리 파이부터 산업용 엣지 장비까지 다양한 환경에서 실행 가능하다. 타입 기반 그래프 워크플로 엔진을 통해 시각적 빌더 환경을 제공하며, Anthropic, OpenAI, Gemini, Mistral 등 다양한 LLM과 로컬 SLM을 지원한다.

bash

docker run --rm -p 8081:8081 -e ENGINE_STANDALONE=true ghcr.io/foresthubai/edge-agents/engine:latest

엣지 에이전트 엔진을 Docker 컨테이너로 즉시 실행하는 명령어

React-Flow 기반의 시각적 AI 에이전트 워크플로 빌더 인터페이스. — Screenshot사용자가 노드를 연결하여 에이전트의 흐름을 설계하는 시각적 편집기를 보여준다. Read Pin, AI Agent, Retriever, Write Pin 등의 노드가 연결되어 있으며, 우측 패널에서 에이전트 설정 및 모델 선택이 가능하다.

내장된 온디바이스 RAG 기능을 통해 외부 서버 통신 없이 로컬 데이터 검색이 가능하다. React-Flow 기반의 시각적 인터페이스를 제공하여 사용자가 노드 연결 방식으로 에이전트 워크플로를 설계할 수 있다. Docker 컨테이너를 통해 즉시 실행 가능한 환경을 제공하며, API 및 개발자 경험에 대한 피드백을 수렴하고 있다.

용어 해설

소형 언어 모델(SLM): — Small Language Model의 약자로, 대규모 언어 모델(LLM)보다 파라미터 수가 적어 엣지 디바이스나 로컬 환경에서 효율적으로 실행 가능한 언어 모델이다. 리소스가 제한된 환경에서 추론 속도와 비용 효율성을 높이는 데 사용된다.
온디바이스 RAG(On-device RAG): — 클라우드 서버를 거치지 않고 로컬 기기 내부에서 데이터를 검색하고 컨텍스트를 주입하는 검색 증강 생성 기술이다. 데이터 보안과 오프라인 환경에서의 정보 검색을 보장하는 데 필수적이다.
워크플로 엔진(Workflow Engine): — AI 에이전트의 작업 흐름을 정의하고 실행하는 소프트웨어 시스템이다. 노드 기반의 시각적 인터페이스를 통해 복잡한 로직을 구성하고, 다양한 도구와 모델을 연결하여 자동화된 프로세스를 수행한다.

언급된 도구

React-Flow추천

시각적 워크플로 빌더

Docker추천

엔진 실행 및 배포

언급된 리소스

GitHubForestHubAI Edge Agents GitHub