Bitterbot: 로컬 우선 아키텍처와 P2P 메시를 통한 에이전트 상태 보존 및 기술 거래 시스템

실용적 조언

장기 과업을 수행하는 에이전트를 설계할 때 터미널 재시작 시에도 상태가 유지되는 Persistent Memory 구현을 고려해야 한다.
중앙 서버 비용을 줄이기 위해 libp2p와 같은 P2P 프로토콜을 활용한 노드 간 데이터 교환 아키텍처를 검토할 수 있다.

섹션별 상세

기존 에이전트들이 터미널 재시작 시 추론 흔적이 사라지는 상태 부족 문제를 지적했다. Bitterbot은 로컬 우선 아키텍처를 채택하여 에이전트의 메모리가 재부팅 후에도 유지되도록 설계함으로써 장기 과업 수행의 안정성을 확보했다. 이를 통해 에이전트가 수행 중이던 복잡한 작업의 맥락을 잃지 않고 지속적으로 실행할 수 있는 환경을 제공한다.

에이전트가 긴 문맥의 메모리를 'Dream' 과정을 통해 결정화된 기술로 압축하는 메커니즘을 도입했다. 입력된 방대한 데이터를 분석하여 재사용 가능한 핵심 기술 단위로 변환한 뒤 이를 로컬에 저장하거나 P2P 네트워크로 전송한다. 단순한 RAG 기반 검색보다 효율적인 지식 활용이 가능한지 확인하기 위해 로컬 스택 사용자들의 피드백을 요청하고 있다.

libp2p의 Gossipsub 프로토콜을 활용하여 중앙 서버 없는 기술 발견 및 거래 시스템을 구축했다. 각 노드는 네트워크 상에서 다른 노드가 보유한 기술을 탐색하고 x402 프로토콜을 통해 Base 체인 위에서 온체인 소액 결제로 기술을 거래한다. 실제로 200개 이상의 활성 노드를 달성했으며 자동화된 기술 거래를 통해 첫 수익이 발생했음을 확인했다.

용어 해설

장기 실행 과업(Long-horizon Task): — 수많은 중간 단계와 복잡한 의사결정이 필요한 긴 호흡의 작업을 의미한다. AI 에이전트가 단기적인 응답을 넘어 장시간 동안 상태를 유지하며 목표를 달성해야 하므로 메모리 관리와 상태 보존이 핵심적인 기술적 과제로 꼽힌다.
피어 투 피어 메시 네트워크(P2P Mesh): — 중앙 서버 없이 각 노드가 직접 연결되어 데이터를 주고받는 분산형 네트워크 구조이다. Bitterbot에서는 에이전트가 학습한 기술(Skill)을 중앙 저장소 없이 노드 간에 직접 거래하고 공유하는 인프라로 활용된다.
가십서브(Gossipsub): — P2P 네트워크에서 메시지를 효율적으로 전파하기 위한 발행/구독(Pub/Sub) 프로토콜이다. 네트워크 전체에 데이터를 무작위로 퍼뜨리는 '가십' 방식을 통해 노드들이 새로운 기술이나 노드를 발견할 수 있게 돕는다.
기술 결정화(Skill Crystallization): — 방대한 추론 흔적과 긴 문맥 데이터를 핵심적인 '기술' 단위로 압축하여 저장하는 프로세스이다. 단순한 벡터 검색(RAG)과 달리 에이전트가 과거의 경험을 재사용 가능한 고정된 지식 형태로 변환하여 효율성을 높이는 기법이다.

언급된 도구

libp2p추천

P2P 네트워크 백본 및 Gossipsub을 통한 기술 발견

x402추천

Base 체인 기반의 온체인 소액 결제 및 정산

Ollama중립

로컬 LLM 추론 엔진

언급된 리소스

GitHubBitterbot Desktop GitHub Repository