Chat Daddy: Rust로 구축한 7.4MB 초경량 AI 대화 통합 관리 도구

섹션별 상세

Claude 웹 GUI의 잦은 충돌로 인해 로컬 디스크에 저장된 JSONL 대화 로그가 보이지 않는 문제를 해결하기 위해 직접 뷰어를 제작했다. 별도의 로드맵이나 기획서 없이 데이터 유실에 대한 불만에서 시작된 프로젝트이며, Cursor 내에서 AI 에이전트의 도움을 받아 초기 프로토타입을 빠르게 완성했다.

Electron 프레임워크를 배제하고 Rust 언어와 minifb, fontdue 라이브러리를 사용하여 로우 레벨 렌더링 파이프라인을 구축했다. GPU 가속이나 DOM 없이 CPU가 직접 픽셀 버퍼에 텍스트를 그림으로써 실행 파일 크기를 7.4MB로 줄였고, 수백 메가바이트의 RAM을 점유하는 기존 웹 기반 앱들과 차별화된 성능을 확보했다.

Claude, Cursor, Codex 등 각기 다른 경로와 JSONL 형식을 가진 플랫폼들의 대화 데이터를 하나의 인터페이스로 통합했다. 설정 파일을 통해 사용자 정의 경로와 포맷 매핑을 추가할 수 있으며, 긴 AI 응답이나 도구 호출 과정을 기본적으로 축소 표시하여 대화의 핵심 내용만 빠르게 훑어볼 수 있도록 설계했다.

로컬에서 구동되는 Qwen2.5-0.5B 모델을 llama.cpp 엔진을 통해 통합하여 대화 제목 자동 생성 기능을 구현했다. 백그라운드에서 10초마다 미명명된 대화를 스캔하며, 단 40ms의 추론 시간과 500MB의 메모리만 사용하여 첫 번째와 마지막 메시지를 기반으로 2~6단어 분량의 제목을 생성한다.

중앙 서버나 클라우드 계정 없이 LAN 내에서 기기 간 대화 내역을 실시간으로 공유하는 P2P 네트워크 기능을 탑재했다. UDP 브로드캐스트를 통해 3초마다 피어를 탐색하고 TCP 통신으로 대화 리스트와 상세 내용을 교환하며, 기기가 오프라인이 되면 해당 데이터가 목록에서 즉시 사라지는 휘발성 구조를 채택했다.

사람이 아닌 AI 코딩 에이전트를 주 대상으로 하는 배포 및 설치 모델을 도입했다. README에는 AI 에이전트에게 클론과 빌드를 명령하라는 지침만 포함되어 있으며, AGENTS.md 파일을 통해 기계가 이해할 수 있는 단계별 설치 및 환경 설정 가이드를 제공하여 자율적인 배포가 가능하도록 했다.

용어 해설

JSON 라인(JSONL): — 한 줄에 하나의 JSON 객체를 저장하는 텍스트 형식이다. 대용량 로그 데이터나 AI 대화 기록을 순차적으로 저장하고 읽기에 최적화되어 있어 데이터 손실 위험이 적고 처리가 빠르다.
일렉트론(Electron): — 웹 기술(HTML, CSS, JS)을 사용하여 데스크톱 애플리케이션을 만드는 프레임워크이다. 개발 속도는 빠르지만 크롬 브라우저 엔진을 포함하므로 메모리 사용량이 매우 크고 실행 속도가 느린 단점이 있다.
픽셀 버퍼(Pixel Buffer): — 화면에 표시될 각 픽셀의 색상 정보를 담고 있는 메모리 영역이다. GPU 가속이나 복잡한 프레임워크 없이 CPU가 직접 메모리에 값을 써서 화면을 그리는 로우 레벨 렌더링 방식에 사용된다.
UDP 브로드캐스트(UDP Broadcast): — 동일한 로컬 네트워크(LAN) 내의 모든 기기에 데이터를 동시에 전송하는 통신 방식이다. 중앙 서버 없이도 같은 네트워크에 있는 다른 기기나 서비스를 자동으로 찾아내고 연결하는 데 사용된다.
추론(Inference): — 학습된 AI 모델이 새로운 입력 데이터를 받아 결과를 생성하는 과정이다. 이 아티클에서는 로컬 기기에서 작은 언어 모델을 실행하여 대화 제목을 자동으로 생성하는 작업을 의미한다.

기술

Rust
minifb
fontdue
Qwen2.5-0.5B
llama.cpp
serde_json

활용 사례

여러 AI 플랫폼 대화 로그 통합 관리
로컬 네트워크 내 AI 대화 내역 실시간 공유
오프라인 환경에서의 AI 대화 분석 및 검색

언급된 리소스

GitHubChat Daddy GitHub Repository