NumbyAI: 로컬 LLM 기반의 프라이버시 중심 금융 거래 자동 분류 도구

섹션별 상세

01

휴리스틱 엔진과 LLM을 결합하여 수동 컬럼 매핑 없이 CSV 파일을 드롭하기만 하면 메타데이터, 날짜 형식, 통화, 숫자 표기법 등을 자동으로 감지한다. 신뢰도가 높은 경우 휴리스틱 엔진이 우선 처리하며, 모호한 경우에만 Ollama를 호출하여 부족한 정보를 보완하는 하이브리드 방식을 사용한다.

은행 CSV 파일을 업로드하고 AI가 자동으로 카테고리를 분류하는 시연 영상 — Screenshot사용자가 CSV 파일을 드래그 앤 드롭하면 시스템이 컬럼을 자동 감지하고 LLM을 통해 각 거래 항목에 카테고리를 할당하는 실시간 과정을 보여준다.

02

저장된 규칙 엔진이 알려진 패턴을 즉시 분류하여 LLM 부하를 줄이는 효율적인 파이프라인을 구축했다. 규칙에 매핑되지 않은 거래는 Ollama의 병렬 워커를 통해 배치 단위로 처리되며, 결과가 불확실한 항목은 사용자가 직접 검토할 수 있도록 리뷰 큐로 전송된다.

03

모든 처리는 사용자의 머신에서 이루어지며 외부 API 호출이나 텔레메트리 수집이 전혀 없는 로컬 퍼스트 아키텍처를 구현했다. FastAPI 백엔드와 SQLite/PostgreSQL 데이터베이스, 그리고 로컬에서 실행되는 Ollama를 연동하여 완전한 데이터 주권을 보장한다.

text

OLLAMA_MODEL=qwen3.5:9b
CATEGORIZATION_BATCH_SIZE=20
CATEGORIZATION_MAX_WORKERS=2

LLM 모델 설정 및 배치 처리 성능 최적화를 위한 환경 변수 설정 예시

04

Rule Advisor 기능은 사용자의 분류 패턴을 분석하여 재사용 가능한 규칙을 제안함으로써 향후 업로드 시 자동화율을 높인다. 대시보드는 카테고리별 지출 내역, 월별 트렌드, 현금 흐름 및 예산 대비 실제 지출 현황을 시각화하여 제공한다.

카테고리별 지출 및 예산 현황을 보여주는 대시보드 화면 — Screenshot분류된 데이터를 바탕으로 월별 지출 트렌드, 카테고리 비중, 예산 대비 실제 지출액을 시각화하여 사용자에게 인사이트를 제공하는 인터페이스를 확인 가능하다.

사용자 패턴을 분석하여 자동 분류 규칙을 제안하는 Rule Advisor 기능 — Screenshot반복되는 거래 패턴을 감지하여 정규표현식 기반의 규칙 생성을 제안함으로써, 향후 동일 거래 발생 시 LLM 호출 없이 즉시 분류할 수 있게 돕는 과정을 보여준다.

용어 해설

로컬 퍼스트(Local-first): — 데이터의 생성, 저장, 처리가 사용자의 기기 내에서 우선적으로 이루어지는 설계 원칙이다. 클라우드 의존도를 낮춰 데이터 프라이버시를 강화하고 오프라인 작동을 보장하는 것이 핵심이다.
휴리스틱 엔진(Heuristic Engine): — 엄격한 규칙 대신 경험적인 알고리즘이나 패턴 매칭을 통해 데이터를 추론하는 시스템이다. NumbyAI에서는 CSV의 컬럼 구조나 날짜 형식을 자동으로 감지하는 데 사용된다.
서버 전송 이벤트(SSE (Server-Sent Events)): — 서버가 클라이언트로 데이터를 실시간으로 스트리밍할 수 있게 하는 웹 기술이다. LLM의 처리 과정을 실시간으로 사용자 화면에 업데이트하는 데 활용된다.
배치 처리(Batch Processing): — 데이터를 하나씩 처리하지 않고 일정 묶음 단위로 모아서 한꺼번에 처리하는 방식이다. LLM 추론 시 오버헤드를 줄이고 처리 속도를 높이기 위해 사용된다.

기술

Ollama
Qwen 2.5
FastAPI
React
SQLite
PostgreSQL

활용 사례

은행 거래 내역 자동 분류
개인 지출 패턴 분석 대시보드
로컬 AI 기반 데이터 정제
프라이버시 중심 가계부

언급된 리소스

GitHubNumbyAI GitHub Repository

문서Ollama Download