로컬 LLM으로 파일명 기반 의미 그룹화를 자동화하는 간단한 도구를 만들었다

작성자는 게시물 본문에서 예상되는 질문을 선제적으로 다루고 로컬 실행과 안전 장치에 대해 상세히 기술했기 때문에 실무적 관심을 끌기 쉬운 구성이다. 다만 본문에는 댓글이나 토론 결과가 포함되지 않아 실제 커뮤니티의 반응, 예컨대 모델 선택에 대한 대안 논의나 추가 개선 제안은 확인할 수 없다. 따라서 현재로서는 작성자의 구현 의도와 경험 공유만 확인 가능하며 후속 댓글을 통해 추가 실전 정보가 보충될 가능성이 높다.

• 파일명을 정리 가능한 형태로 사전 표준화하면 LLM 기반 분류의 정확도가 크게 향상된다. 파일명에 날짜, 문서 유형, 버전 등의 규칙을 적용하면 모델이 의미를 추출하기 쉬워진다. 자동 이동을 실행하기 전에는 항상 생성된 이동 계획을 출력해 사용자가 검토하고 승인하도록 구성하는 것이 데이터 손실 위험을 줄이는 핵심 수단이다.
• 로컬 모델을 사용할 때는 Ollama 같은 런타임을 통해 모델 이미지를 한 번만 설치하고 추론은 오프라인에서 수행하면 외부 노출을 막을 수 있다. 모델 응답 포맷을 엄격히 통제하고 파싱 단계에서 예외 처리를 넣어 잘못된 응답으로 인한 스크립트 중단을 방지해야 한다. 동일 이름 충돌에는 인덱스 카운터를 붙이는 간단한 정책을 적용하면 데이터 덮어쓰기를 피할 수 있다.

Ollama

— 로컬 환경에서 LLM을 실행하고 모델을 관리하는 런타임으로서 동작한다. 모델 이미지를 로컬로 풀링하고 실행하는 기능을 제공하며 네트워크를 통해 API 키를 외부에 보내지 않아도 로컬 추론이 가능하다. 게시물 맥락에서는 파일명 분류를 위한 단일 LLM 호출을 로컬에서 실행하는 핵심 런타임으로 사용되었다.

Llama 3.2

— 소규모에서 중규모 작업에 사용 가능한 언어모델로서 로컬에서 추론을 수행할 수 있는 모델 버전이다. 게시물에서는 Ollama를 통해 로컬에 설치된 Llama 3.2에 파일명 목록과 엄격한 프롬프트를 전달하여 카테고리별 JSON 출력을 얻는 데 사용되었다. 외부 API 호출 없이 기기 내에서 텍스트 분류 용도로 운용되는 점이 핵심이다.

Strict JSON prompting

— 모델에게 오직 유효한 JSON만 반환하도록 요구하는 프롬프트 방식으로, 사람이 읽는 설명이나 마크다운을 허용하지 않는다. 입력으로 파일명 목록과 원하는 카테고리 목록을 전달하고 출력의 형식을 기계가 파싱 가능한 JSON으로 고정하여 응답 파싱 오류를 줄이는 데 목적이 있다. 게시물 구현은 이 방식으로 모델 응답을 파싱하여 파일 이동 계획을 생성했다.

Filename classification

— 파일 내부 내용을 열람하지 않고 파일명을 입력 신호로 사용하여 파일의 용도나 카테고리를 예측하는 방법이다. 키워드, 패턴, 확장자 외에도 자연어적 이름 해석을 위해 LLM에 파일명 목록을 제공하고 의미 기반 그룹을 도출하는 방식으로 구현된다. 게시물에서는 이 방식의 한계로 파일명이 무의미한 경우 정확도가 떨어진다고 명시했다.