환각 없는 코딩 에이전트 HallBayes V2 출시: 베이지안 검증 기반의 토큰 최적화

실용적 조언

에이전트의 환각으로 인한 토큰 낭비가 심하다면 로그 확률 기반의 검증 로직을 도입하여 답변 거부 기능을 구현하라.
vLLM을 사용하여 로컬에서 모델을 구동하면 API 비용 부담 없이 에이전트의 반복 워크플로우를 실행할 수 있다.

섹션별 상세

환각 없는 코딩을 위해 베이지안 베르누이 프로브(Bayesian Bernoulli probe) 검증 시스템을 구축했다. 저렴한 소형 모델을 활용해 정보 부족 시 기권(Abstention)할 확률을 95% 신뢰 구간 내에서 계산하여 답변의 타당성을 검증한다. 이 과정은 Claude가 실제로 코드를 수정하지 않았음에도 수정한 것처럼 요약하며 토큰을 낭비하는 현상을 원천 차단한다. 결과적으로 세션당 토큰 사용량을 획기적으로 줄여 API 제한 도달을 방지하는 효과가 있다.

Karpathy의 'autoresearcher'에서 영감을 얻은 무한 루프(Infinite loop) 개념을 적용하여 작업의 완결성을 강제했다. 에이전트가 단순히 작업을 수행하는 시늉만 하는 것이 아니라, 실제 결과물이 요구 사항에 부합할 때까지 워크플로우를 반복 실행하도록 설계됐다. 디버깅, 신규 기능 개발, 코드 패칭 등 실제 개발 환경에서 발생할 수 있는 다양한 시나리오를 자동화된 워크플로우로 처리한다. 이는 개발자가 수동으로 에이전트의 결과물을 재검토하고 수정 요청을 반복해야 하는 번거로움을 줄여준다.

사용자 접근성을 높이기 위해 Mac과 Windows용 원클릭 설치 프로그램을 제공하며 초기 운영 비용은 Microsoft 스타트업 크레딧으로 충당한다. 사용자는 별도의 설정 없이 무료로 도구를 이용할 수 있으며, 크레딧 소진 이후에는 개인의 vLLM 서버나 로그 확률(logprobs) 데이터를 제공하는 다른 API 제공자를 연결하여 사용할 수 있다. 이러한 개방형 아키텍처는 기업 내부의 프라이빗 모델을 사용하는 환경에서도 에이전트를 활용할 수 있게 한다. 현재 GitHub와 arXiv를 통해 관련 소스 코드와 연구 논문이 모두 공개된 상태이다.

용어 해설

로그 확률(Logprobs): — LLM이 각 토큰을 생성할 때 계산하는 로그 스케일의 확률값이다. 이 수치를 분석하면 모델이 특정 답변을 내놓을 때의 확신도를 파악할 수 있어, 환각 여부를 판별하는 핵심 지표로 활용된다.
베이지안 베르누이 프로브(Bayesian Bernoulli Probe): — 성공과 실패라는 두 가지 결과(베르누이 시행)에 대해 베이지안 통계학을 적용하여 확률적 신뢰도를 측정하는 기법이다. 본 아티클에서는 모델이 정보를 충분히 가지고 있는지 95% 확률 구간으로 판별하여 답변 거부 여부를 결정하는 데 사용됐다.
기권/답변 거부(Abstention): — 모델이 질문에 대한 충분한 정보를 가지고 있지 않다고 판단될 때 답변을 생성하지 않고 멈추는 메커니즘이다. 억지로 오답을 만들어내는 환각 현상을 방지하여 시스템의 전반적인 신뢰성을 높이는 역할을 한다.

언급된 도구

HallBayes추천링크

환각 없는 코딩 에이전트 (V2)

vLLM중립

로그 확률 데이터를 제공하는 추론 엔진

언급된 리소스

GitHubHallBayes GitHub Repository

문서HallBayes Documentation

논문HallBayes Research Paper (arXiv:2509.11208)