이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
이 프로젝트는 하나의 질문을 여러 모델에 동시에 보내고 각 모델이 서로의 답변을 출처 없이 교차 검토하도록 하여 답변 간 불일치를 0에서 100으로 수치화하는 도구이다. 새로 추가된 게스트 좌석 기능은 외부에서 붙여넣은 답변을 익명으로 패널에 참여시켜 내부 모델과 동등하게 평정하게 하며, Ollama·vLLM·llama.cpp 같은 로컬 추론 엔진과의 호환성으로 클라우드 키 없이도 실행이 가능하다. CLI 기반의 --fail-above 같은 임계값 설정은 연속 통합 파이프라인에서 불일치 감지 용도로 활용되며, MIT 라이선스와 텔레메트리 미수집 정책은 내부 사용과 데이터 프라이버시 요구를 만족한다. 다만 결과의 신뢰성은 참여 모델 구성과 실행 환경에 따라 달라지므로 실사용 전 모델 조합과 환경을 검증해야 한다.
섹션별 상세
이 도구는 하나의 질문을 여러 모델에 동시에 전달하고 각 모델이 서로의 답변을 익명으로 비평한 뒤 답변 간 거리를 0에서 100까지의 점수로 수치화한다. 입력으로 질문을 받고 내부적으로 각 모델의 응답을 수집하여 식별자를 제거한 채 크로스리뷰를 수행하며 출력으로는 모델 간 분산과 단독으로 서는 답변을 보여준다. 이러한 방식은 유명 모델에 대한 자동적 신뢰를 배제하고 비교의 공정성을 확보한다.
새 버전에서 추가된 게스트 좌석 기능은 외부 출처에서 복사한 답변 파일을 익명 조언자로 라운드에 참여시키는 역할을 한다. 시스템은 게스트 답변의 출처 정보를 제거한 상태로 다른 모델들이 출처를 모른 채 검토하도록 처리하며 이 답변 역시 합산 점수에 포함된다. 이 기능은 내부 모델과 외부 의견을 블라인드 환경에서 직접 비교할 수 있게 하여 외부 기여의 상대적 일관성을 평가할 수 있게 한다.
Council은 다양한 API 호환 런타임과 로컬 추론 엔진을 지원하여 클라우드 API 키가 없어도 단일 모델로 실행이 가능하도록 설계되었다. 본문에는 Claude·GPT 계열·Gemini·DeepSeek·Grok·Mistral·Perplexity·OpenRouter와 Ollama, Apple의 온디바이스 모델, llama.cpp, LM Studio, vLLM 등 여러 런타임이 언급되어 있어 다양한 실행 환경과 호환됨이 확인된다. 로컬에서 실행하면 입력·출력 데이터가 외부로 유출되지 않으므로 프라이버시와 규정 준수 측면에서 이점이 발생한다.
커맨드라인 인터페이스가 제공되어 자동화 스크립트에 쉽게 통합할 수 있으며 --fail-above 같은 옵션으로 불일치 임계값을 설정하면 임계값 초과 시 비정상 종료 코드로 반환된다. 예시 명령은 council "should we ship now or wait?" --seats claude,gpt,ollama --guest answer.txt --json `--fail-above 40` 이며 이 형식은 JSON 출력과 실패 조건을 동시에 처리하도록 설계되었다. 저장소는 MIT 라이선스를 따르고 텔레메트리와 계정 요구가 없어 내부 배포와 보안 요구를 충족하기에 적합하다.
용어 해설
- 로컬 추론(Local inference)
- — 로컬 추론은 클라우드 대신 사용자의 로컬 머신이나 사내 서버에서 모델을 실행하여 입력을 처리하고 출력을 생성하는 방식이다. 입력 텍스트를 로컬 런타임으로 전달하면 해당 런타임이 토큰화·모델 전파·후처리 과정을 수행하여 결과를 반환하며, 네트워크 전송을 최소화한다. 데이터가 외부로 유출되지 않아 프라이버시와 규정 준수 측면에서 장점이 있으나 하드웨어 리소스와 설정 복잡도를 고려해야 한다.
- 디바이스 내 모델(On-device model)
- — 디바이스 내 모델은 스마트폰이나 개인용 컴퓨터 같은 단말 장치 자체에서 직접 실행되는 경량화된 모델을 뜻한다. 이 모델은 주로 낮은 레이턴시와 네트워크 의존도 제거를 위해 양자화나 저랭크 근사 같은 최적화 기법을 적용하여 디바이스 자원 범위 내에서 추론을 수행한다. 외부 서버로 민감한 데이터를 전송하지 않으므로 보안과 응답성에서 이점이 있으나 모델 용량과 정확도에서 제약이 발생할 수 있다.
- 추론 엔진(Inference engine)
- — 추론 엔진은 학습된 모델을 효율적으로 실행하기 위한 소프트웨어 또는 런타임 환경으로, 입력 텍스트를 토큰화하고 연산을 배포하여 모델 출력을 생성한다. 예시로 vLLM, Ollama, llama.cpp 같은 엔진은 배치 처리, 캐시, GPU/CPU 오프로드 등 실행 최적화를 제공하여 대규모 모델의 실사용 성능을 개선한다. 추론 엔진 선택은 지연 시간·처리량·자원 사용량·호환성에 직접적인 영향을 미친다.
- API 키(API key)
- — API 키는 외부 서비스의 API에 인증된 접근을 허용하는 식별자이며, 서비스 호출 시 요청 헤더나 파라미터에 포함되어 인증·청구를 가능하게 한다. 클라우드 기반 모델에 연결할 때 각 모델 제공자가 발급한 키를 사용하여 요청을 서명하거나 인증을 수행하며, 키 관리와 권한 제어가 보안상 중요하다. 로컬 실행이나 오픈 소스 런타임을 사용하면 API 키 의존도를 낮춰 비용과 데이터 전송 위험을 줄일 수 있다.
코드 예제
bash
council "should we ship now or wait?" --seats claude,gpt,ollama --guest answer.txt --json `--fail-above 40`CLI 예시로 다수 모델을 좌석으로 지정하고 게스트 답변을 포함하여 JSON 출력과 실패 임계값을 설정하는 명령이다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 07. 28.수집 2026. 07. 28.출처 타입 REDDIT
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.