TL;DR
yesbrainer는 karpathy/llm-council의 기본 아이디어를 계승하되 서버 의존을 제거하고 브라우저 정적 번들로 동작하도록 재구성한 오픈소스 프로젝트이다. 이 구현은 사용자가 API 키를 로컬에 보관하고 브라우저에서 직접 선택한 공급자들로 요청을 전송하게 하며 중재자 모델이 라운드별로 핵심 쟁점을 추출해 모델들로 하여금 익명화된 상대 주장을 보고 재응답하게 하는 합의 모드를 중심으로 작동한다. 기본 라운드 상한은 3회로 설정되어 있고 중재자는 수렴 여부와 남은 분쟁점을 구조화해 보고하므로 UI에서 어떤 모델이 어떤 근거로 입장을 바꿨는지 추적할 수 있다. 저장소와 키 없는 녹화 데모가 제공되어 접근과 재현이 가능하지만 익명화의 실효성과 브라우저 기반 BYOK의 운영·보안 트레이드오프는 추가 검증이 필요하다.
합의점 vs 논쟁점
합의점
- 여러 모델을 동시에 운용해 서로의 근거를 교환시키면 단일 모델 출력을 단순 랭킹하는 방식보다 명시적 합의 지점과 남은 논점이 더 분명해진다는 점이 핵심 합의점으로 나타났다. 이 방식은 중재자가 핵심 쟁점을 추려 다음 라운드로 넘기는 순환 구조를 통해 서로 다른 관점이 어떻게 수렴하거나 유지되는지를 추적할 수 있게 한다. 저장소와 데모 링크가 제공되어 개발자가 직접 재현하고 UI로 변화 이력을 시각화할 수 있다는 점도 동의되었다.
- 브라우저 단독 실행과 BYOK 아키텍처는 백엔드 운영 부담과 중앙 키 노출 위험을 줄이며 사용자 제어를 강화한다는 점에서 합의가 형성되었다. 클라이언트가 직접 공급자 API에 요청을 전송하므로 서버 측 비용과 보안 관리 포인트가 축소된다. 다만 이 접근은 사용자의 환경과 브라우저 리소스에 의존하는 트레이드오프를 동반한다는 점도 공감대가 있었다.
논쟁점
- 익명화와 라벨 재섞기는 브랜드 식별을 막고 모델들이 타 브랜드에 대한 적응을 학습하는 것을 방지하려는 의도로 설계되었으나 이 절차가 실제로 편향 제거에 얼마나 효과적인지는 논쟁의 여지가 있다. 익명화로 인해 모델 간 상호 참조가 단순해지지만 동일한 모델이 라운드를 거치며 학습 효과를 얻을 가능성은 남아 있다. 따라서 익명화의 실효성과 라벨 재섞기의 한계가 논쟁점으로 남아 있다.
- 브라우저 기반 BYOK 접근은 보안과 프라이버시 장점이 있으나 키를 localStorage에 저장하는 방식은 브라우저 환경에 따라 노출 위험과 관리 부담을 야기할 수 있다는 우려가 제기될 수 있다. 중앙 서버가 개입하지 않음으로써 서버 측 제어와 로깅, 요청 중재 기능이 사라지므로 운영적 모니터링과 감사가 어려워진다. 이로 인해 실제 프로덕션 환경에 적용할 때의 규정 준수와 감사 가능성 문제가 논란이 된다.
실용적 조언
- 프로젝트를 바로 시도하려면 공개된 GitHub 저장소를 클론하고 브라우저에서 정적 번들을 열어 API 키를 localStorage에 등록한 뒤 사용자가 원하는 공급자를 선택해 라운드를 구성하면 된다. 라운드 상한값 기본은 3으로 설정되어 있으므로 먼저 작은 라운드 수로 실험하며 중재자 출력의 구조화 필드를 확인해 어떤 논점이 반복적으로 등장하는지 관찰하는 것이 권장된다. UI에서 중재자의 per-model 'held/shifted' 요약을 노출하면 어떤 주장으로 모델이 입장을 바꿨는지 추적해 모델별 신뢰도를 평가하는 데 유용하다.
- 익명화 규칙을 그대로 사용하면 브랜드 식별 효과를 낮출 수 있으나 실험 단계에서는 라벨을 유지한 상태와 익명화한 상태 모두에 대해 비교 검증을 수행해 익명화가 실제로 편향 완화에 기여하는지 확인해야 한다. BYOK 구조를 적용할 때는 브라우저 저장소의 보안 특성을 숙지하고 키 만료·재인증 정책을 별도로 설계해 사용자의 키가 장기간 노출되지 않도록 관리해야 한다. 로컬 실행 환경의 한계로 인해 요청 지연이나 공급자별 응답 품질 차이가 결과에 미치는 영향을 계측하는 것도 필수적이다.
섹션별 상세
용어 해설
- Consensus Mode
- — 합의 모드는 여러 개의 LLM이 초기 답변을 독립적으로 생성한 뒤 중재자 모델이 의견의 수렴 여부를 판정하고 논점 차이를 요약해 다음 라운드 질의로 전달하는 반복적 상호작용 방식이다. 각 라운드에서 모델들은 자신의 이전 답변과 동료 모델의 주장을 참고해 재응답을 생성하므로 입력→논점 추출→재응답의 순환으로 작동한다. 이 방식은 단일 랭킹보다 서로의 근거를 교환하면서 명시적 합의 지점과 남은 분쟁점을 드러내는 데 중요하다.
- Mediator Model
- — 중재자 모델은 각 참여 모델의 답변을 익명화해 비교·판단하고 수렴 여부를 결정하며 논점 분류와 재질의(다음 라운드에 줄 요약) 출력을 생성하는 역할을 수행한다. 입력으로는 익명화된 답변 집합을 받고 처리 결과로 수렴 여부, 핵심 쟁점, 각 모델별 유지·변경 요약을 구조화해 반환한다. 이 출력은 어떤 주장으로 인해 모델이 입장을 바꿨는지를 UI나 후속 라운드에 명확히 연결하는 데 필수적이다.
- Bring-Your-Own-Keys (BYOK)
- — BYOK 관행은 API 키와 인증 정보를 중앙 서버가 아닌 사용자의 브라우저 저장소에 보관하고 클라이언트에서 직접 공급자 API로 요청을 전송하는 설계 원리이다. 이 방식은 백엔드 리스크를 줄이고 운영 비용을 낮추며 사용자가 원하는 공급자를 직접 선택할 수 있게 한다. 브라우저 정적 번들로 동작하는 애플리케이션에서 키를 localStorage에 두어 서버가 개입하지 않는 구조를 실현하는 데 사용된다.
언급된 도구
LLM 공급자
LLM 공급자
LLM 공급자
LLM 공급자
중개형 API 라우팅 서비스
로컬 추론 제공자(로컬 모델 실행)
데모에서 사용된 모델 예시
데모에서 사용된 모델 예시
데모에서 사용된 모델 예시
언급된 리소스
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.