Soju06/codex-lb

Python2 / 0

여러 ChatGPT/Codex 계정을 풀로 묶어 요청을 분배하고 계정별 토큰·비용을 대시보드에서 추적하는 OpenAI 호환 프록시이자 로드밸런서이다.

TL;DR

Codex LB는 여러 ChatGPT/Codex 계정을 하나의 풀로 묶어 요청을 분배하고 계정별 토큰과 비용을 대시보드에서 실시간으로 추적하는 OpenAI 호환 프록시이자 로드밸런서이다. 들어오는 요청은 선택한 라우팅 전략(capacity weighted, usage weighted, relative availability 등)에 따라 특정 계정으로 프록시되며 API 키 기반 접근 제어와 모델 허용 목록, WebSocket 스트리밍 호환을 통해 기존 Codex/OpenAI 클라이언트와 투명하게 연동된다. Docker·Helm·Kubernetes 배포와 SQLite 기본 백엔드를 제공하고 PostgreSQL을 선택해 확장할 수 있으며 최초 기동 시 로그에 출력되는 부트스트랩 토큰으로 초기 비밀번호를 설정할 수 있다. 운영자가 계정 소진 위험을 줄이고 비용 가시성을 확보하려는 환경에서 유용하지만 원문에서 권장하는 정책 준수와 계정 사용 패턴 관리 없이 무작정 대량 트래픽을 보낼 경우 계정 안전을 보장하지는 않는다.

핵심 포인트

OpenAI/Codex 호환 엔드포인트와 Responses API 및 WebSocket 스트리밍 호환을 동시에 제공하여 기존 클라이언트를 투명하게 재사용할 수 있다.
대시보드에서 계정별 토큰·비용·28일 트렌드를 시각화하고 API 키별 모델·토큰·비용 제한을 한곳에서 관리할 수 있다.
여러 라우팅 전략을 내장하여 용량 기반, 사용 기반, 상대 가용성 등 상황에 맞는 분배 정책을 선택할 수 있다.
Docker 단일 인스턴스부터 Helm 기반 Kubernetes 배포까지 다양한 운영 환경을 공식 문서로 지원한다.