계정 풀 기반 토큰·비용 추적이 가능한 Codex/OpenAI 호환 로드밸런서
여러 ChatGPT/Codex 계정을 풀로 묶어 요청을 분배하고 계정별 토큰·비용을 대시보드에서 추적하는 OpenAI 호환 프록시이자 로드밸런서이다.
TL;DR
Codex LB는 여러 ChatGPT/Codex 계정을 하나의 풀로 묶어 요청을 분배하고 계정별 토큰과 비용을 대시보드에서 실시간으로 추적하는 OpenAI 호환 프록시이자 로드밸런서이다. 들어오는 요청은 선택한 라우팅 전략(capacity weighted, usage weighted, relative availability 등)에 따라 특정 계정으로 프록시되며 API 키 기반 접근 제어와 모델 허용 목록, WebSocket 스트리밍 호환을 통해 기존 Codex/OpenAI 클라이언트와 투명하게 연동된다. Docker·Helm·Kubernetes 배포와 SQLite 기본 백엔드를 제공하고 PostgreSQL을 선택해 확장할 수 있으며 최초 기동 시 로그에 출력되는 부트스트랩 토큰으로 초기 비밀번호를 설정할 수 있다. 운영자가 계정 소진 위험을 줄이고 비용 가시성을 확보하려는 환경에서 유용하지만 원문에서 권장하는 정책 준수와 계정 사용 패턴 관리 없이 무작정 대량 트래픽을 보낼 경우 계정 안전을 보장하지는 않는다.
주요 기능
- 계정 풀링을 통해 여러 ChatGPT 계정으로 트래픽을 분배하고 다양한 라우팅 전략을 지원한다.
- 계정별 토큰 사용량과 비용을 추적하여 28일 트렌드와 실시간 잔여량을 대시보드에서 표시한다.
- API 키 단위의 제한을 모델·토큰·비용·윈도우 기반으로 설정하고 키 생성 시 한 번만 전체 값을 표시한다.
- OpenAI/Codex 호환 엔드포인트(/v1, /backend-api/codex)를 노출하여 기존 클라이언트와 무리 없이 연동한다.
- Docker, Helm, Kubernetes 배포와 SQLite 기본 DB, PostgreSQL 선택적 백엔드를 지원한다.
어떻게 동작하는가
codex-lb는 여러 ChatGPT/Codex 계정을 풀로 관리하고 들어오는 OpenAI 호환 요청을 선택된 라우팅 전략에 따라 풀의 특정 계정으로 프록시한다. 라우팅 과정에서 계정별 잔여 토큰·최근 사용량·리셋 타이밍 같은 메타데이터를 고려하여 capacity weighted, usage weighted, relative availability 등 다양한 정책을 적용한다. 또한 Responses API 및 WebSocket 스트리밍을 지원하며 API 키 인증과 대시보드 기반의 사용 제한, 모델 허용 목록을 통해 액세스 제어와 회계 추적을 수행한다.
해결 문제
직접 여러 ChatGPT/Codex 계정을 운영할 때 발생하는 토큰 할당 불균형, 단일 계정 과다 사용, 그리고 계정별 비용·사용량 가시성 부족 문제를 해결한다. 풀링과 라우팅 전략을 통해 요청을 여러 계정으로 분산시키고 대시보드에서 계정별 잔여량과 비용 지표를 제공하여 운영자가 쿼터 소진을 예측하고 트래픽을 조정할 수 있도록 한다. 또한 OpenAI 호환 엔드포인트를 제공하여 기존 클라이언트를 변경 없이 연결하고 API 키 기반 제한으로 원격 접근을 안전하게 제어할 수 있게 한다.
지금 주목받는 이유
GitHub에서 2,261개의 스타를 보유하며 멀티 계정 운영과 비용 가시성 요구를 가진 사용자들 사이에서 주목을 받고 있다.
차별점
- OpenAI/Codex 호환 엔드포인트와 Responses API 및 WebSocket 스트리밍 호환을 동시에 제공하여 기존 클라이언트를 투명하게 재사용할 수 있다.
- 대시보드에서 계정별 토큰·비용·28일 트렌드를 시각화하고 API 키별 모델·토큰·비용 제한을 한곳에서 관리할 수 있다.
- 여러 라우팅 전략을 내장하여 용량 기반, 사용 기반, 상대 가용성 등 상황에 맞는 분배 정책을 선택할 수 있다.
- Docker 단일 인스턴스부터 Helm 기반 Kubernetes 배포까지 다양한 운영 환경을 공식 문서로 지원한다.
사용 사례
- 여러 상용 ChatGPT/Codex 계정을 보유한 조직이 트래픽을 분산시키고 계정별 쿼터를 효율적으로 소비할 때 사용한다.
- 로컬 개발 환경에서 OpenAI 호환 엔드포인트로 Codex CLI나 OpenCode 같은 도구를 연결해 기존 워크플로를 유지하면서 계정 풀링을 적용할 때 사용한다.
- 자동화된 테스트나 대규모 배치 작업에서 특정 계정에 트래픽이 집중되지 않도록 용량 가중 또는 라운드로빈 전략으로 분산할 때 사용한다.
- 클라우드 또는 온프레미스 환경에서 Docker/Helm으로 배포해 여러 복제본을 운영하고 중앙 대시보드로 사용량을 모니터링할 때 사용한다.
시작하기
가장 빠른 설치 방법은 도커 이미지를 실행하는 것으로, 예시 명령으로 ghcr.io/soju06/codex-lb:latest 컨테이너를 포트 2455로 노출하고 데이터 볼륨을 마운트하면 기본 대시보드가 실행된다. 로컬에서 접속하면 localhost:2455로 이동해 계정을 추가하면 즉시 사용할 수 있으며 최초 구동 시 로그에 출력되는 부트스트랩 토큰으로 초기 비밀번호를 설정할 수 있다. 개발자는 uvx나 로컬 개발 모드로 백엔드와 프런트엔드를 별도로 실행하여 코드 변경 시 핫 리로딩으로 테스트할 수 있다.
요구사항
- Docker 또는 uvx로 실행할 수 있으며 로컬에서는 추가 인증 없이 접근 가능하다.
- 기본 데이터베이스는 SQLite이며 프로덕션용으로 PostgreSQL을 선택하려면 CODEX_LB_DATABASE_URL 환경변수를 설정해야 한다.
- 프런트엔드 개발 시 bun이 필요하며 백엔드 개발은 Python 기반 FastAPI 환경에서 실행된다.
이미지 분석




2.3k
Stars
353
Forks
+204
Trending
2
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.